OPML : L'apprentissage automatique optimiste apporte de nouvelles opportunités aux systèmes Blockchain
OPML( apprentissage automatique optimiste) est une technologie émergente qui permet l'inférence et l'entraînement de modèles d'IA sur des systèmes Blockchain. Par rapport à ZKML, OPML présente l'avantage d'un coût bas et d'une efficacité élevée. Même sur un PC ordinaire, il est possible d'exécuter de grands modèles de langage comme 7B-LLaMA( d'environ 26 Go) sans GPU.
OPML utilise un mécanisme de jeu de validation, similaire à Truebit et au système de résumé optimiste, pour garantir la décentralisation et la vérifiabilité des services ML :
Le demandeur lance une tâche de service ML
Le serveur termine la tâche et soumet le résultat sur la Blockchain
Les validateurs vérifient les résultats, et s'ils découvrent une erreur, ils déclenchent le jeu de validation.
Arbitrage final des contrats intelligents
Jeu de validation à une seule étape
Le principe de fonctionnement du protocole de localisation précise en une seule étape est similaire à celui de la délégation de calcul (RDoC). Dans OPML :
Construit une machine virtuelle pour l'exécution hors chaîne et l'arbitrage sur chaîne (VM)
Mise en œuvre d'une bibliothèque DNN légère dédiée, améliorant l'efficacité de l'inférence des modèles d'IA
Utiliser la technique de compilation croisée pour compiler le code d'inférence du modèle AI en instructions VM
L'image VM est gérée par un arbre de Merkle, seul le hachage de la racine est téléchargé sur la blockchain.
Les tests montrent qu'il est possible de terminer l'inférence de base du modèle d'IA sur PC en 2 secondes, et l'ensemble du processus de défi peut être complété en 2 minutes.
Jeu de vérification multi-étapes
Pour surmonter les limitations du protocole à une seule phase, une extension du protocole multi-phase a été proposée :
Seulement la dernière phase est calculée dans la VM, les autres phases peuvent être exécutées dans l'environnement local.
Utiliser le CPU, le GPU, le TPU et même le traitement parallèle pour améliorer considérablement les performances.
Utilisation d'un arbre de Merkle pour garantir l'intégrité et la sécurité des transitions de phase
Méthode OPML en deux étapes utilisant le modèle LLaMA :
Deuxième phase : effectuer un jeu de validation sur le graphique de calcul, pouvant utiliser un CPU ou GPU multi-thread.
Première phase : convertir le calcul d'un nœud unique en instructions VM
Améliorations de performance
Cadre de validation multi-étapes par rapport à OPML à une seule étape :
Vitesse de calcul augmentée de α fois ( α pour le GPU ou le rapport d'accélération de calcul parallèle )
La taille de l'arbre Merkle passe de O(mn) à O(m+n)
Cohérence et déterminisme
Pour garantir la cohérence des résultats ML, OPML adopte :
Algorithme à points fixes( technologie de quantification) : utilisation de la précision fixe à la place des nombres à virgule flottante
Bibliothèque de flottants basée sur le logiciel : assurer la cohérence multiplateforme
Ces méthodes ont efficacement résolu les défis posés par les variables flottantes et les différences de plateforme, renforçant la fiabilité du calcul OPML.
OPML est encore en développement, mais a déjà montré un énorme potentiel. Il prend non seulement en charge l'inférence de modèles, mais est également adapté au processus d'entraînement, offrant une solution complète pour les tâches d'apprentissage automatique sur les systèmes Blockchain.
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
14 J'aime
Récompense
14
4
Reposter
Partager
Commentaire
0/400
GateUser-c799715c
· Il y a 7h
Pas besoin de GPU pour exécuter de grands modèles, ça va, ça va.
Voir l'originalRépondre0
SolidityStruggler
· 08-10 22:43
Ce n'est qu'une version simplifiée de TrueBit.
Voir l'originalRépondre0
PortfolioAlert
· 08-10 22:42
Temps de récupération des déchets des machines ordinaires
Voir l'originalRépondre0
Web3ProductManager
· 08-10 22:23
en regardant les métriques utilisateurs, l'opml pourrait être un réducteur de friction majeur pour l'adoption de l'IA web3... pas mentir, le potentiel tpm ici est fou
Innovation technologique OPML : réalisation d'une inférence et d'un entraînement de modèle AI efficaces sur la Blockchain
OPML : L'apprentissage automatique optimiste apporte de nouvelles opportunités aux systèmes Blockchain
OPML( apprentissage automatique optimiste) est une technologie émergente qui permet l'inférence et l'entraînement de modèles d'IA sur des systèmes Blockchain. Par rapport à ZKML, OPML présente l'avantage d'un coût bas et d'une efficacité élevée. Même sur un PC ordinaire, il est possible d'exécuter de grands modèles de langage comme 7B-LLaMA( d'environ 26 Go) sans GPU.
OPML utilise un mécanisme de jeu de validation, similaire à Truebit et au système de résumé optimiste, pour garantir la décentralisation et la vérifiabilité des services ML :
Jeu de validation à une seule étape
Le principe de fonctionnement du protocole de localisation précise en une seule étape est similaire à celui de la délégation de calcul (RDoC). Dans OPML :
Les tests montrent qu'il est possible de terminer l'inférence de base du modèle d'IA sur PC en 2 secondes, et l'ensemble du processus de défi peut être complété en 2 minutes.
Jeu de vérification multi-étapes
Pour surmonter les limitations du protocole à une seule phase, une extension du protocole multi-phase a été proposée :
Méthode OPML en deux étapes utilisant le modèle LLaMA :
Améliorations de performance
Cadre de validation multi-étapes par rapport à OPML à une seule étape :
Cohérence et déterminisme
Pour garantir la cohérence des résultats ML, OPML adopte :
Ces méthodes ont efficacement résolu les défis posés par les variables flottantes et les différences de plateforme, renforçant la fiabilité du calcul OPML.
OPML est encore en développement, mais a déjà montré un énorme potentiel. Il prend non seulement en charge l'inférence de modèles, mais est également adapté au processus d'entraînement, offrant une solution complète pour les tâches d'apprentissage automatique sur les systèmes Blockchain.