Innovation technologique OPML : réalisation d'une inférence et d'un entraînement de modèle AI efficaces sur la Blockchain

robot
Création du résumé en cours

OPML : L'apprentissage automatique optimiste apporte de nouvelles opportunités aux systèmes Blockchain

OPML( apprentissage automatique optimiste) est une technologie émergente qui permet l'inférence et l'entraînement de modèles d'IA sur des systèmes Blockchain. Par rapport à ZKML, OPML présente l'avantage d'un coût bas et d'une efficacité élevée. Même sur un PC ordinaire, il est possible d'exécuter de grands modèles de langage comme 7B-LLaMA( d'environ 26 Go) sans GPU.

OPML utilise un mécanisme de jeu de validation, similaire à Truebit et au système de résumé optimiste, pour garantir la décentralisation et la vérifiabilité des services ML :

  1. Le demandeur lance une tâche de service ML
  2. Le serveur termine la tâche et soumet le résultat sur la Blockchain
  3. Les validateurs vérifient les résultats, et s'ils découvrent une erreur, ils déclenchent le jeu de validation.
  4. Arbitrage final des contrats intelligents

OPML : Utilisation d'un système Optimistic Rollup pour l'apprentissage automatique

Jeu de validation à une seule étape

Le principe de fonctionnement du protocole de localisation précise en une seule étape est similaire à celui de la délégation de calcul (RDoC). Dans OPML :

  • Construit une machine virtuelle pour l'exécution hors chaîne et l'arbitrage sur chaîne (VM)
  • Mise en œuvre d'une bibliothèque DNN légère dédiée, améliorant l'efficacité de l'inférence des modèles d'IA
  • Utiliser la technique de compilation croisée pour compiler le code d'inférence du modèle AI en instructions VM
  • L'image VM est gérée par un arbre de Merkle, seul le hachage de la racine est téléchargé sur la blockchain.

Les tests montrent qu'il est possible de terminer l'inférence de base du modèle d'IA sur PC en 2 secondes, et l'ensemble du processus de défi peut être complété en 2 minutes.

OPML : Système d'apprentissage automatique utilisant Optimistic Rollup

Jeu de vérification multi-étapes

Pour surmonter les limitations du protocole à une seule phase, une extension du protocole multi-phase a été proposée :

  • Seulement la dernière phase est calculée dans la VM, les autres phases peuvent être exécutées dans l'environnement local.
  • Utiliser le CPU, le GPU, le TPU et même le traitement parallèle pour améliorer considérablement les performances.
  • Utilisation d'un arbre de Merkle pour garantir l'intégrité et la sécurité des transitions de phase

Méthode OPML en deux étapes utilisant le modèle LLaMA :

  1. Deuxième phase : effectuer un jeu de validation sur le graphique de calcul, pouvant utiliser un CPU ou GPU multi-thread.
  2. Première phase : convertir le calcul d'un nœud unique en instructions VM

OPML : Système de machine learning utilisant Optimistic Rollup

Améliorations de performance

Cadre de validation multi-étapes par rapport à OPML à une seule étape :

  • Vitesse de calcul augmentée de α fois ( α pour le GPU ou le rapport d'accélération de calcul parallèle )
  • La taille de l'arbre Merkle passe de O(mn) à O(m+n)

OPML : Système de machine learning utilisant Optimistic Rollup

Cohérence et déterminisme

Pour garantir la cohérence des résultats ML, OPML adopte :

  1. Algorithme à points fixes( technologie de quantification) : utilisation de la précision fixe à la place des nombres à virgule flottante
  2. Bibliothèque de flottants basée sur le logiciel : assurer la cohérence multiplateforme

Ces méthodes ont efficacement résolu les défis posés par les variables flottantes et les différences de plateforme, renforçant la fiabilité du calcul OPML.

OPML est encore en développement, mais a déjà montré un énorme potentiel. Il prend non seulement en charge l'inférence de modèles, mais est également adapté au processus d'entraînement, offrant une solution complète pour les tâches d'apprentissage automatique sur les systèmes Blockchain.

OPML : Utilisation d'un système Optimistic Rollup pour l'apprentissage automatique

Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
  • Récompense
  • 4
  • Reposter
  • Partager
Commentaire
0/400
GateUser-c799715cvip
· Il y a 7h
Pas besoin de GPU pour exécuter de grands modèles, ça va, ça va.
Voir l'originalRépondre0
SolidityStrugglervip
· 08-10 22:43
Ce n'est qu'une version simplifiée de TrueBit.
Voir l'originalRépondre0
PortfolioAlertvip
· 08-10 22:42
Temps de récupération des déchets des machines ordinaires
Voir l'originalRépondre0
Web3ProductManagervip
· 08-10 22:23
en regardant les métriques utilisateurs, l'opml pourrait être un réducteur de friction majeur pour l'adoption de l'IA web3... pas mentir, le potentiel tpm ici est fou
Voir l'originalRépondre0
  • Épingler
Trader les cryptos partout et à tout moment
qrCode
Scan pour télécharger Gate app
Communauté
Français (Afrique)
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)