OPML技術革新:ブロックチェーン上で効率的なAIモデル推論と訓練を実現

robot
概要作成中

OPML:楽観的機械学習がブロックチェーンシステムにもたらす新たな機会

OPML(楽観的機械学習)は、新興技術であり、ブロックチェーンシステム上でAIモデルの推論とトレーニングを実現することができます。ZKMLと比較して、OPMLは低コストで高効率の利点があります。普通のPCでも、GPUなしで7B-LLaMA(などの大規模言語モデルを約26GB)実行することができます。

OPMLは、MLサービスの分散化と検証可能性を確保するために、Truebitやオプティミスティックサマリーシステムに類似した検証ゲームメカニズムを採用しています:

  1. リクエスターはMLサービスタスクを開始します
  2. サーバーはタスクを完了し、その結果をチェーンに提出します
  3. バリデーターは結果を確認し、エラーが見つかった場合は検証ゲームを開始します。
  4. スマートコントラクトによる最終仲裁

! OPML:楽観的ロールアップによる機械学習

シングルステージ検証ゲーム

シングルステージピンポイントプロトコルは、(RDoC)次数の計算と同様に機能します。 OPMLの

  • オフチェーン実行とオンチェーン仲裁のための仮想マシン(VM)を構築しました。
  • 専用の軽量DNNライブラリを実現し、AIモデルの推論効率を向上させました
  • クロスコンパイル技術を使用してAIモデル推論コードをVM命令にコンパイルする
  • VMイメージはメルクルツリーで管理され、ルートハッシュのみがチェーン上にアップロードされます。

テストによれば、PCで基本的なAIモデルの推論を2秒以内に完了でき、全体のチャレンジプロセスは2分以内に完了できます。

! OPML:楽観的ロールアップシステムによる機械学習

マルチステージ検証ゲーム

単一段階プロトコルの限界を克服するために、多段階プロトコルの拡張が提案された。

  • 最後の段階のみVMで計算し、他の段階はローカル環境で実行可能
  • CPU、GPU、TPU、さらには並列処理を利用して、パフォーマンスを大幅に向上させる
  • メルクルツリーを採用して、ステージの移行の完全性と安全性を確保する

例として LLaMA モデルを使用した 2 段階の OPML アプローチ:

  1. 第2段階:計算グラフ上で検証ゲームを行うことができ、マルチスレッドCPUまたはGPUを使用することができます
  2. フェーズ 1: 1 つのノードを VM 命令に変換する

! OPML:楽観的ロールアップによる機械学習

パフォーマンスの改善

多段階検証フレームワークは単段階OPMLと比較して:

  • GPUや並列計算よりもα倍高速(α )高速
  • MerkleツリーのサイズはO(mn)からO(m+n)に減少します。

! OPML:楽観的ロールアップによる機械学習

一貫性と確実性

ML結果の一貫性を確保するために、OPMLは次のように採用しています:

  1. 定点アルゴリズム(量子技術):固定精度を浮動小数点の代わりに使用する
  2. ソフトウェアベースの浮動小数点ライブラリ: クロスプラットフォームの一貫性を確保する

これらの方法は、浮動小数点変数とプラットフォームの違いによって生じる課題を効果的に解決し、OPML計算の信頼性を高めました。

OPMLはまだ開発中ですが、巨大な潜在能力を示しています。それはモデル推論をサポートするだけでなく、トレーニングプロセスにも適しており、ブロックチェーンシステム上の機械学習タスクに包括的な解決策を提供します。

! OPML:楽観的ロールアップシステムによる機械学習

原文表示
このページには第三者のコンテンツが含まれている場合があり、情報提供のみを目的としております(表明・保証をするものではありません)。Gateによる見解の支持や、金融・専門的な助言とみなされるべきものではありません。詳細については免責事項をご覧ください。
  • 報酬
  • 4
  • リポスト
  • 共有
コメント
0/400
GateUser-c799715cvip
· 7時間前
GPUなしで大モデルを実行できる、まあまあだね
原文表示返信0
SolidityStrugglervip
· 08-10 22:43
ただの簡易版TrueBitじゃん
原文表示返信0
PortfolioAlertvip
· 08-10 22:42
通常のマシンガベージコレクション時間
原文表示返信0
Web3ProductManagervip
· 08-10 22:23
ユーザーメトリクスを見ていると、opmlはweb3 aiの採用において大きな摩擦を軽減する可能性があります...正直なところ、ここでのtpmのポテンシャルは異常です。
原文表示返信0
  • ピン
いつでもどこでも暗号資産取引
qrCode
スキャンしてGateアプリをダウンロード
コミュニティ
日本語
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)