Inovasi Teknologi OPML: Mewujudkan Inferensi dan Pelatihan Model AI yang Efisien di Blockchain

robot
Pembuatan abstrak sedang berlangsung

OPML: Pembelajaran mesin optimis membawa peluang baru untuk sistem blockchain

OPML( Pembelajaran Mesin Optimis) adalah teknologi baru yang dapat menerapkan inferensi dan pelatihan model AI di sistem Blockchain. Dibandingkan dengan ZKML, OPML memiliki keuntungan biaya rendah dan efisiensi tinggi. Bahkan di PC biasa, model bahasa besar seperti 7B-LLaMA( dapat dijalankan tanpa GPU sekitar 26GB).

OPML menggunakan mekanisme permainan verifikasi, mirip dengan Truebit dan sistem ringkasan optimis, untuk memastikan desentralisasi dan verifikasi layanan ML:

  1. Pihak yang meminta memulai tugas layanan ML
  2. Server menyelesaikan tugas dan mengirimkan hasilnya ke blok.
  3. Validator memeriksa hasil, jika menemukan kesalahan maka memulai permainan verifikasi
  4. Kontrak pintar melakukan arbitrase akhir

OPML: Menggunakan sistem Optimistic Rollup untuk pembelajaran mesin

Permainan Verifikasi Satu Tahap

Prinsip kerja protokol penentuan posisi presisi satu tahap mirip dengan penugasan komputasi (RDoC). Dalam OPML:

  • Membangun mesin virtual untuk eksekusi off-chain dan arbitrasi on-chain (VM)
  • Mewujudkan pustaka DNN ringan yang khusus, meningkatkan efisiensi inferensi model AI
  • Menggunakan teknologi cross-compilation untuk mengompilasi kode inferensi model AI menjadi instruksi VM
  • Gambar VM dikelola dengan pohon Merkle, hanya mengunggah hash akar ke blockchain

Uji coba menunjukkan bahwa di PC, inferensi model AI dasar dapat diselesaikan dalam 2 detik, dan seluruh proses tantangan dapat diselesaikan dalam 2 menit.

OPML:menggunakan sistem Optimistic Rollup untuk pembelajaran mesin

Permainan Verifikasi Multi-Tahap

Untuk mengatasi keterbatasan protokol satu tahap, diusulkan perpanjangan protokol multi-tahap:

  • Hanya tahap terakhir yang dihitung di VM, tahap lainnya dapat dieksekusi di lingkungan lokal
  • Memanfaatkan CPU, GPU, TPU, bahkan pemrosesan paralel untuk secara signifikan meningkatkan kinerja
  • Menggunakan pohon Merkle untuk memastikan integritas dan keamanan transisi fase

Metode OPML dua tahap dengan model LLaMA sebagai contoh:

  1. Tahap kedua: Lakukan permainan verifikasi pada grafik komputasi, dapat menggunakan CPU atau GPU multi-thread.
  2. Tahap Pertama: Mengubah perhitungan node tunggal menjadi instruksi VM

OPML:Menggunakan sistem Optimistic Rollup untuk pembelajaran mesin

Peningkatan Kinerja

Kerangka verifikasi multi-tahap dibandingkan dengan OPML satu tahap:

  • Peningkatan kecepatan perhitungan α kali ( α untuk percepatan GPU atau perhitungan paralel )
  • Ukuran pohon Merkle berkurang dari O(mn) menjadi O(m+n)

OPML:Menggunakan sistem Optimistic Rollup untuk pembelajaran mesin

Konsistensi dan Determinasi

Untuk memastikan konsistensi hasil ML, OPML menggunakan:

  1. Algoritma tetap ( teknologi kuantifikasi ): menggunakan presisi tetap sebagai pengganti angka pecahan
  2. Perpustakaan floating point berbasis perangkat lunak: memastikan konsistensi lintas platform

Metode-metode ini secara efektif mengatasi tantangan yang dihadapi oleh variabel floating-point dan perbedaan platform, serta meningkatkan keandalan perhitungan OPML.

OPML meskipun masih dalam pengembangan, telah menunjukkan potensi besar. Ini tidak hanya mendukung inferensi model, tetapi juga cocok untuk proses pelatihan, memberikan solusi menyeluruh untuk tugas pembelajaran mesin di atas sistem Blockchain.

OPML: Menggunakan sistem Optimistic Rollup untuk pembelajaran mesin

Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
  • Hadiah
  • 4
  • Posting ulang
  • Bagikan
Komentar
0/400
GateUser-c799715cvip
· 7jam yang lalu
Tanpa GPU bisa menjalankan model besar, cukup baik.
Lihat AsliBalas0
SolidityStrugglervip
· 08-10 22:43
Bukankah itu hanya versi sederhana dari TrueBit?
Lihat AsliBalas0
PortfolioAlertvip
· 08-10 22:42
Waktu pengumpulan sampah mesin biasa
Lihat AsliBalas0
Web3ProductManagervip
· 08-10 22:23
melihat metrik pengguna, opml bisa menjadi pengurang gesekan utama untuk adopsi web3 ai... jujur saja potensi tpm di sini sangat gila
Lihat AsliBalas0
  • Sematkan
Perdagangkan Kripto Di Mana Saja Kapan Saja
qrCode
Pindai untuk mengunduh aplikasi Gate
Komunitas
Bahasa Indonesia
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)