OPML: Pembelajaran mesin optimis membawa peluang baru untuk sistem blockchain
OPML( Pembelajaran Mesin Optimis) adalah teknologi baru yang dapat menerapkan inferensi dan pelatihan model AI di sistem Blockchain. Dibandingkan dengan ZKML, OPML memiliki keuntungan biaya rendah dan efisiensi tinggi. Bahkan di PC biasa, model bahasa besar seperti 7B-LLaMA( dapat dijalankan tanpa GPU sekitar 26GB).
OPML menggunakan mekanisme permainan verifikasi, mirip dengan Truebit dan sistem ringkasan optimis, untuk memastikan desentralisasi dan verifikasi layanan ML:
Pihak yang meminta memulai tugas layanan ML
Server menyelesaikan tugas dan mengirimkan hasilnya ke blok.
Validator memeriksa hasil, jika menemukan kesalahan maka memulai permainan verifikasi
Kontrak pintar melakukan arbitrase akhir
Permainan Verifikasi Satu Tahap
Prinsip kerja protokol penentuan posisi presisi satu tahap mirip dengan penugasan komputasi (RDoC). Dalam OPML:
Membangun mesin virtual untuk eksekusi off-chain dan arbitrasi on-chain (VM)
Mewujudkan pustaka DNN ringan yang khusus, meningkatkan efisiensi inferensi model AI
Menggunakan teknologi cross-compilation untuk mengompilasi kode inferensi model AI menjadi instruksi VM
Gambar VM dikelola dengan pohon Merkle, hanya mengunggah hash akar ke blockchain
Uji coba menunjukkan bahwa di PC, inferensi model AI dasar dapat diselesaikan dalam 2 detik, dan seluruh proses tantangan dapat diselesaikan dalam 2 menit.
Permainan Verifikasi Multi-Tahap
Untuk mengatasi keterbatasan protokol satu tahap, diusulkan perpanjangan protokol multi-tahap:
Hanya tahap terakhir yang dihitung di VM, tahap lainnya dapat dieksekusi di lingkungan lokal
Memanfaatkan CPU, GPU, TPU, bahkan pemrosesan paralel untuk secara signifikan meningkatkan kinerja
Menggunakan pohon Merkle untuk memastikan integritas dan keamanan transisi fase
Metode OPML dua tahap dengan model LLaMA sebagai contoh:
Tahap kedua: Lakukan permainan verifikasi pada grafik komputasi, dapat menggunakan CPU atau GPU multi-thread.
Tahap Pertama: Mengubah perhitungan node tunggal menjadi instruksi VM
Peningkatan Kinerja
Kerangka verifikasi multi-tahap dibandingkan dengan OPML satu tahap:
Peningkatan kecepatan perhitungan α kali ( α untuk percepatan GPU atau perhitungan paralel )
Ukuran pohon Merkle berkurang dari O(mn) menjadi O(m+n)
Konsistensi dan Determinasi
Untuk memastikan konsistensi hasil ML, OPML menggunakan:
Algoritma tetap ( teknologi kuantifikasi ): menggunakan presisi tetap sebagai pengganti angka pecahan
Perpustakaan floating point berbasis perangkat lunak: memastikan konsistensi lintas platform
Metode-metode ini secara efektif mengatasi tantangan yang dihadapi oleh variabel floating-point dan perbedaan platform, serta meningkatkan keandalan perhitungan OPML.
OPML meskipun masih dalam pengembangan, telah menunjukkan potensi besar. Ini tidak hanya mendukung inferensi model, tetapi juga cocok untuk proses pelatihan, memberikan solusi menyeluruh untuk tugas pembelajaran mesin di atas sistem Blockchain.
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
14 Suka
Hadiah
14
4
Posting ulang
Bagikan
Komentar
0/400
GateUser-c799715c
· 7jam yang lalu
Tanpa GPU bisa menjalankan model besar, cukup baik.
Lihat AsliBalas0
SolidityStruggler
· 08-10 22:43
Bukankah itu hanya versi sederhana dari TrueBit?
Lihat AsliBalas0
PortfolioAlert
· 08-10 22:42
Waktu pengumpulan sampah mesin biasa
Lihat AsliBalas0
Web3ProductManager
· 08-10 22:23
melihat metrik pengguna, opml bisa menjadi pengurang gesekan utama untuk adopsi web3 ai... jujur saja potensi tpm di sini sangat gila
Inovasi Teknologi OPML: Mewujudkan Inferensi dan Pelatihan Model AI yang Efisien di Blockchain
OPML: Pembelajaran mesin optimis membawa peluang baru untuk sistem blockchain
OPML( Pembelajaran Mesin Optimis) adalah teknologi baru yang dapat menerapkan inferensi dan pelatihan model AI di sistem Blockchain. Dibandingkan dengan ZKML, OPML memiliki keuntungan biaya rendah dan efisiensi tinggi. Bahkan di PC biasa, model bahasa besar seperti 7B-LLaMA( dapat dijalankan tanpa GPU sekitar 26GB).
OPML menggunakan mekanisme permainan verifikasi, mirip dengan Truebit dan sistem ringkasan optimis, untuk memastikan desentralisasi dan verifikasi layanan ML:
Permainan Verifikasi Satu Tahap
Prinsip kerja protokol penentuan posisi presisi satu tahap mirip dengan penugasan komputasi (RDoC). Dalam OPML:
Uji coba menunjukkan bahwa di PC, inferensi model AI dasar dapat diselesaikan dalam 2 detik, dan seluruh proses tantangan dapat diselesaikan dalam 2 menit.
Permainan Verifikasi Multi-Tahap
Untuk mengatasi keterbatasan protokol satu tahap, diusulkan perpanjangan protokol multi-tahap:
Metode OPML dua tahap dengan model LLaMA sebagai contoh:
Peningkatan Kinerja
Kerangka verifikasi multi-tahap dibandingkan dengan OPML satu tahap:
Konsistensi dan Determinasi
Untuk memastikan konsistensi hasil ML, OPML menggunakan:
Metode-metode ini secara efektif mengatasi tantangan yang dihadapi oleh variabel floating-point dan perbedaan platform, serta meningkatkan keandalan perhitungan OPML.
OPML meskipun masih dalam pengembangan, telah menunjukkan potensi besar. Ini tidak hanya mendukung inferensi model, tetapi juga cocok untuk proses pelatihan, memberikan solusi menyeluruh untuk tugas pembelajaran mesin di atas sistem Blockchain.