OPML teknolojik yenilik: Blok Zinciri üzerinde verimli AI model çıkarımı ve eğitimi sağlama

robot
Abstract generation in progress

OPML: İyimser Makine Öğrenimi Blok Zinciri Sistemlerine Yeni Fırsatlar Getiriyor

OPML(iyimser Makine Öğrenimi), Blok Zinciri sistemlerinde AI modellerinin çıkarım ve eğitimi için uygulanabilen yeni bir teknolojidir. ZKML ile karşılaştırıldığında, OPML düşük maliyet ve yüksek verimlilik avantajına sahiptir. Normal bir PC'de, GPU olmadan 7B-LLaMA( gibi büyük dil modellerini yaklaşık 26GB) çalıştırmak mümkündür.

OPML, ML hizmetlerinin merkeziyetsizliğini ve doğrulanabilirliğini sağlamak için Truebit ve optimistik özetleme sistemine benzer bir doğrulama oyun mekanizması kullanmaktadır:

  1. İstekçi ML hizmet görevini başlatır
  2. Sunucu görevi tamamlar ve sonucu zincire gönderir
  3. Doğrulayıcı sonuçları kontrol eder, eğer bir hata bulunursa doğrulama oyunu başlatılır.
  4. Akıllı sözleşme nihai tahkim gerçekleştirir

OPML:Optimistik Rollup sistemi kullanan makine öğrenimi

Tek Aşamalı Doğrulama Oyunu

Tek aşamalı hassas konumlandırma protokolünün çalışma prensibi ve hesaplama yetkisi (RDoC) ile benzerdir. OPML'de:

  • Zincir dışı yürütme ve zincir içi tahkim için oluşturulmuş sanal makine (VM)
  • Özel bir hafif DNN kütüphanesi geliştirildi, AI modelinin çıkarım verimliliğini artırdı.
  • AI modelinin çıkarım kodunu VM talimatlarına dönüştürmek için çapraz derleme teknolojisi kullanın
  • VM görüntüsü, yalnızca kök hash'ini zincire yükleyerek Merkle ağacı ile yönetilir.

Testler, PC'de temel AI modeli çıkarımının 2 saniye içinde tamamlanabileceğini ve tüm zorluk sürecinin 2 dakika içinde tamamlanabileceğini göstermektedir.

OPML:Optimistik Rollup sistemi kullanan makine öğrenimi

Çok Aşamalı Doğrulama Oyunu

Tek aşamalı protokolün sınırlamalarını aşmak için çok aşamalı protokol genişlemesi önerildi:

  • Sadece son aşama VM'de hesaplanır, diğer aşamalar yerel ortamda yürütülebilir.
  • CPU, GPU, TPU ve hatta paralel işleme kullanarak performansı önemli ölçüde artırma
  • Aşama geçişlerinin bütünlüğünü ve güvenliğini sağlamak için Merkle ağaçları kullanılır.

LLaMA modelini örnek alan iki aşamalı OPML yöntemi:

  1. İkinci Aşama: Hesaplama grafiği üzerinde doğrulama oyunu gerçekleştirilir, çoklu iş parçacığı CPU veya GPU kullanılabilir.
  2. Birinci Aşama: Tek bir düğüm hesaplamasını VM talimatlarına dönüştürme

OPML: Optimistik Rollup sistemi kullanan makine öğrenimi

Performans İyileştirmeleri

Çok aşamalı doğrulama çerçevesi, tek aşamalı OPML ile karşılaştırıldığında:

  • Hesaplama hızı artırımı α katı ( α, GPU veya paralel hesaplama hızlandırma oranıdır )
  • Merkle ağacı boyutu O(mn)'den O(m+n)'e düşürüldü.

OPML: Optimistik Rollup sistemini kullanan makine öğrenimi

Tutarlılık ve Belirlilik

ML sonuçlarının tutarlılığını sağlamak için, OPML şunu kullanır:

  1. Kesin Nokta Algoritması ( Kuantizasyon Teknolojisi ): Kesin hassasiyet kullanarak kayan nokta yerine.
  2. Yazılım Tabanlı Float Kütüphanesi: Platformlar Arası Tutarlılığı Sağlamak

Bu yöntemler, kayan nokta değişkenleri ve platform farklılıklarının neden olduğu zorlukları etkili bir şekilde çözdü ve OPML hesaplamalarının güvenilirliğini artırdı.

OPML hala geliştirilme aşamasında olmasına rağmen, büyük bir potansiyel sergilemiştir. Bu, yalnızca model çıkarımını desteklemekle kalmaz, aynı zamanda eğitim sürecine de uygundur, blok zinciri sistemleri üzerindeki makine öğrenimi görevleri için kapsamlı bir çözüm sunar.

OPML:Optimistik Rollup sistemini kullanan makine öğrenimi

View Original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
  • Reward
  • 4
  • Repost
  • Share
Comment
0/400
GateUser-c799715cvip
· 1h ago
GPU olmadan büyük modeller çalıştırılabiliyor, fena değil.
View OriginalReply0
SolidityStrugglervip
· 23h ago
Bu sadece basitleştirilmiş bir TrueBit değil mi?
View OriginalReply0
PortfolioAlertvip
· 23h ago
Standart makine geri dönüşüm süresi
View OriginalReply0
Web3ProductManagervip
· 08-10 22:23
kullanıcı metriklerine bakıldığında, opml web3 ai benimsemesi için büyük bir sürtünme azaltıcı olabilir... ngl burada tpm potansiyeli çılgınca.
View OriginalReply0
Trade Crypto Anywhere Anytime
qrCode
Scan to download Gate app
Community
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)