OPML: İyimser Makine Öğrenimi Blok Zinciri Sistemlerine Yeni Fırsatlar Getiriyor
OPML(iyimser Makine Öğrenimi), Blok Zinciri sistemlerinde AI modellerinin çıkarım ve eğitimi için uygulanabilen yeni bir teknolojidir. ZKML ile karşılaştırıldığında, OPML düşük maliyet ve yüksek verimlilik avantajına sahiptir. Normal bir PC'de, GPU olmadan 7B-LLaMA( gibi büyük dil modellerini yaklaşık 26GB) çalıştırmak mümkündür.
OPML, ML hizmetlerinin merkeziyetsizliğini ve doğrulanabilirliğini sağlamak için Truebit ve optimistik özetleme sistemine benzer bir doğrulama oyun mekanizması kullanmaktadır:
İstekçi ML hizmet görevini başlatır
Sunucu görevi tamamlar ve sonucu zincire gönderir
Doğrulayıcı sonuçları kontrol eder, eğer bir hata bulunursa doğrulama oyunu başlatılır.
Akıllı sözleşme nihai tahkim gerçekleştirir
Tek Aşamalı Doğrulama Oyunu
Tek aşamalı hassas konumlandırma protokolünün çalışma prensibi ve hesaplama yetkisi (RDoC) ile benzerdir. OPML'de:
Zincir dışı yürütme ve zincir içi tahkim için oluşturulmuş sanal makine (VM)
Özel bir hafif DNN kütüphanesi geliştirildi, AI modelinin çıkarım verimliliğini artırdı.
AI modelinin çıkarım kodunu VM talimatlarına dönüştürmek için çapraz derleme teknolojisi kullanın
VM görüntüsü, yalnızca kök hash'ini zincire yükleyerek Merkle ağacı ile yönetilir.
Testler, PC'de temel AI modeli çıkarımının 2 saniye içinde tamamlanabileceğini ve tüm zorluk sürecinin 2 dakika içinde tamamlanabileceğini göstermektedir.
Çok Aşamalı Doğrulama Oyunu
Tek aşamalı protokolün sınırlamalarını aşmak için çok aşamalı protokol genişlemesi önerildi:
Sadece son aşama VM'de hesaplanır, diğer aşamalar yerel ortamda yürütülebilir.
CPU, GPU, TPU ve hatta paralel işleme kullanarak performansı önemli ölçüde artırma
Aşama geçişlerinin bütünlüğünü ve güvenliğini sağlamak için Merkle ağaçları kullanılır.
LLaMA modelini örnek alan iki aşamalı OPML yöntemi:
İkinci Aşama: Hesaplama grafiği üzerinde doğrulama oyunu gerçekleştirilir, çoklu iş parçacığı CPU veya GPU kullanılabilir.
Birinci Aşama: Tek bir düğüm hesaplamasını VM talimatlarına dönüştürme
Performans İyileştirmeleri
Çok aşamalı doğrulama çerçevesi, tek aşamalı OPML ile karşılaştırıldığında:
Hesaplama hızı artırımı α katı ( α, GPU veya paralel hesaplama hızlandırma oranıdır )
Merkle ağacı boyutu O(mn)'den O(m+n)'e düşürüldü.
Tutarlılık ve Belirlilik
ML sonuçlarının tutarlılığını sağlamak için, OPML şunu kullanır:
Kesin Nokta Algoritması ( Kuantizasyon Teknolojisi ): Kesin hassasiyet kullanarak kayan nokta yerine.
Yazılım Tabanlı Float Kütüphanesi: Platformlar Arası Tutarlılığı Sağlamak
Bu yöntemler, kayan nokta değişkenleri ve platform farklılıklarının neden olduğu zorlukları etkili bir şekilde çözdü ve OPML hesaplamalarının güvenilirliğini artırdı.
OPML hala geliştirilme aşamasında olmasına rağmen, büyük bir potansiyel sergilemiştir. Bu, yalnızca model çıkarımını desteklemekle kalmaz, aynı zamanda eğitim sürecine de uygundur, blok zinciri sistemleri üzerindeki makine öğrenimi görevleri için kapsamlı bir çözüm sunar.
View Original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
14 Likes
Reward
14
4
Repost
Share
Comment
0/400
GateUser-c799715c
· 1h ago
GPU olmadan büyük modeller çalıştırılabiliyor, fena değil.
View OriginalReply0
SolidityStruggler
· 23h ago
Bu sadece basitleştirilmiş bir TrueBit değil mi?
View OriginalReply0
PortfolioAlert
· 23h ago
Standart makine geri dönüşüm süresi
View OriginalReply0
Web3ProductManager
· 08-10 22:23
kullanıcı metriklerine bakıldığında, opml web3 ai benimsemesi için büyük bir sürtünme azaltıcı olabilir... ngl burada tpm potansiyeli çılgınca.
OPML teknolojik yenilik: Blok Zinciri üzerinde verimli AI model çıkarımı ve eğitimi sağlama
OPML: İyimser Makine Öğrenimi Blok Zinciri Sistemlerine Yeni Fırsatlar Getiriyor
OPML(iyimser Makine Öğrenimi), Blok Zinciri sistemlerinde AI modellerinin çıkarım ve eğitimi için uygulanabilen yeni bir teknolojidir. ZKML ile karşılaştırıldığında, OPML düşük maliyet ve yüksek verimlilik avantajına sahiptir. Normal bir PC'de, GPU olmadan 7B-LLaMA( gibi büyük dil modellerini yaklaşık 26GB) çalıştırmak mümkündür.
OPML, ML hizmetlerinin merkeziyetsizliğini ve doğrulanabilirliğini sağlamak için Truebit ve optimistik özetleme sistemine benzer bir doğrulama oyun mekanizması kullanmaktadır:
Tek Aşamalı Doğrulama Oyunu
Tek aşamalı hassas konumlandırma protokolünün çalışma prensibi ve hesaplama yetkisi (RDoC) ile benzerdir. OPML'de:
Testler, PC'de temel AI modeli çıkarımının 2 saniye içinde tamamlanabileceğini ve tüm zorluk sürecinin 2 dakika içinde tamamlanabileceğini göstermektedir.
Çok Aşamalı Doğrulama Oyunu
Tek aşamalı protokolün sınırlamalarını aşmak için çok aşamalı protokol genişlemesi önerildi:
LLaMA modelini örnek alan iki aşamalı OPML yöntemi:
Performans İyileştirmeleri
Çok aşamalı doğrulama çerçevesi, tek aşamalı OPML ile karşılaştırıldığında:
Tutarlılık ve Belirlilik
ML sonuçlarının tutarlılığını sağlamak için, OPML şunu kullanır:
Bu yöntemler, kayan nokta değişkenleri ve platform farklılıklarının neden olduğu zorlukları etkili bir şekilde çözdü ve OPML hesaplamalarının güvenilirliğini artırdı.
OPML hala geliştirilme aşamasında olmasına rağmen, büyük bir potansiyel sergilemiştir. Bu, yalnızca model çıkarımını desteklemekle kalmaz, aynı zamanda eğitim sürecine de uygundur, blok zinciri sistemleri üzerindeki makine öğrenimi görevleri için kapsamlı bir çözüm sunar.