OPML: Оптимістичне машинне навчання приносить нові можливості для Блокчейн систем

OPML(Оптимістичне машинне навчання) є новою технологією, що дозволяє реалізувати інференцію та навчання AI моделей на Блокчейн системах. У порівнянні з ZKML, OPML має переваги в низькій вартості та високій ефективності. Навіть на звичайному ПК, без GPU, можна запускати великі мовні моделі, такі як 7B-LLaMA( приблизно 26GB).

OPML використовує механізм верифікації ігор, подібний до Truebit та оптимістичної системи агрегації, щоб забезпечити децентралізацію та верифікацію ML-сервісів:

1. Замовник ініціює завдання ML-сервісу
2. Сервер виконує завдання та подає результат на Блокчейн
3. Валідатори перевіряють результати, якщо виявлять помилку, то запускають гру на верифікацію.
4. Остаточний арбітраж смарт-контракту

Одноетапна верифікаційна гра

Принцип роботи одностадійного протоколу точної локалізації та обчислювальної делегації (RDoC) подібний. У OPML:

• Побудовано віртуальну машину для офлайн-виконання та онлайн-арбітражу (VM)
• Реалізована спеціальна легка бібліотека DNN, що підвищує ефективність інференції AI моделей
• Використання технології перехресної компіляції для компіляції коду інференції AI-моделей у VM інструкції
• VM-образи управляються за допомогою дерева Меркла, лише кореневий хеш завантажується в ланцюг

Тести показали, що на ПК можна виконати базове інференцію AI за 2 секунди, а весь процес виклику можна завершити за 2 хвилини.

Багатоступеневий валідаційний ігровий процес

Для подолання обмежень одноетапного протоколу було запропоновано розширення багатоступеневого протоколу:

• Лише остання стадія обчислюється у VM, інші стадії можуть виконуватись у локальному середовищі
• Використовуючи CPU, GPU, TPU або навіть паралельну обробку, значно підвищити продуктивність
• Використання дерева Меркла для забезпечення цілісності та безпеки переходів етапів

Двохетапний метод OPML на прикладі моделі LLaMA:

1. Другий етап: проведення валідаційної гри на обчислювальному графіку, можна використовувати багатопотоковий CPU або GPU
2. Перший етап: перетворення обчислення окремого вузла на команди VM

Поліпшення продуктивності

Багатоступенева верифікаційна структура в порівнянні з одноступеневим OPML:

• Швидкість обчислень підвищується в α разів ( α для прискорення GPU або паралельних обчислень )
• Розмір дерева Меркла зменшився з O(mn) до O(m+n)

Узгодженість та визначеність

Щоб забезпечити узгодженість результатів ML, OPML застосовує:

1. Фіксований алгоритм ( кількісна технологія ): використання фіксованої точності замість чисел з плаваючою комою
2. Програмна бібліотека з плаваючою комою: забезпечення кросплатформної узгодженості

Ці методи ефективно вирішили проблеми, які виникають через плаваючі змінні та різницю платформ, підвищуючи надійність обчислень OPML.

OPML хоча все ще розробляється, але вже продемонстрував величезний потенціал. Він не лише підтримує моделювання, а й підходить для процесу навчання, надаючи комплексне рішення для завдань машинного навчання на Блокчейн системах.