OPML: Оптимистичное машинное обучение приносит новые возможности для Блокчейн систем

OPML(Оптимистичное машинное обучение) — это новая технология, которая позволяет реализовать вывод и обучение AI моделей на Блокчейн системах. По сравнению с ZKML, OPML имеет преимущества низкой стоимости и высокой эффективности. Даже на обычном ПК, без GPU можно запускать крупные языковые модели, такие как 7B-LLaMA( примерно 26GB).

OPML использует механизм проверки игр, аналогичный Truebit и оптимистичной сводной системе, чтобы обеспечить децентрализацию и проверяемость ML-сервисов:

1. Запросчик инициирует задачу ML-сервиса
2. Сервер завершил задачу и отправил результат на Блокчейн
3. Проверяющий проверяет результаты, если обнаружит ошибку, запускает верификационную игру.
4. Окончительное арбитражное разбирательство смарт-контрактов

! OPML: Машинное обучение с оптимистичным свертыванием

Одноэтапная верификация игры

Принцип работы протокола точного позиционирования в один этап схож с вычислительной делегацией (RDoC). В OPML:

• Построена виртуальная машина для оффлайн выполнения и онлайнового арбитража (VM)
• Реализована специализированная легковесная библиотека DNN, повышающая эффективность вывода AI моделей
• Используйте технологию кросс-компиляции для компиляции кода вывода модели ИИ в инструкции VM
• Образы VM управляются с помощью дерева Меркла, только корневой хеш загружается в цепь

Тесты показали, что на ПК базовое моделирование ИИ может быть выполнено за 2 секунды, а весь процесс испытания можно завершить за 2 минуты.

! OPML: Машинное обучение с оптимистичной системой свертывания

Многоступенчатая верификация игры

Чтобы преодолеть ограничения одностадийного протокола, было предложено расширение многоступенчатого протокола:

• Только последний этап вычисляется в VM, остальные этапы могут выполняться в локальной среде
• Использование CPU, GPU, TPU и даже параллельной обработки для значительного повышения производительности
• Использование дерева Меркла для обеспечения целостности и безопасности переходов этапов

Двухэтапный метод OPML на примере модели LLaMA:

1. Второй этап: проводить проверку игры на вычислительном графе, можно использовать многопоточный ЦП или ГП.
2. Первый этап: преобразование вычислений отдельного узла в инструкции виртуальной машины

! OPML: Машинное обучение с оптимистичным свертыванием

Улучшение производительности

Многоуровневая верификационная структура по сравнению с одноуровневым OPML:

• Увеличение скорости вычислений в α раз ( α для GPU или коэффициент ускорения параллельных вычислений )
• Размер дерева Меркла уменьшился с O(mn) до O(m+n)

! OPML: Машинное обучение с оптимистичным свертыванием

Согласованность и определенность

Чтобы обеспечить согласованность результатов ML, OPML использует:

1. Фиксированный алгоритм ( количественные технологии ): использование фиксированной точности вместо плавающей точки
2. Библиотека с плавающей запятой на основе программного обеспечения: обеспечить согласованность между платформами

Эти методы эффективно решают проблемы, возникающие из-за различий в плавающих переменных и платформах, что повышает надежность вычислений OPML.

OPML все еще находится в разработке, но уже продемонстрировала огромный потенциал. Она не только поддерживает моделирование вывода, но также подходит для процесса обучения, предоставляя полное решение для задач машинного обучения в Блокчейн системах.