OPML: Эффективное машинное обучение на Блокчейн, основанное на механизме Optimistic

OPML (Оптимистичное машинное обучение) — это новая технология машинного обучения на основе блокчейна, которая использует оптимистичный подход для реализации вывода и обучения/доработки AI моделей. В отличие от ZKML, OPML имеет преимущества низкой стоимости и высокой эффективности, а также более низкие барьеры для участия. В настоящее время обычный ПК может запускать большие языковые модели, такие как 26 ГБ 7B-LLaMA, без необходимости в GPU.

OPML использует механизм верификационной игры для обеспечения децентрализованности и проверяемости услуг ML. Основной процесс выглядит следующим образом:

1. Запросчик инициирует задачу ML-сервиса
2. Сервер завершает задачу и отправляет результат в Блокчейн
3. Проверка результатов валидатора, в случае разногласий запускается игра верификации
4. Пошаговый арбитраж с помощью смарт-контрактов

! OPML: Машинное обучение с оптимистичным свертыванием

Одноэтапная верификация игры

Одноэтапный OPML использует протокол точного позиционирования, аналогичный вычислительной делегации (RDoC). Основные характеристики включают:

• Создание виртуальной машины (VM) для выполнения вне цепи и арбитража на цепи
• Реализация легковесной библиотеки DNN для повышения эффективности вывода AI моделей
• Используйте технологию кросс-компиляции для компиляции кода вывода ИИ в инструкции ВМ
• Образы VM управляются через дерево Меркла, только корневой хэш загружается в цепочку.

Тестирование производительности показало, что базовая модель ИИ (DNN классификации MNIST) может завершить вывод VM на ПК за 2 секунды, а весь процесс испытания можно завершить в локальной тестовой среде Эфириума за 2 минуты.

! OPML: Машинное обучение с оптимистичной системой свертывания

Многоступенчатая проверка игры

Чтобы преодолеть ограничения однофазного протокола, OPML внедрил многофазный протокол для полного использования возможностей обработки GPU/TPU и параллельной обработки. Основные преимущества многофазного OPML:

• Только последний этап вычисляется в VM, остальные этапы могут выполняться в локальной среде
• Значительное повышение производительности выполнения, близкой к уровню локальной среды
• Использование дерева Меркла для обеспечения целостности и безопасности переходов между этапами

В качестве примера модели LLaMA, двухфазный метод OPML выглядит следующим образом:

1. Представить процесс вычисления ML в виде вычислительного графа
2. Проведение верификационной игры на графике (вторая фаза)
3. Преобразование расчетов спорных узлов в команды VM (первая стадия)

Многоступенчатый OPML в сравнении с одноступенчатой схемой может обеспечить ускорение вычислений в α раз (α – коэффициент ускорения GPU или параллельных вычислений). Кроме того, размер мерклового дерева в многоступенчатой схеме значительно уменьшается, что дополнительно повышает эффективность и масштабируемость.

! OPML: Машинное обучение с оптимистичным свертыванием

Согласованность и определенность

Для обеспечения согласованности результатов ML, OPML использует следующую стратегию:

1. Использовать алгоритм фиксированной точки (технология квантования) для уменьшения ошибок округления с плавающей запятой
2. Использовать программную библиотеку с плавающей точкой, чтобы гарантировать совместимость между платформами

Эти методы эффективно преодолели вызовы, связанные с плавающими переменными и различиями платформ, что усилило надежность вычислений OPML.

! OPML: Машинное обучение с оптимистичным свертыванием

OPML против ZKML

OPML имеет следующие преимущества по сравнению с ZKML:

• Более низкие аппаратные требования
• Более высокая эффективность выполнения
• Поддержка более крупных моделей
• Можно проводить обучение моделей (ZKML поддерживает только вывод)

Стоит отметить, что проект OPML все еще находится в стадии разработки, и мы приветствуем заинтересованных разработчиков к участию в его развитии.

! OPML: Машинное обучение с оптимистичной системой свертывания