OPML:乐观机器学习为区块链系统带来新机遇

OPML(乐观机器学习)是一种新兴技术,可在区块链系统上实现AI模型的推理和训练。与ZKML相比,OPML具有成本低、效率高的优势。即使在普通PC上,无需GPU也能运行大型语言模型如7B-LLaMA(约26GB)。

OPML采用验证游戏机制,类似于Truebit和乐观汇总系统,以确保ML服务的去中心化和可验证性:

1. 请求者发起ML服务任务
2. 服务器完成任务并将结果提交到链上
3. 验证者检查结果,若发现错误则启动验证游戏
4. 智能合约进行最终仲裁

单阶段验证游戏

单阶段精确定位协议的工作原理与计算委托(RDoC)类似。OPML中:

• 构建了用于链下执行和链上仲裁的虚拟机(VM)
• 实现了专门的轻量级DNN库,提高AI模型推理效率
• 使用交叉编译技术将AI模型推理代码编译为VM指令
• VM镜像用默克尔树管理,仅将根哈希上传链上

测试表明,在PC上可在2秒内完成基本AI模型推理,整个挑战过程可在2分钟内完成。

多阶段验证游戏

为克服单阶段协议的局限性,提出了多阶段协议扩展:

• 仅最后阶段在VM中计算,其他阶段可在本机环境执行
• 利用CPU、GPU、TPU甚至并行处理,显著提高性能
• 采用默克尔树确保阶段转换的完整性和安全性

以LLaMA模型为例的两阶段OPML方法:

1. 第二阶段:在计算图上进行验证博弈,可使用多线程CPU或GPU
2. 第一阶段:将单个节点计算转换为VM指令

性能改进

多阶段验证框架相比单阶段OPML:

• 计算速度提升α倍(α为GPU或并行计算加速比)
• Merkle树大小从O(mn)减小到O(m+n)

一致性与确定性

为确保ML结果一致性,OPML采用:

1. 定点算法(量化技术):使用固定精度代替浮点数
2. 基于软件的浮点库:确保跨平台一致性

这些方法有效解决了浮点变量和平台差异带来的挑战,增强了OPML计算的可靠性。

OPML虽仍在开发中,但已展现出巨大潜力。它不仅支持模型推理,还适用于训练过程,为区块链系统上的机器学习任务提供了全面解决方案。