OPML: Solução de aprendizagem de máquina em blockchain eficiente baseada no mecanismo Optimistic

OPML (Aprendizagem de Máquina Optimista) é uma nova tecnologia de aprendizagem de máquina em Blockchain, que realiza a inferência e o treino/ajuste fino de modelos de IA através de métodos Optimista. Comparado ao ZKML, o OPML tem vantagens em termos de custo baixo e alta eficiência, além de uma barreira de entrada mais baixa. Atualmente, um PC comum pode executar grandes modelos de linguagem, como o 7B-LLaMA de 26GB, sem necessidade de GPU.

OPML utiliza um mecanismo de jogo de verificação para garantir a descentralização e a verificabilidade dos serviços de ML. O seu fluxo básico é o seguinte:

1. O requerente inicia a tarefa de serviço ML
2. O servidor completa a tarefa e submete o resultado ao Blockchain
3. Os validadores verificam os resultados, e se houver objeções, iniciam o jogo de validação.
4. Arbitragem em um único passo através de contrato inteligente

Jogo de Verificação de Uma Fase

O OPML de uma única fase utiliza um protocolo de localização precisa, semelhante à delegação de cálculo (RDoC). As principais características incluem:

• Construir uma máquina virtual (VM) para execução fora da cadeia e arbitragem na cadeia
• Implementar uma biblioteca DNN leve, aumentando a eficiência da inferência do modelo de IA
• Usar tecnologia de compilação cruzada para compilar o código de inferência de IA em instruções de VM
• A imagem da VM é gerida através de uma árvore de Merkle, apenas a raiz do hash é carregada na blockchain.

Os testes de desempenho mostram que o modelo de IA básico (DNN de classificação MNIST) pode completar a inferência de VM em 2 segundos em um PC, e todo o processo do desafio pode ser concluído em 2 minutos em um ambiente de teste do Ethereum local.

Jogo de Verificação em Múltiplas Fases

Para superar as limitações do protocolo de uma única fase, o OPML introduziu um protocolo de múltiplas fases para aproveitar ao máximo a capacidade de processamento paralelo e de GPU/TPU. As principais vantagens do OPML de múltiplas fases:

• Apenas a fase final é calculada na VM, as outras fases podem ser executadas no ambiente local.
• Aumentar significativamente o desempenho de execução, próximo ao nível do ambiente local
• Utilizar a árvore de Merkle para garantir a integridade e segurança das transições entre fases

Tomando o modelo LLaMA como exemplo, o método OPML em duas fases é o seguinte:

1. Representar o processo de cálculo ML como um gráfico de cálculo
2. Realizar um jogo de verificação no gráfico (segunda fase)
3. Converter o cálculo dos nós em disputa em instruções VM (primeira fase)

A solução OPML de múltiplas etapas permite uma aceleração de cálculo de α vezes em comparação com a solução de uma única etapa (α é a taxa de aceleração de GPU ou computação paralela). Além disso, o tamanho da árvore de Merkle na solução de múltiplas etapas é significativamente reduzido, melhorando ainda mais a eficiência e a escalabilidade.

Consistência e Determinismo

Para garantir a consistência dos resultados do ML, o OPML adota as seguintes estratégias:

1. Usar algoritmos de ponto fixo (tecnologia de quantização) para reduzir o erro de arredondamento de ponto flutuante
2. Utilizar uma biblioteca de ponto flutuante baseada em software, garantindo consistência entre plataformas

Esses métodos superaram eficazmente os desafios trazidos por variáveis de ponto flutuante e diferenças de plataforma, aumentando a fiabilidade do cálculo OPML.

OPML vs ZKML

A OPML tem as seguintes vantagens em comparação com a ZKML:

• Requisitos de hardware mais baixos
• Maior eficiência de execução
• Suporta modelos de maior escala
• Pode realizar o treino de modelos (ZKML suporta apenas inferência)

É importante notar que o projeto OPML ainda está em desenvolvimento contínuo, e os desenvolvedores interessados são bem-vindos a contribuir.