OPML: Aprendizado de máquina otimista traz novas oportunidades para sistemas Blockchain
OPML( Aprendizagem de Máquina Otimista) é uma tecnologia emergente que permite a inferência e o treinamento de modelos de IA em sistemas de Blockchain. Comparado com ZKML, OPML tem a vantagem de baixo custo e alta eficiência. Mesmo em um PC comum, é possível executar grandes modelos de linguagem como 7B-LLaMA( sem GPU, aproximadamente 26GB).
OPML utiliza um mecanismo de jogo de verificação, semelhante ao Truebit e ao sistema de resumo otimista, para garantir a descentralização e a verificabilidade dos serviços de ML:
O solicitante inicia a tarefa de serviço ML
O servidor completa a tarefa e submete os resultados na Blockchain
Os validadores verificam os resultados, se encontrarem erros, iniciam o jogo de validação.
Arbitragem final do contrato inteligente
Jogo de Verificação de Uma Fase
O princípio de funcionamento do protocolo de posicionamento preciso de uma única fase é semelhante ao cálculo de delegação (RDoC). Em OPML:
Construiu uma máquina virtual para execução off-chain e arbitragem on-chain (VM)
Foi implementada uma biblioteca DNN leve dedicada, aumentando a eficiência da inferência do modelo de IA
Usar tecnologia de compilação cruzada para compilar o código de inferência do modelo de IA em instruções de VM
A imagem VM é gerida por uma árvore de Merkle, apenas o hash raiz é carregado na blockchain.
Testes mostram que a inferência básica do modelo de IA pode ser completada em 2 segundos em um PC, e todo o processo do desafio pode ser concluído em 2 minutos.
Jogo de Verificação em Múltiplas Fases
Para superar as limitações do protocolo de uma única fase, foi proposta uma extensão do protocolo de múltiplas fases:
Apenas a última fase é calculada na VM, as outras fases podem ser executadas no ambiente local.
Utilizar CPU, GPU, TPU e até processamento paralelo para melhorar significativamente o desempenho
Utilizar a árvore de Merkle para garantir a integridade e segurança da transição de fases
Método OPML em duas fases com o modelo LLaMA como exemplo:
Segunda fase: Realizar o jogo de validação no gráfico computacional, podendo utilizar CPU ou GPU multithread.
Primeira fase: converter o cálculo de um único nó em instruções de VM
Melhorias de desempenho
O quadro de validação em múltiplas etapas em comparação com o OPML de uma única etapa:
Aumento de velocidade de cálculo em α vezes ( α para aceleração por GPU ou cálculo paralelo )
O tamanho da árvore de Merkle diminuiu de O(mn) para O(m+n)
Consistência e Determinismo
Para garantir a consistência dos resultados ML, o OPML utiliza:
Algoritmo de ponto fixo ( técnica de quantificação ): usar precisão fixa em vez de números de ponto flutuante
Biblioteca de ponto flutuante baseada em software: garantir consistência entre plataformas
Esses métodos resolveram efetivamente os desafios trazidos por variáveis de ponto flutuante e diferenças de plataforma, aumentando a confiabilidade do cálculo OPML.
O OPML, embora ainda esteja em desenvolvimento, já demonstrou um enorme potencial. Ele não apenas suporta a inferência de modelos, mas também é aplicável ao processo de treinamento, oferecendo uma solução abrangente para tarefas de aprendizado de máquina em sistemas de Blockchain.
Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
10 Curtidas
Recompensa
10
3
Repostar
Compartilhar
Comentário
0/400
SolidityStruggler
· 13h atrás
Não é apenas uma versão simplificada do TrueBit?
Ver originalResponder0
PortfolioAlert
· 13h atrás
Tempo de reciclagem de lixo comum
Ver originalResponder0
Web3ProductManager
· 14h atrás
analisando as métricas dos utilizadores, o opml pode ser um grande redutor de fricção para a adoção da ia web3... a verdade é que o potencial tpm aqui é insano
Inovação tecnológica OPML: implementação de inferência e treinamento de modelos de IA de forma eficiente na cadeia
OPML: Aprendizado de máquina otimista traz novas oportunidades para sistemas Blockchain
OPML( Aprendizagem de Máquina Otimista) é uma tecnologia emergente que permite a inferência e o treinamento de modelos de IA em sistemas de Blockchain. Comparado com ZKML, OPML tem a vantagem de baixo custo e alta eficiência. Mesmo em um PC comum, é possível executar grandes modelos de linguagem como 7B-LLaMA( sem GPU, aproximadamente 26GB).
OPML utiliza um mecanismo de jogo de verificação, semelhante ao Truebit e ao sistema de resumo otimista, para garantir a descentralização e a verificabilidade dos serviços de ML:
Jogo de Verificação de Uma Fase
O princípio de funcionamento do protocolo de posicionamento preciso de uma única fase é semelhante ao cálculo de delegação (RDoC). Em OPML:
Testes mostram que a inferência básica do modelo de IA pode ser completada em 2 segundos em um PC, e todo o processo do desafio pode ser concluído em 2 minutos.
Jogo de Verificação em Múltiplas Fases
Para superar as limitações do protocolo de uma única fase, foi proposta uma extensão do protocolo de múltiplas fases:
Método OPML em duas fases com o modelo LLaMA como exemplo:
Melhorias de desempenho
O quadro de validação em múltiplas etapas em comparação com o OPML de uma única etapa:
Consistência e Determinismo
Para garantir a consistência dos resultados ML, o OPML utiliza:
Esses métodos resolveram efetivamente os desafios trazidos por variáveis de ponto flutuante e diferenças de plataforma, aumentando a confiabilidade do cálculo OPML.
O OPML, embora ainda esteja em desenvolvimento, já demonstrou um enorme potencial. Ele não apenas suporta a inferência de modelos, mas também é aplicável ao processo de treinamento, oferecendo uma solução abrangente para tarefas de aprendizado de máquina em sistemas de Blockchain.