OPML: Aprendizado de máquina otimista traz novas oportunidades para sistemas Blockchain
OPML( Aprendizagem de Máquina Otimista) é uma tecnologia emergente que permite a inferência e o treinamento de modelos de IA em sistemas de Blockchain. Comparado com ZKML, OPML tem a vantagem de baixo custo e alta eficiência. Mesmo em um PC comum, é possível executar grandes modelos de linguagem como 7B-LLaMA( sem GPU, aproximadamente 26GB).
OPML utiliza um mecanismo de jogo de verificação, semelhante ao Truebit e ao sistema de resumo otimista, para garantir a descentralização e a verificabilidade dos serviços de ML:
O solicitante inicia a tarefa de serviço ML
O servidor completa a tarefa e submete os resultados na Blockchain
Os validadores verificam os resultados, se encontrarem erros, iniciam o jogo de validação.
Arbitragem final do contrato inteligente
Jogo de Verificação de Uma Fase
O princípio de funcionamento do protocolo de posicionamento preciso de uma única fase é semelhante ao cálculo de delegação (RDoC). Em OPML:
Construiu uma máquina virtual para execução off-chain e arbitragem on-chain (VM)
Foi implementada uma biblioteca DNN leve dedicada, aumentando a eficiência da inferência do modelo de IA
Usar tecnologia de compilação cruzada para compilar o código de inferência do modelo de IA em instruções de VM
A imagem VM é gerida por uma árvore de Merkle, apenas o hash raiz é carregado na blockchain.
Testes mostram que a inferência básica do modelo de IA pode ser completada em 2 segundos em um PC, e todo o processo do desafio pode ser concluído em 2 minutos.
Jogo de Verificação em Múltiplas Fases
Para superar as limitações do protocolo de uma única fase, foi proposta uma extensão do protocolo de múltiplas fases:
Apenas a última fase é calculada na VM, as outras fases podem ser executadas no ambiente local.
Utilizar CPU, GPU, TPU e até processamento paralelo para melhorar significativamente o desempenho
Utilizar a árvore de Merkle para garantir a integridade e segurança da transição de fases
Método OPML em duas fases com o modelo LLaMA como exemplo:
Segunda fase: Realizar o jogo de validação no gráfico computacional, podendo utilizar CPU ou GPU multithread.
Primeira fase: converter o cálculo de um único nó em instruções de VM
Melhorias de desempenho
O quadro de validação em múltiplas etapas em comparação com o OPML de uma única etapa:
Aumento de velocidade de cálculo em α vezes ( α para aceleração por GPU ou cálculo paralelo )
O tamanho da árvore de Merkle diminuiu de O(mn) para O(m+n)
Consistência e Determinismo
Para garantir a consistência dos resultados ML, o OPML utiliza:
Algoritmo de ponto fixo ( técnica de quantificação ): usar precisão fixa em vez de números de ponto flutuante
Biblioteca de ponto flutuante baseada em software: garantir consistência entre plataformas
Esses métodos resolveram efetivamente os desafios trazidos por variáveis de ponto flutuante e diferenças de plataforma, aumentando a confiabilidade do cálculo OPML.
O OPML, embora ainda esteja em desenvolvimento, já demonstrou um enorme potencial. Ele não apenas suporta a inferência de modelos, mas também é aplicável ao processo de treinamento, oferecendo uma solução abrangente para tarefas de aprendizado de máquina em sistemas de Blockchain.
Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
14 gostos
Recompensa
14
4
Republicar
Partilhar
Comentar
0/400
GateUser-c799715c
· 13h atrás
Pode correr grandes modelos sem GPU, está bom, está bom.
Ver originalResponder0
SolidityStruggler
· 08-10 22:43
Não é apenas uma versão simplificada do TrueBit?
Ver originalResponder0
PortfolioAlert
· 08-10 22:42
Tempo de reciclagem de lixo comum
Ver originalResponder0
Web3ProductManager
· 08-10 22:23
analisando as métricas dos utilizadores, o opml pode ser um grande redutor de fricção para a adoção da ia web3... a verdade é que o potencial tpm aqui é insano
Inovação tecnológica OPML: implementação de inferência e treinamento de modelos de IA de forma eficiente na cadeia
OPML: Aprendizado de máquina otimista traz novas oportunidades para sistemas Blockchain
OPML( Aprendizagem de Máquina Otimista) é uma tecnologia emergente que permite a inferência e o treinamento de modelos de IA em sistemas de Blockchain. Comparado com ZKML, OPML tem a vantagem de baixo custo e alta eficiência. Mesmo em um PC comum, é possível executar grandes modelos de linguagem como 7B-LLaMA( sem GPU, aproximadamente 26GB).
OPML utiliza um mecanismo de jogo de verificação, semelhante ao Truebit e ao sistema de resumo otimista, para garantir a descentralização e a verificabilidade dos serviços de ML:
Jogo de Verificação de Uma Fase
O princípio de funcionamento do protocolo de posicionamento preciso de uma única fase é semelhante ao cálculo de delegação (RDoC). Em OPML:
Testes mostram que a inferência básica do modelo de IA pode ser completada em 2 segundos em um PC, e todo o processo do desafio pode ser concluído em 2 minutos.
Jogo de Verificação em Múltiplas Fases
Para superar as limitações do protocolo de uma única fase, foi proposta uma extensão do protocolo de múltiplas fases:
Método OPML em duas fases com o modelo LLaMA como exemplo:
Melhorias de desempenho
O quadro de validação em múltiplas etapas em comparação com o OPML de uma única etapa:
Consistência e Determinismo
Para garantir a consistência dos resultados ML, o OPML utiliza:
Esses métodos resolveram efetivamente os desafios trazidos por variáveis de ponto flutuante e diferenças de plataforma, aumentando a confiabilidade do cálculo OPML.
O OPML, embora ainda esteja em desenvolvimento, já demonstrou um enorme potencial. Ele não apenas suporta a inferência de modelos, mas também é aplicável ao processo de treinamento, oferecendo uma solução abrangente para tarefas de aprendizado de máquina em sistemas de Blockchain.