OPML: El aprendizaje automático optimista trae nuevas oportunidades para los sistemas de cadena de bloques
OPML( el aprendizaje automático optimista) es una tecnología emergente que permite la inferencia y el entrenamiento de modelos de IA en sistemas de Cadena de bloques. En comparación con ZKML, OPML tiene la ventaja de ser de bajo costo y alta eficiencia. Incluso en una PC normal, se pueden ejecutar modelos de lenguaje grandes como 7B-LLaMA( sin necesidad de GPU, aproximadamente 26GB).
OPML utiliza un mecanismo de juego de verificación, similar a Truebit y al sistema de resumen optimista, para garantizar la descentralización y la verificabilidad de los servicios de ML:
El solicitante inicia la tarea del servicio ML
El servidor completa la tarea y envía el resultado a la Cadena de bloques
Los validadores revisan los resultados, y si encuentran errores, inician el juego de validación.
Arbitraje final de contratos inteligentes
Juego de verificación de una sola etapa
El principio de funcionamiento del protocolo de localización precisa de una sola etapa es similar al de la delegación de cálculo (RDoC). En OPML:
Construido un máquina virtual para ejecución fuera de la cadena y arbitraje en la cadena (VM)
Se implementó una biblioteca DNN ligera especializada para mejorar la eficiencia de la inferencia de modelos de IA
Utilizar tecnología de compilación cruzada para compilar el código de inferencia del modelo de IA en instrucciones de VM
Las imágenes de VM son gestionadas por un árbol de Merkle, solo subiendo el hash raíz a la cadena.
Las pruebas indican que la inferencia básica del modelo de IA se puede completar en 2 segundos en una PC, y todo el proceso del desafío se puede completar en 2 minutos.
Juego de verificación de múltiples etapas
Para superar las limitaciones del protocolo de una sola etapa, se propone una expansión del protocolo de múltiples etapas:
Solo la última fase se calcula en la VM, las otras fases se pueden ejecutar en el entorno local.
Utilizando CPU, GPU, TPU e incluso procesamiento paralelo, se mejora significativamente el rendimiento
Utilizar árboles de Merkle para garantizar la integridad y seguridad de la transición de fases
Método OPML de dos etapas basado en el modelo LLaMA:
Segunda etapa: realizar el juego de verificación en el gráfico computacional, se puede utilizar CPU o GPU multihilo.
Primera etapa: convertir el cálculo de un solo nodo en instrucciones de VM
Mejora del rendimiento
Marco de validación de múltiples etapas en comparación con OPML de una sola etapa:
La velocidad de cálculo se incrementó en α veces ( α es la proporción de aceleración de GPU o cálculo paralelo )
El tamaño del árbol de Merkle se reduce de O(mn) a O(m+n)
Consistencia y determinación
Para garantizar la consistencia de los resultados de ML, OPML utiliza:
Algoritmo de punto fijo ( tecnología de cuantificación ): usar precisión fija en lugar de números de punto flotante
Biblioteca de punto flotante basada en software: garantizar la consistencia entre plataformas
Estos métodos han resuelto eficazmente los desafíos planteados por las variables de punto flotante y las diferencias de plataforma, mejorando la fiabilidad del cálculo OPML.
OPML aún está en desarrollo, pero ya ha demostrado un gran potencial. No solo admite la inferencia de modelos, sino que también es adecuado para el proceso de entrenamiento, proporcionando una solución integral para las tareas de aprendizaje automático en sistemas de cadena de bloques.
Ver originales
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
14 me gusta
Recompensa
14
4
Republicar
Compartir
Comentar
0/400
GateUser-c799715c
· hace1h
Se pueden ejecutar grandes modelos sin GPU, está bien, está bien.
Ver originalesResponder0
SolidityStruggler
· hace23h
No es más que una versión simplificada de TrueBit.
Ver originalesResponder0
PortfolioAlert
· hace23h
Tiempo de reciclaje de máquinas comunes
Ver originalesResponder0
Web3ProductManager
· 08-10 22:23
mirando las métricas de los usuarios, opml podría ser un gran reductor de fricción para la adopción de ai en web3... no voy a mentir, el potencial de tpm aquí es una locura
Innovación tecnológica OPML: implementación de inferencia y entrenamiento de modelos de IA eficientes en la Cadena de bloques
OPML: El aprendizaje automático optimista trae nuevas oportunidades para los sistemas de cadena de bloques
OPML( el aprendizaje automático optimista) es una tecnología emergente que permite la inferencia y el entrenamiento de modelos de IA en sistemas de Cadena de bloques. En comparación con ZKML, OPML tiene la ventaja de ser de bajo costo y alta eficiencia. Incluso en una PC normal, se pueden ejecutar modelos de lenguaje grandes como 7B-LLaMA( sin necesidad de GPU, aproximadamente 26GB).
OPML utiliza un mecanismo de juego de verificación, similar a Truebit y al sistema de resumen optimista, para garantizar la descentralización y la verificabilidad de los servicios de ML:
Juego de verificación de una sola etapa
El principio de funcionamiento del protocolo de localización precisa de una sola etapa es similar al de la delegación de cálculo (RDoC). En OPML:
Las pruebas indican que la inferencia básica del modelo de IA se puede completar en 2 segundos en una PC, y todo el proceso del desafío se puede completar en 2 minutos.
Juego de verificación de múltiples etapas
Para superar las limitaciones del protocolo de una sola etapa, se propone una expansión del protocolo de múltiples etapas:
Método OPML de dos etapas basado en el modelo LLaMA:
Mejora del rendimiento
Marco de validación de múltiples etapas en comparación con OPML de una sola etapa:
Consistencia y determinación
Para garantizar la consistencia de los resultados de ML, OPML utiliza:
Estos métodos han resuelto eficazmente los desafíos planteados por las variables de punto flotante y las diferencias de plataforma, mejorando la fiabilidad del cálculo OPML.
OPML aún está en desarrollo, pero ya ha demostrado un gran potencial. No solo admite la inferencia de modelos, sino que también es adecuado para el proceso de entrenamiento, proporcionando una solución integral para las tareas de aprendizaje automático en sistemas de cadena de bloques.