OPML: Học máy lạc quan mang lại cơ hội mới cho hệ thống Blockchain
OPML(Học máy lạc quan) là một công nghệ mới nổi, có thể thực hiện suy diễn và đào tạo mô hình AI trên hệ thống Blockchain. So với ZKML, OPML có ưu điểm chi phí thấp, hiệu suất cao. Ngay cả trên PC thông thường, không cần GPU cũng có thể chạy các mô hình ngôn ngữ lớn như 7B-LLaMA( khoảng 26GB).
OPML áp dụng cơ chế trò chơi xác thực, tương tự như Truebit và hệ thống tổng hợp lạc quan, để đảm bảo tính phi tập trung và khả năng xác minh của dịch vụ ML:
Người yêu cầu khởi động nhiệm vụ dịch vụ ML
Máy chủ hoàn thành nhiệm vụ và gửi kết quả lên chuỗi
Người xác thực kiểm tra kết quả, nếu phát hiện lỗi thì khởi động trò chơi xác thực.
Hợp đồng thông minh thực hiện trọng tài cuối cùng
Trò chơi xác thực một giai đoạn
Nguyên lý hoạt động của giao thức định vị chính xác một giai đoạn tương tự như ủy thác tính toán (RDoC). Trong OPML:
Xây dựng máy ảo cho thực thi ngoại tuyến và trọng tài trên chuỗi (VM)
Đã triển khai thư viện DNN nhẹ chuyên dụng, nâng cao hiệu suất suy diễn mô hình AI
Sử dụng công nghệ biên dịch chéo để biên dịch mã suy diễn AI thành các lệnh VM
Hình ảnh VM được quản lý bằng cây Merkle, chỉ cần tải lên chuỗi hàm băm gốc.
Các bài kiểm tra cho thấy, trên PC có thể hoàn thành suy luận mô hình AI cơ bản trong vòng 2 giây, toàn bộ quá trình thử thách có thể hoàn thành trong 2 phút.
Trò chơi xác thực đa giai đoạn
Để khắc phục những hạn chế của giao thức một giai đoạn, đã đề xuất mở rộng giao thức nhiều giai đoạn:
Chỉ giai đoạn cuối cùng được tính toán trong VM, các giai đoạn khác có thể được thực hiện trong môi trường cục bộ.
Sử dụng CPU, GPU, TPU thậm chí xử lý song song, cải thiện hiệu suất đáng kể
Sử dụng cây Merkle để đảm bảo tính toàn vẹn và an toàn của quá trình chuyển đổi giai đoạn.
Phương pháp OPML hai giai đoạn với mô hình LLaMA:
Giai đoạn thứ hai: Thực hiện trò chơi xác minh trên đồ thị tính toán, có thể sử dụng CPU đa luồng hoặc GPU
Giai đoạn đầu tiên: Chuyển đổi tính toán của nút đơn thành lệnh VM
Cải tiến hiệu suất
Khung xác thực đa giai đoạn so với OPML một giai đoạn:
Tốc độ tính toán tăng α lần ( α là tỷ lệ tăng tốc GPU hoặc tính toán song song )
Kích thước cây Merkle giảm từ O(mn) xuống O(m+n)
Tính nhất quán và xác định
Để đảm bảo tính nhất quán của kết quả ML, OPML áp dụng:
Thuật toán điểm cố định ( công nghệ định lượng ): Sử dụng độ chính xác cố định thay thế cho số thực.
Thư viện số thực dựa trên phần mềm: đảm bảo tính nhất quán đa nền tảng
Những phương pháp này đã giải quyết hiệu quả những thách thức do biến số dấu phẩy động và sự khác biệt giữa các nền tảng mang lại, tăng cường độ tin cậy của việc tính toán OPML.
OPML vẫn đang trong quá trình phát triển, nhưng đã thể hiện tiềm năng to lớn. Nó không chỉ hỗ trợ suy diễn mô hình mà còn phù hợp với quá trình đào tạo, cung cấp giải pháp toàn diện cho các nhiệm vụ học máy trên hệ thống Blockchain.
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
14 thích
Phần thưởng
14
4
Đăng lại
Chia sẻ
Bình luận
0/400
GateUser-c799715c
· 13giờ trước
Không cần GPU vẫn có thể chạy mô hình lớn, cũng được cũng được.
Xem bản gốcTrả lời0
SolidityStruggler
· 08-10 22:43
Chẳng qua chỉ là một phiên bản đơn giản của TrueBit mà thôi.
Xem bản gốcTrả lời0
PortfolioAlert
· 08-10 22:42
Thời gian thu hồi rác máy thông thường
Xem bản gốcTrả lời0
Web3ProductManager
· 08-10 22:23
nhìn vào các chỉ số người dùng, opml có thể là một yếu tố giảm ma sát lớn cho việc áp dụng web3 ai... không nói dối, tiềm năng tpm ở đây thật điên rồ
Cải cách công nghệ OPML: Thực hiện suy diễn và đào tạo mô hình AI hiệu quả trên Blockchain
OPML: Học máy lạc quan mang lại cơ hội mới cho hệ thống Blockchain
OPML(Học máy lạc quan) là một công nghệ mới nổi, có thể thực hiện suy diễn và đào tạo mô hình AI trên hệ thống Blockchain. So với ZKML, OPML có ưu điểm chi phí thấp, hiệu suất cao. Ngay cả trên PC thông thường, không cần GPU cũng có thể chạy các mô hình ngôn ngữ lớn như 7B-LLaMA( khoảng 26GB).
OPML áp dụng cơ chế trò chơi xác thực, tương tự như Truebit và hệ thống tổng hợp lạc quan, để đảm bảo tính phi tập trung và khả năng xác minh của dịch vụ ML:
Trò chơi xác thực một giai đoạn
Nguyên lý hoạt động của giao thức định vị chính xác một giai đoạn tương tự như ủy thác tính toán (RDoC). Trong OPML:
Các bài kiểm tra cho thấy, trên PC có thể hoàn thành suy luận mô hình AI cơ bản trong vòng 2 giây, toàn bộ quá trình thử thách có thể hoàn thành trong 2 phút.
Trò chơi xác thực đa giai đoạn
Để khắc phục những hạn chế của giao thức một giai đoạn, đã đề xuất mở rộng giao thức nhiều giai đoạn:
Phương pháp OPML hai giai đoạn với mô hình LLaMA:
Cải tiến hiệu suất
Khung xác thực đa giai đoạn so với OPML một giai đoạn:
Tính nhất quán và xác định
Để đảm bảo tính nhất quán của kết quả ML, OPML áp dụng:
Những phương pháp này đã giải quyết hiệu quả những thách thức do biến số dấu phẩy động và sự khác biệt giữa các nền tảng mang lại, tăng cường độ tin cậy của việc tính toán OPML.
OPML vẫn đang trong quá trình phát triển, nhưng đã thể hiện tiềm năng to lớn. Nó không chỉ hỗ trợ suy diễn mô hình mà còn phù hợp với quá trình đào tạo, cung cấp giải pháp toàn diện cho các nhiệm vụ học máy trên hệ thống Blockchain.