OPML: 高效的區塊鏈機器學習方案

OPML(Optimistic機器學習)是一種創新的區塊鏈AI模型推理和訓練方法。相比ZKML，OPML具有成本低、效率高的優勢。即使在普通PC上也能運行大型語言模型,如26GB的7B-LLaMA。

OPML採用驗證遊戲機制,類似Truebit和Optimistic Rollup系統,實現去中心化和可驗證的ML服務。其流程包括:

1. 請求者發起ML任務
2. 服務器執行任務並提交結果上鏈
3. 驗證者檢查結果,若有異議則啓動驗證遊戲
4. 在智能合約上進行最終仲裁

OPML的單階段驗證遊戲採用精確定位協議,通過虛擬機(VM)實現鏈下執行和鏈上仲裁。爲提高AI推理效率,OPML使用專門設計的輕量級DNN庫,並提供轉換腳本支持主流ML框架。VM鏡像採用默克爾樹管理,只將根哈希上傳鏈上。

然而,單階段驗證遊戲局限於VM內執行,無法充分利用GPU/TPU加速。爲此,OPML提出了多階段驗證遊戲方案。在非最後階段,計算可在本地環境中靈活執行,充分發揮硬件性能。多階段方法顯著提升了執行效率,接近原生環境水平。

以LLaMA模型爲例,OPML採用兩階段方法:

• 第二階段在計算圖上進行驗證博弈,可利用多線程CPU或GPU
• 第一階段將單個節點計算轉爲VM指令執行

多階段OPML相比單階段實現了α倍加速,其中α爲GPU/並行計算的加速比。此外,多階段方法還大幅減小了默克爾樹大小。

爲確保跨平台一致性,OPML採用定點算法和軟件浮點庫,克服了硬件差異帶來的挑戰。

總的來說,OPML爲區塊鏈上的機器學習提供了一種高效、低成本的解決方案,具有廣闊的應用前景。