最近出現的AI投毒問題,側面說明了 AI可驗證性 的需求,特別是當AI進入關鍵決策和敏感區域,這個需求更加明顯,也是天然適合Crypto的一條線。 AI 投毒主要發生在訓練數據或模型層面:攻擊者注入惡意數據,導致模型輸出錯誤或有害結果,這與AI幻覺明顯不同,它可能是被控制的或有惡意指向的。 Crypto提供的可驗證方案,比如EigenCloud,通常是確保推理過程是確定性的,並生成證明。用戶可以重新執行推理,驗證輸出是否符合預期模型和輸入。雖然不能直接從上游阻止投毒,但它能通過驗證的方式很好的降低傷害。這是目前邏輯最自洽的AI+Crypto故事。