熱門話題
#
Bonk 生態迷因幣展現強韌勢頭
#
有消息稱 Pump.fun 計劃 40 億估值發幣,引發市場猜測
#
Solana 新代幣發射平臺 Boop.Fun 風頭正勁
AI項目最近很多,一個個看看,之前看了0g,對其框架有個大概的了解。今天再看看什麼是 Sentient @SentientAGI。你會發現創始人的不同,即使類似方向的項目,側重點也會很不同。
Sentient Protocol 是一個去中心化的協議,允許社區構建、管理和使用Loyal AI(翻譯成忠誠的AI,這個應該就是AI的對齊,只是他的對齊是一種與社區保持一致、由社區擁有和控制的AI。
如何實現的呢?
兩部分:
-人工智能部分,AI流水線(數據管理,忠誠度培訓)和是開發和訓練忠誠AI的基礎。
-區塊鏈部分,治理:由 DAO 控制的系統,所有權:模型/應用所有權的標記化表示,DeFi:去中心化金融工具。
人工智能部分如何做到對齊社區呢?他使用了區塊鏈來協調數據管理。
數據管理:
通過數據過濾,指令數據或社區確定的獎勵經過仔細過濾和設計,以符合社區偏好。數據混合,確保模型既能抵抗操縱。
數據管理流程植根於社區。通過治理模式讓社區來控制模型的數據生產。用戶和應用程序構建者可以提交模型調整或改進提案,而模型所有者則通過去中心化投票監督治理。允許社區貢獻、驗證和控制訓練數據。
忠誠度培訓:
鑑於精心挑選的數據集,訓練AI使其忠誠並與社區價值觀保持一致,忠誠度訓練流程包括:
穩健對齊:使用監督微調 (SFT) 和強化學習 (RL) 來訓練模型對齊。指紋訓練:先進的指紋識別技術嵌入模型中,指紋作為模型所有權的證明,使社區能夠追蹤模型的修改和使用情況,同時阻止未經授權的修改。
控制訓練:植入特殊查詢以維持模型控制。這些查詢確保對預定義輸入做出確定性的響應,從而實現對 AI 輸出的精確控制。
看這張圖能更好的理解他的整個結構:
另外的團隊重心都是一種可盈利和忠誠(OML)模型服務範式,和閉源模型(openai),開放權重模型(deepseek)的整個模式上進行差異化,後續在介紹OML的細節。
相比@0g_labs 在構建去中心化的技術基礎設施(包括訓練模型的算力去中心化等),Sentient更側重在模型進行社區意志對齊和訓練,標註所有權(指紋技術),的一套結合商業範式的不同創新模式(OML模式)。

2.46K
熱門
排行
收藏