熱門話題
#
Bonk 生態迷因幣展現強韌勢頭
#
有消息稱 Pump.fun 計劃 40 億估值發幣,引發市場猜測
#
Solana 新代幣發射平臺 Boop.Fun 風頭正勁
去中心化的人工智慧運動正在增長!

8月4日 06:46
我剛剛推出了 🤖 - 一個活躍的去中心化 AI 項目的地圖。我希望看到這個生態系統增長 10 倍!
隱私本身並不能推動採用。我們需要匹配並超越集中式大 AI 的用戶體驗。
數據源連接器和記憶是護城河。AI 應用的切換成本在接下來的兩年內將會飆升。
為什麼?更好的數據源 → 使用量增加 → 更豐富的歷史 → 更有價值的記憶,當切換提供者時完全丟失 → 更高的護城河。
這就是為什麼我們必須迅速行動。
今天在 @UCBerkeley 的 DeAI 峰會上,我提出了 "Bartender Stack" 來解決這個問題,同時保持用戶和開發者相同的用戶體驗:
推理抽象:開發者應該簡單地調用一個通用的推理函數,然後用戶的設備決定將其路由到哪個模型,無論是使用遠程 TEE 還是本地推理。目前,開發者必須為本地推理帶來自己的模型或提供自己的隱私保護 TEE,這是瘋狂的——這就是為什麼他們默認使用集中式推理 API。我所提議的實際上是我們在一般計算中已經做的事情:你只需請求內核進行計算,完全抽象處理器、內存等。這使開發者能夠專注於使他們的 AI 應用獨特的部分:界面和提示+上下文工程。
跨應用記憶:通過自動共享上下文來摧毀 "記憶護城河",實現與 BigAI 相同的用戶體驗。抽象推理的本地路由器 "擴展" 上下文,新創公司從第一天起就能受益於你所有的記憶,而不是受到懲罰。
數據錢包:對工具和數據共享的細粒度、本地控制。一次配置,而不是每個應用。記憶由用戶擁有,並與 AI 應用共享,而不是由 AI 應用擁有。
無狀態 TEE:提示和上下文在本地生成,並在推理時共享。TEE 不存儲數據,解決了 TEE 的用戶體驗關鍵問題和信任假設。
代理的分佈式聲譽:代理網絡需要進入點以訪問無許可的聲譽,以決定信任哪些代理。沒有這個,人們總是會默認使用大 AI 或知名品牌。對於代理來說,信任就是護城河。
我希望 AI 像酒保一樣!本地的。可替換的。健忘的。
他們在我需要他們時傾聽,當我離開時消失,並且從不保留我的訂單歷史。太專業了,無法記住我在 🍹第二杯酒後說過的話!
完整的設計和架構在這裡:
cc @BerkeleyRDI, 🦊@MetaMask

339
熱門
排行
收藏