熱門話題
#
Bonk 生態迷因幣展現強韌勢頭
#
有消息稱 Pump.fun 計劃 40 億估值發幣,引發市場猜測
#
Solana 新代幣發射平臺 Boop.Fun 風頭正勁
除了培訓前,我認為大多數學習都會這樣進行。
1. AI 模型/ 系統將維護大量可檢索的知識。這將包括諸如 「加利福尼亞的首府是薩克拉門托」 之類的事實,以及 「玩大富翁時,儘早購買一堆財產」 或 「確保 Python 中的預設參數不可變」 之類的策略。該系統將檢索相關事實/見解/策略以執行任務。
2. AI 將攝取所有類型的數據(書籍、代碼庫、新聞文章、流式感官輸入)。這將在訓練時以及部署以執行任務時發生。
3. 當系統遇到新數據時,它將有很大的理由來理解數據,尤其是在系統現有知識的上下文中理解數據。如果數據難以理解,例如,一篇技術研究論文,這個過程將非常需要計算,推理的輸出將被提煉成一組新的見解、策略和事實,這些見解、策略和事實存儲在系統知識中(以及對見解所來自的原始數據的引用)。如果新知識與現有檢索到的事實相矛盾,將進行更多推理以嘗試解決矛盾,並且將更新知識集合中的現有事實(以及有關更新原因的上下文)。
這有一些不錯的特性。
- 一種在 AI 收集新資訊時刪除或修復錯誤知識的方法。
- 關於模型所知道的內容及其執行任務的策略的一些可解釋性。此外,還能夠審計/檢查模型所知道的內容。
- 一種從訓練時推理中受益的方法,而不是僅僅在推理時進行推理,然後丟棄來之不易的見解。
- 這種訓練時間推理有可能提高數據效率,但計算密集度要高得多。
如果架構正確,這種訓練時間推理、知識存儲和檢索的過程可能是緊急的,但我希望它最初會融入其中。
熱門
排行
收藏