熱門話題
#
Bonk 生態迷因幣展現強韌勢頭
#
有消息稱 Pump.fun 計劃 40 億估值發幣，引發市場猜測
#
Solana 新代幣發射平臺 Boop.Fun 風頭正勁
John Schulman
最近開始@thinkymachines。對強化學習、對齊、鳥、爵士樂感興趣
很高興分享一篇新論文！設計模型行為是困難的——理想的價值觀往往朝相反的方向拉扯。Jifan 的方法系統性地生成價值觀衝突的場景，幫助我們看到規範缺乏覆蓋的地方，以及不同模型如何平衡取捨。
2025年10月25日
與Anthropic和Thinking Machines合作的新研究論文
AI公司使用模型規範來定義訓練期間期望的行為。模型規範是否清楚地表達了我們希望模型做什麼？不同的前沿模型是否有不同的個性？
我們生成了數千個場景來找出答案。🧵
106.79K
熱門
排行
收藏