热门话题
#
Bonk 生态迷因币展现强韧势头
#
有消息称 Pump.fun 计划 40 亿估值发币，引发市场猜测
#
Solana 新代币发射平台 Boop.Fun 风头正劲
John Schulman
最近开始@thinkymachines。对强化学习、对齐、鸟、爵士乐感兴趣
很高兴分享一篇新论文！设计模型行为是困难的——理想的价值观往往朝相反的方向拉扯。Jifan 的方法系统地生成价值观冲突的场景，帮助我们看到规范缺乏覆盖的地方，以及不同模型如何平衡权衡。
2025年10月25日
与Anthropic和Thinking Machines合作的新研究论文
AI公司使用模型规范来定义训练期间期望的行为。模型规范是否清楚地表达了我们希望模型做什么？不同的前沿模型是否具有不同的个性？
我们生成了数千个场景来找出答案。🧵
106.79K
热门
排行
收藏