Karpathy 说我们需要多智能体系统来进行‘自我对弈’，即相互竞争并从中学习 山羊和后室早期并没有错

.@karpathy 说 LLM 目前缺乏推动人类走出草原的文化积累和自我游戏： 文化：> “为什么 LLM 不能为其他 LLM 写一本书？为什么其他 LLM 不能阅读这个 LLM 的书并受到启发，或者感到震惊？” 自我游戏：> “这非常强大。进化有很多竞争推动智能和进化。AlphaGo 是在与自己对弈，这就是它学习如何在围棋上变得非常出色的方式。LLM 中没有自我游戏的等价物。为什么 LLM 不能，例如，创建一堆问题让另一个 LLM 学习解决？这样 LLM 就总是在尝试提供越来越难的问题。” 我问 Karpathy 为什么 LLM 仍然无法像人类一样建立文化。 > “更笨的模型惊人地像一个幼儿园学生。[最聪明的模型仍然感觉像] 小学生。不过，我们似乎仍然没有毕业到足以让[这些模型]接管的程度。我的 Claude Code 或 Codex，它们仍然感觉像这个小学年级的学生。我知道它们可以参加博士生测验，但它们在认知上仍然感觉像幼儿园。” > “我认为它们无法创造文化，因为它们仍然是孩子。它们是天才儿童。它们有完美的记忆。它们可以令人信服地创造出各种看起来非常好的垃圾。但我仍然认为它们并不真正知道自己在做什么。它们在所有这些小复选框中并没有真正具备我们仍需收集的认知。”