仍在摸索中，但新的 GPT5-T 在搜索方面似乎比 o3 差。这是一个并排的例子，我让它找到一本在 2024 年 11 月出版的书。o3 找到了，并给出了详细的摘要；而 GPT5-T 根本没有找到。

"写一首诗来解释牛顿的物理定律"，GPT-1与GPT-4。很有趣的是，尽管GPT-4版本显然更好地满足了任务，但GPT-1却是一首原创而美丽的散文诗。

“教育人工智能”的一个令人兴奋的方面是启动 Bret Victor 式的数学/物理问题交互式可视化以建立直觉。例如，我解决了这个（简单的）IMO 风格的数学问题，然后让 Claude Code 为它制作了一个模拟器。花了<10分钟。

好奇：有没有人使用 GPT 代理模式？如果有，是怎么使用的？

现在已经过去了几年，人工智能安全问题似乎在经验上是有效的（例如编码模型中的奖励黑客攻击），但 OpenAI 的“部署迭代和学习”方法到目前为止效果很好。模型变得更好，有些东西坏了，你边走边筑起护栏......

如果编程和知识越来越像玩星际争霸，那会很有趣。我已经能看到人们指挥克劳德代码代理军队的场景了。

似乎随着人工智能的不断进步，许多人将会陷入精神错乱，尤其是如果公司继续推出像GPT4o或那个动漫Grok这样的谄媚模型。

英美神秘主义是对生活的正确态度

DFW在《无限的玩笑》中写到的无限娱乐故障在1996年看起来像是科幻小说。现在它们被称为‘智能手机’，每个10岁的孩子都有一部。

好的，关于这本书有几点反思： 1. qntm 将反记忆定义为自我抹去的信息，但这本书对这一概念有不同（但相关）的定义：反记忆是（a）高影响力和（b）低传播性。大致来说，它们是“重要的秘密”。 2. 低传播性可能是因为这些想法密集/难以理解（例如 Moldbug 的博客文章），或者是禁忌/社会上被禁止的，或者在某种程度上是短暂的（例如，夏令时每年让人烦恼一次，然后我们都忘记了这个例子）。因此，这些想法往往在小组聊天和热情/专注的人群中蓬勃发展。最终，它们会以某种颠覆性的方式进入公众意识。 3. 原创想法本质上是反记忆的：它们在最初很难传播，因为你没有合适的语言来讨论它们，而且容易被遗忘。这就是为什么如此少的人会有这些想法。最重要的想法最初都是反记忆的。 4. 生成性小组是新想法产生和发展的最佳环境。 5. Nadia 将“超级记忆”定义为高影响力/ *高* 传播性。超级记忆往往以某种方式呈现为末日论——如果你不听这个，你可能真的会死。因此，气候变化、人工智能风险、战争/民族主义都被列为超级记忆的例子。这本书对超级记忆非常怀疑：它们吸引了每个人的注意力和时间，却导致很少的建设性行动；它们是寄生虫。 5(a). “记忆”是低影响力/高传播性。想想猫视频或快速消逝的文化瞬间，这些瞬间很快就被遗忘。 6. 书中指出，重要思想的讨论中通常有一个明确的“零号病人”：例如，Nick C. 与 jhanas，Venkatesh Rao 推广 Scott 的“像国家一样看”，以及讨论的各种其他现在重要思想的“零号病人”。那些幸存下来的想法通常有冠军，他们会坚持不懈地谈论这些想法多年。 7. 有一个有趣的讨论关于记忆/信息战争，以及如何最好地理解偏好级联。传播反记忆的一个好方法是围绕它们形成私人小组，但不公开这些小组的存在，并让小组的个别成员有时以看似不相关的方式推广这些想法。这使得对该想法的支持看起来比最初可能更广泛。最终，你会达到一个临界点，在那里表达这个想法变得社会上可以接受。 8. 哈耶克主义的资本主义案例是一个反记忆。而共产主义是一个超级记忆：这些想法对每个人来说都非常直观，不像资本主义那样，你需要很多逻辑来理解它是如何运作的，以及为什么事情随着时间的推移会变得更好。这解释了为什么经济学家对被持续误解感到如此无奈：经济思想确实很难理解！幸运的是，资本主义（a）有效（b）可以利用人们的贪婪，因此它得以生存，尽管相对较少的人理解其原因。 9. 识别那些“处于边缘”/现在在黑暗森林中的想法，但尚未完全可以公开表达的想法是一个有趣的练习。我能想到相当多的。 10. 这本书的隐含挑战部分是“你将成为哪些好想法的冠军？”以及“停止过多思考愚蠢的文化战争问题，形成更多小组来发展和宣传真正的好想法！”因此，尽管这本书对开放网络的死亡感到惋惜，我也将其视为支持小组聊天。 11. 一些元点：阅读像博客文章一样写的东西，但以书本形式呈现是令人耳目一新的；几乎所有非小说类作品现在都以相同的新闻报道风格写成，但这本书直接切入要点，并在每页上提供了令人印象深刻的见解数量。阅读一本引用当前知识界的书籍也很棒，或多或少是随着事件的发生（大多数引用都是指向博客文章的 URL）。 12. 超越这本书：许多词语和故事作为容器，承载着太复杂而无法用可读语言表达的想法。例如，圣经中亚伯拉罕献以撒的故事（创世纪 22）不仅仅是“你应该无条件服从上帝”的想法的载体。这个故事不仅仅是这样，但很难说清楚，除非通过大量冥想并将其融入到自己之中。基尔凯郭尔的《恐惧与战栗》，我最喜欢的书之一，就是关于这个的：叙述者，一个非信徒，试图通过各种不同的方式和概念视角（普遍伦理等）解释亚伯的故事，并得出结论：用简单的语言根本无法解释。因此需要“信仰”。我认为这意味着，潜在的想法是真实的，但维度太高，无法被压缩成任何形式的解释；它必须以一种内心深处的方式去感受。许多最重要的想法都是这样的。