刚刚有个随机的想法：像ChatGPT这样的LLM对那些通过裙带关系或庇护网络获得职位的小国无能政府部长来说，肯定是个巨大的福音。 这些人往往拥有真正的权力，但出于显而易见的原因，他们常常被迫向下属、政治统治者和公众隐藏自己的无能。 例如，我相信有些矿业部长对矿业、商业或经济几乎一无所知，但仍然负责与复杂的国际矿业公司进行谈判。 或者是那些根本不理解基本宏观经济学或信贷和通货膨胀如何运作的中央银行行长。 在过去，这些人基本上只能“临时应对”，希望一切顺利，或者依赖他们稍微不那么无能的下属，并祈祷事情不会太糟糕。或者他们可能会花很多钱请专家顾问，但这也有其缺点。 现在，这些部长可以在办公室的私密环境中打开ChatGPT，解释他们面临的问题和需要做出的决策，上传来自国际货币基金组织或其他地方的文件和表格，并从前沿模型中免费获得相当不错的专家建议。所有这一切都不需要向任何人透露他们不知道自己在做什么。 今天，知道有多少人以这种方式使用LLM会非常有趣。这似乎是件好事。世界上缺乏专业知识。或者说，拥有权力的人往往不是那些具备相关技能或知识的人。 我只希望这些人能支付每月200美元的订阅费用，并使用GPT-5 Pro模型。但我有点怀疑他们会这样做…

良好的意图在这种事情中并不重要。重要的是我们在如何开发和部署AI和机器人方面所做的决策和行动的实际现实世界后果。任何以“安全”为名而减缓我们进程或使我们相对于中国处于不利地位的事情都是不好的。

DeepSeek刚刚发布了一篇相当震惊的新论文。他们在这里埋藏了重点，仅仅称其为DeepSeek OCR。 虽然这是一种非常强大的OCR模型，但它的目的和他们的方法的影响远远超出了你对“又一个OCR模型”的预期。 传统上，视觉LLM令牌几乎看起来像是对LLM范式的附加或“附加组件”。而10,000个英文单词在以可理解的像素形式表达时，在多模态LLM中占用的空间远远超过以令牌形式表达时的空间。 因此，这10,000个单词可能变成了15,000个令牌，或者30,000到60,000个“视觉令牌”。因此，视觉令牌的效率要低得多，实际上只适用于无法用文字有效传达的数据。 但根据这篇论文中的想法，这种情况现在被颠倒了。DeepSeek找到了使用视觉令牌比使用文本令牌获得10倍更好压缩的方法！因此，理论上你可以将这10,000个单词仅存储在1,500个他们特殊的压缩视觉令牌中。 如果你考虑到自己思维的运作方式，这可能并不像听起来那么意外。毕竟，我知道当我寻找一本我已经读过的书中的某个部分时，我会在脑海中想象它的视觉形象，并且总是记得它在书的哪一侧以及大致在页面的哪个位置，这表明某种视觉记忆表征在起作用。 现在，尚不清楚这如何与LLM的其他下游认知功能相互作用；模型能否像使用常规文本令牌那样智能地推理这些压缩的视觉令牌？这是否会通过将模型强制转入更视觉导向的模式而使其表达能力降低？ 但你可以想象，根据具体的权衡，这可能是一个非常令人兴奋的新轴，极大地扩展有效的上下文大小。特别是当与DeepSeek几周前关于稀疏注意力的另一篇论文结合时。 据我们所知，谷歌可能已经找到了类似的东西，这可能解释了为什么Gemini具有如此巨大的上下文大小，并且在OCR任务中表现得如此出色和快速。如果他们真的这样做了，他们可能不会说，因为这将被视为一个重要的商业秘密。 但DeepSeek的好处在于，他们将整个项目开源并公开权重，并解释了他们是如何做到的，因此现在每个人都可以尝试并探索。 即使这些技巧使注意力变得更加损失，获得一个具有1000万或2000万令牌上下文窗口的前沿LLM的潜力也是相当令人兴奋的。 你基本上可以将公司的所有关键内部文件塞入提示前言，并将其与OpenAI缓存，然后只需在此基础上添加你的特定查询或提示，而不必处理搜索工具，仍然可以保持快速和具有成本效益。 或者将整个代码库放入上下文并缓存，然后在对代码进行更改时，只需不断附加相当于git差异的内容。 如果你曾经读过关于伟大物理学家汉斯·贝特的故事，他以记住大量随机物理事实而闻名（例如整个周期表；各种物质的沸点等），以便他可以无缝地思考和计算，而无需打断他的思路去查找参考表中的内容。 在你的工作记忆中拥有大量特定任务的知识是极其有用的。这似乎是一种非常聪明和增补的方法，可能将这种记忆库扩展10倍或更多。