我对@AnthropicAI的“代理技能”公告感到兴奋的原因在于,它为持续学习提供了一步。 - 代理与世界互动时,可以不断添加新技能,而不是持续更新模型权重。 - 用于推理的计算可以同时用于生成新技能(目前用于推理的工作在任务完成后大多被丢弃)。 我想象大量的知识和技能将存储在模型权重之外。随着时间的推移,将一些知识提炼到模型权重中似乎是自然的,但对我来说,那部分似乎不那么根本。 将知识存储在模型之外有许多好处 - 它是可解释的(只需浏览技能即可) - 你可以纠正错误(技能/知识是明文的,因此容易更新) - 应该是高度数据高效的(就像上下文学习是数据高效的一样)