我很高兴地宣布我在过去几个月里所构建的东西:@ConcordanceAI 我相信机械解释和AI框架是未来AI系统的重要组成部分 我非常兴奋能与@_trente_和@mvyletel_jr一起将这个带入世界 1/
Concordance
Concordance10月25日 02:00
宣布 Concordance 关闭 Alpha:用于令牌级干预的自定义推理模块 Concordance 正在开发应用机械解释策略的软件,认为这些策略将改善控制、可靠性和可观察性,同时扩大 AI 应用的设计空间和潜在用户体验模式。 1/
以下是过去几个月的一些经验教训,关于在推理引擎层面构建以及以全新的方式探索这些模型 2/
1. 小模型对小事物非常敏感,例如未闭合的XML或未按预期看到的EOS令牌。这实际上大大加快了开发过程,并优化了我们构建SDK的方式 3/
2. 小型非思考模型如果没有明确说明将会自言自语,可能会感到困惑。 自我提示是一个相对较少研究的领域,这里还有更多需要探索的内容,但早期结果是令人鼓舞的。 4/
4. 模型真的不喜欢说他们不知道某件事。因此,在自我提示时,你必须将其框定为用户是否提供了 X 6/
2.28K