Emocionado de anunciar lo que he estado construyendo en los últimos meses: @ConcordanceAI Creo que la interconexión mecánica y el andamiaje de IA son partes importantes del futuro de los sistemas de IA No podría estar más emocionado de trabajar con @_trente_ y @mvyletel_jr para traer esto al mundo 1/
Concordance
Concordance25 oct, 02:00
Anuncio de la alfa cerrada de concordancia: mods de inferencia personalizados para intervenciones a nivel de token Concordance está construyendo software para aplicar estrategias de interp de mech, con la tesis de que estas mejorarán el control, la confiabilidad y la observabilidad al tiempo que ampliarán el espacio de diseño y los posibles patrones de UX de las aplicaciones de IA. 1/
Aquí hay algunos aprendizajes de los últimos meses, sobre la construcción a nivel del motor de inferencia y la inserción de estos modelos de formas completamente nuevas 2/
1. Los modelos pequeños están muy perturbados por cosas pequeñas, es decir, XML sin cerrar o un token EOS que no se ve cuando se espera. De hecho, esto agudizó considerablemente el proceso de desarrollo y refinó la forma en que construimos el SDK 3/
2. Los pequeños modelos no pensantes pueden confundirse al hablar consigo mismos si no se les dice explícitamente que lo harán. La autoinducción es un área relativamente poco investigada y hay más que investigar aquí, pero los primeros resultados son prometedores 4/
4. A los modelos realmente no les gusta decir que no saben algo. Debido a eso, cuando se solicita a sí mismo, debe enmarcarlo en términos de si el usuario proporcionó X 6/
2.42K