En un artículo conjunto con @OwainEvans_UK como parte del Programa de Becarios Antrópicos, estudiamos un fenómeno sorprendente: el aprendizaje subliminal. Los modelos de lenguaje pueden transmitir sus rasgos a otros modelos, incluso en lo que parecen ser datos sin sentido.

El aprendizaje subliminal puede ocurrir para rasgos benignos (como el gusto por las águilas) o rasgos más preocupantes (como la desalineación). Esto tiene consecuencias para el entrenamiento con datos generados por modelos. Lea más en nuestro blog de Alignment Science: