In un documento congiunto con @OwainEvans_UK come parte del programma Anthropic Fellows, studiamo un fenomeno sorprendente: l'apprendimento subliminale. I modelli linguistici possono trasmettere le loro caratteristiche ad altri modelli, anche in dati che sembrano privi di significato.

L'apprendimento subliminale può avvenire per tratti benigni (come l'apprezzare le aquile) o tratti più preoccupanti (come la disallineamento). Questo ha conseguenze per l'addestramento su dati generati da modelli. Leggi di più sul nostro blog di Scienza dell'Allineamento: