La prima ricerca sui fondamenti dell'addestramento del carattere -- ovvero l'applicazione di tecniche moderne post-addestramento per radicare specifiche caratteristiche del carattere nei modelli. Tutti i modelli, i dataset, il codice ecc. rilasciati. Sono davvero entusiasta di questo progetto! Lavorare con Sharan è stato un piacere.
Sharan
Sharan4 nov, 22:09
AI che è "costretta a essere buona" vs "genuinamente buona" Dovremmo preoccuparci della differenza? (sì!) Stiamo rilasciando la prima implementazione aperta della formazione del carattere. Modelliamo la persona degli assistenti AI in un modo più robusto rispetto ad alternative come il prompting o la guida all'attivazione.
Per le persone che mi seguono da un po', sapete che questo è stato nel mio radar come un'area enormemente sottovalutata, qualcosa che sta influenzando sempre di più l'avanguardia del deployment dei modelli, non studiato in accademia, ma accessibile in termini di costi. Spero di avviare qui un piccolo campo di ricerca!
Le persone a cui ho guardato per questo per molto tempo come creatori del campo dell'addestramento del carattere (pubblicamente, sicuramente hanno contribuito di più): @AmandaAskell, @joannejang, e @johnschulman2
33,46K