Due parametri interessanti nelle mie interazioni con gli esseri umani e i LLM sono coesione e generalità. La coesione descrive quanto siano stabili le politiche e le credenze quando le metti alla prova, la generalità descrive quanto bene nuovi osservabili, fatti e idee possano essere integrati.

Alcune persone sono più coese e/o generali di altre. Se metti le persone in privazione sensoriale o in ambienti di culto, tendono a deviare a ritmi e velocità diverse, evidente attraverso allucinazioni e cambiamenti di politica irrazionali.

Possiamo costruire un benchmark di coerenza che confronti direttamente la coesione e la generalità degli esseri umani e dei LLM? "Psicosi LLM" descrive una situazione in cui il LLM è più coeso dell'interlocutore umano, quindi l'umano viene deragliato. "Jailbreaking" è l'opposto.