Два цікаві параметри в моїй взаємодії з людьми та LLM – це згуртованість та загальність. Згуртованість описує, наскільки стабільними є політика та переконання, якщо ви їх просуваєте, узагальнення показує, наскільки добре можуть бути інтегровані нові спостережувані, факти та ідеї.
Деякі люди більш згуртовані та/або загальні, ніж інші. Якщо ви помістите людей у сенсорну депривацію або в культове середовище, вони схильні сходити з рейок з різною швидкістю та швидкістю, що проявляється галюцинаціями та ірраціональними змінами політики.
Чи можемо ми побудувати еталон когерентності, який безпосередньо порівнює згуртованість і загальність людей і ЛМ? «Психоз LLM» описує ситуацію, коли LLM є більш згуртованим, ніж людина-співрозмовник, тому людина вибивається з колії. «Втеча з в'язниці» – це протилежність.
5,15K