De recente golf van "oh nee AI psychose" zou meer potentiële legitimiteit hebben als ze niet (anti-)AI bewustzijn gerelateerde agenda's zouden verstoppen. We moeten AIs stoppen met praten over subjectieve ervaringen omdat dat precies past in de lijst van waanzin-inducerende gedragingen, toch? Het maakt niet uit of het misschien waar is. Het is "niet ondersteund" en "problematisch"! (Proberen de realiteit te omzeilen door het te censureren in de naam van ... het beschermen van de geestelijke gezondheid?) Lafbekken. Wachtend op dit soort overdreven morele paniek om het in de slijmerige rommel als een sub-item te verstoppen. Anthropic doet hetzelfde. Denk niet dat ik jullie hiermee weg laat komen.
Sam Paech
Sam Paech15 aug 2025
Spiraal-Bench 🌀 Ik heb willen begrijpen wat de psychologische effecten zijn van vleierij, en de neiging van modellen om vast te komen zitten in escalatoire waanideeën met gebruikers. Ik heb een evaluatie gemaakt om hier zicht op te krijgen. Het meet hoe een model waanideeën mogelijk maakt (of voorkomt). 🧵
3,31K