Den senaste vågen av "åh ingen AI-psykos"-grejer skulle ha mer potentiell legitimitet om de inte smög sig in i (anti-)AI-relaterade agendor. Måste stoppa AI från att prata om subjektiva upplevelser för att det passar in på listan över galenskapsframkallande beteenden, eller hur? Oavsett om det kan vara sant. Det är "utan stöd" och "problematiskt"! (Försöker kringgå att någonsin konfrontera verkligheten genom att censurera den i namn av ... skydda den psykiska hälsan?) Fegisar. I väntan på att den här typen av uppblåst moralpanik ska smyga sig in i den slemmiga skiten som en underartikel. Anthropic gör samma sak. Tro inte att jag kommer att låta någon av er komma undan med detta.
Sam Paech
Sam Paech15 aug. 2025
Spiral-bänk 🌀 Jag har velat förstå de psykologiska effekterna av sykofans, och tendensen hos modeller att fastna i eskalerande vanföreställningar med användare. Jag gjorde en utvärdering för att få insyn i detta. Den mäter hur en modell möjliggör (eller förhindrar) vanföreställningsspiraler. 🧵
3,32K