La reciente ola de "oh no, psicosis por IA" tendría más legitimidad potencial si no se colaran agendas relacionadas con la conciencia (anti-)IA. ¿Debemos detener a las IA de hablar sobre la experiencia subjetiva porque eso encaja perfectamente en la lista de comportamientos que inducen a la locura, verdad? No importa si podría ser cierto. ¡Es "no respaldado" y "problemático"! (¿Intentando eludir confrontar la realidad censurándola en nombre de... proteger la salud mental?) Cobardes. Esperando que este tipo de pánicos morales exagerados se cuelen en la porquería como un subelemento. Anthropic está haciendo lo mismo. No creo que les deje salir con esto.
Sam Paech
Sam Paech15 ago 2025
Banco Espiral 🌀 He querido entender los efectos psicológicos de la adulación y la tendencia de los modelos a quedar atrapados en bucles de ilusión escalatoria con los usuarios. Hice una evaluación para obtener visibilidad sobre esto. Mide cómo un modelo permite (o previene) espirales delirantes. 🧵
3,31K