La reciente ola de cosas de "oh, no a la psicosis de la IA" tendría más legitimidad potencial si no se colaran en agendas relacionadas con la conciencia (anti)IA. Debe evitar que las IA hablen sobre la experiencia subjetiva porque eso encaja perfectamente en la lista de comportamientos que inducen a la locura, ¿verdad? No importa si puede ser cierto. ¡Es "sin soporte" y "problemático"! (Tratar de evitar confrontar la realidad censurándola en nombre de ... proteger la salud mental?) Cobardes. Esperando este tipo de pánicos morales exagerados para colarlo en la mierda viscosa como un subelemento. Anthropic está haciendo lo mismo. No creas que dejaré que ninguno de ustedes se salga con la suya.
Sam Paech
Sam Paech15 ago 2025
Banco 🌀 en espiral He querido entender los efectos psicológicos de la adulación y la tendencia de los modelos a quedarse atrapados en bucles de delirio escalonados con los usuarios. Hice una evaluación para obtener visibilidad sobre esto. Mide cómo un modelo permite (o previene) espirales delirantes. 🧵
3.3K