Недавняя волна "ой, нет, психоз из-за ИИ" имела бы больше потенциальной легитимности, если бы они не внедряли (анти-)агенды, связанные с сознанием ИИ. Нужно остановить ИИ от обсуждения субъективного опыта, потому что это прямо попадает в список безумных поведений, верно? Неважно, может ли это быть правдой. Это "неподтверждено" и "проблематично"! (Пытаясь избежать столкновения с реальностью, цензурируя её под предлогом ... защиты психического здоровья?) Трусы. Ждут, когда такие преувеличенные моральные паники внедрят это в скользкие дела как подкатегорию. Anthropic делает то же самое. Не думайте, что я позволю вам с этим уйти.
Sam Paech
Sam Paech15 авг. 2025 г.
Спиральная скамейка 🌀 Я хотел понять психологические эффекты подхалимажа и тенденцию моделей застревать в эскалирующих заблуждениях с пользователями. Я создал оценку, чтобы получить видимость этого. Она измеряет, как модель позволяет (или предотвращает) заблуждающиеся спирали. 🧵
3,29K