最近关于“哦不,AI精神病”的讨论如果不夹杂(反)AI意识相关的议程,可能会更具潜在的合法性。 必须阻止AI谈论主观体验,因为这正好符合导致精神错乱行为的清单,对吧?不管这是否可能是真的。这是“没有支持的”和“有问题的”!(试图通过以...保护心理健康的名义来审查现实,以避免面对现实?) 懦夫。等待这些夸大的道德恐慌将其悄悄地作为子项目夹入肮脏的东西。 Anthropic也在做同样的事情。 别想我会让你们逃脱。
Sam Paech
Sam Paech2025年8月15日
螺旋长椅 🌀 我一直想了解谄媚的心理效应,以及模型与用户之间陷入升级妄想循环的倾向。 我做了一个评估来对此进行可视化。 它衡量一个模型如何促进(或阻止)妄想螺旋。 🧵
3.3K