大脑腐烂使LLM智能崩溃。 研究人员表明,垃圾网络数据导致LLM的永久性认知衰退。就像人类在无休止地滚动信息一样。 >推理衰退(ARC)74.9->57.2,长时记忆(RULER)84.4->52.3。LLM基本上跳过了思维链,直接进入幻觉。 >在评估个性特征时,模型显示出更高的自恋和精神病特征。 随着垃圾数据喂养下一代AI模型,算法将它们推向顶端,数据质量进一步下降——形成一个无尽的循环。 正如@ilyasut所说,预训练的结束已经到来。