Sự suy giảm trí tuệ của LLM do não bộ bị tổn thương. Các nhà nghiên cứu cho thấy rằng dữ liệu web rác gây ra sự suy giảm nhận thức vĩnh viễn ở các LLM. Chính xác như con người khi lướt web không ngừng. >Sự suy giảm trong lý luận (ARC) 74.9->57.2, trí nhớ ngữ cảnh dài (RULER) 84.4->52.3. Các LLM về cơ bản bỏ qua chuỗi suy nghĩ và ngay lập tức rơi vào ảo giác. >Khi được đánh giá về các đặc điểm tính cách, các mô hình cho thấy sự gia tăng các dấu hiệu của chủ nghĩa tự mãn và tâm thần xã hội. Khi thức ăn rác nuôi dưỡng thế hệ AI tiếp theo và các thuật toán đẩy chúng lên hàng đầu, chất lượng dữ liệu càng suy giảm—tạo ra một vòng lặp vô tận. Như @ilyasut đã nói, thời điểm kết thúc giai đoạn tiền huấn luyện đã đến.