Nếu cuộc phỏng vấn của Karpathy này không làm nổ tung bong bóng AI, thì không có gì sẽ làm được. 10 câu trích dẫn tàn nhẫn: 1. LLM chưa hoạt động Chúng không đủ thông minh, không đủ đa phương thức, không thể sử dụng máy tính và không nhớ những gì bạn nói với chúng. Chúng thiếu hụt về nhận thức. Sẽ mất khoảng một thập kỷ để giải quyết tất cả những điều đó. 2. Khi bạn khởi động chúng, chúng luôn bắt đầu từ số không Chúng không có giai đoạn chưng cất, không có quá trình như giấc ngủ nơi những gì đã xảy ra được phân tích và ghi lại vào trọng số. 3. Những gì được lưu trữ trong trọng số của chúng chỉ là một ký ức mờ nhạt về internet Nó chỉ là một mảnh mờ của 15 triệu tỷ token được nén vào vài tỷ tham số. Cửa sổ ngữ cảnh của chúng chỉ là trí nhớ làm việc ngắn hạn. 4. Chúng giỏi bắt chước, nhưng tệ trong việc thoát khỏi tập dữ liệu Quá nhiều trí nhớ, không đủ lý luận. Chúng ta cần loại bỏ kiến thức đã ghi nhớ và giữ lại lõi nhận thức: các thuật toán, phép màu của trí thông minh, giải quyết vấn đề, chiến lược. 5. Chúng ta có thể đã tái tạo một mô hình vỏ não, học theo mẫu và tổng quát, nhưng chúng ta vẫn thiếu phần còn lại của não bộ Không có hippocampus cho trí nhớ. Không có amygdala cho bản năng. Không có cảm xúc hay động lực. 6. Chúng ghi nhớ hoàn hảo nhưng tổng quát kém Nếu bạn đưa cho chúng những con số ngẫu nhiên, chúng có thể đọc lại chúng. Không có con người nào có thể làm điều đó. Đó là vấn đề: con người quên đủ để bị buộc phải tìm kiếm các mẫu. 7. Bất cứ điều gì thực sự mới, mã chưa bao giờ được viết trước đây, ý tưởng không có mẫu; chúng vấp ngã...