Tôi đặc biệt tò mò muốn hỏi @karpathy tại sao xe tự lái mất hơn một thập kỷ từ những chuyến đi trình diễn tuyệt vời đến việc triển khai một cách nào đó. Andrej đã dẫn dắt AI tại Tesla trong 5 năm. Tôi thực sự muốn biết liệu những ma sát này có nên kéo dài thời gian AGI của chúng ta hay không, hay liệu chúng chỉ là những vấn đề riêng biệt của việc tự lái. Lái xe có chi phí thất bại rất cao. Con người là những tài xế đáng tin cậy một cách đáng ngạc nhiên - chúng ta có một vụ tai nạn nghiêm trọng mỗi 400.000 dặm/7 năm. Và xe tự lái cần phải đạt hoặc vượt qua hồ sơ an toàn này trước khi có thể được triển khai. Nhưng có phải hầu hết các lĩnh vực đều như vậy không? Trước cuộc phỏng vấn, tôi cảm thấy rằng gần như mọi lĩnh vực mà chúng ta muốn tích hợp AGI đều có chi phí thất bại thấp hơn nhiều. Nếu các kỹ sư phần mềm hoàn toàn tự động không được phép mắc sai lầm trong 7 năm, việc triển khai thực sự sẽ rất chậm. Andrej đã đưa ra một điểm thú vị mà tôi chưa từng nghe trước đây: so với việc tự lái, kỹ thuật phần mềm có chi phí thất bại cao hơn (và có thể không giới hạn): > Nếu bạn đang viết mã sản xuất thực tế, bất kỳ loại sai lầm nào cũng có thể dẫn đến lỗ hổng bảo mật. Hàng trăm triệu số An sinh xã hội cá nhân của mọi người có thể bị rò rỉ. > Trong việc tự lái, nếu mọi thứ sai, bạn có thể bị thương. Có những kết quả tồi tệ hơn. Nhưng trong phần mềm, gần như không có giới hạn về mức độ tồi tệ mà một điều gì đó có thể xảy ra. > Theo một cách nào đó, kỹ thuật phần mềm là một vấn đề khó hơn [so với việc tự lái]. Tự lái chỉ là một trong hàng ngàn thứ mà con người làm. Nó gần như chỉ là một lĩnh vực đơn lẻ. Trong khi khi chúng ta nói về kỹ thuật phần mềm tổng quát, có nhiều bề mặt hơn. Có thể có một lý do khác tại sao sự chuyển đổi từ LLM -> AGI được triển khai rộng rãi có thể xảy ra nhanh hơn nhiều: LLM cung cấp cho chúng ta khả năng nhận thức, đại diện và kiến thức chung (để xử lý các ví dụ ngoài phân phối) miễn phí, trong khi những điều này phải được tạo ra từ đầu cho xe tự lái. Tôi đã hỏi Andrej về điều này: > Tôi không biết chúng ta đang nhận được bao nhiêu miễn phí. LLM vẫn còn khá dễ mắc sai lầm và chúng có nhiều khoảng trống cần được lấp đầy. Tôi không nghĩ rằng chúng ta đang nhận được sự tổng quát kỳ diệu hoàn toàn ngay từ đầu. > Khía cạnh khác mà tôi muốn quay lại là xe tự lái vẫn chưa hoàn thành. Việc triển khai vẫn rất tối thiểu. Ngay cả Waymo cũng có rất ít xe. Họ đã xây dựng một cái gì đó sống trong tương lai. Họ đã phải rút lại tương lai, nhưng họ đã phải làm cho nó không kinh tế. > Ngoài ra, khi bạn nhìn vào những chiếc xe này và không có ai lái, có nhiều người tham gia hơn bạn có thể mong đợi. Theo một cách nào đó, chúng ta thực sự chưa loại bỏ người, chúng ta đã di chuyển họ đến một nơi mà bạn không thể nhìn thấy.