KỊCH BẢN TỐT NHẤT CHO AI? Các câu chuyện bi quan đã sai. Dựa trên một "sự bùng nổ nhanh chóng" đến AGI, họ đã dự đoán rằng mô hình AI hàng đầu sẽ sử dụng trí thông minh của nó để tự cải thiện, bỏ lại những người khác phía sau, và nhanh chóng đạt được siêu trí tuệ giống như thần thánh. Thay vào đó, chúng ta đang thấy điều ngược lại: — các mô hình hàng đầu đang tập trung quanh các tiêu chuẩn hiệu suất tương tự; — các công ty mô hình tiếp tục vượt qua nhau với các phiên bản mới nhất của họ (điều này không nên xảy ra nếu một mô hình đạt được sự bùng nổ nhanh chóng); — các mô hình đang phát triển các lĩnh vực lợi thế cạnh tranh, ngày càng chuyên môn hóa trong tính cách, chế độ, lập trình và toán học thay vì một mô hình trở nên toàn tri thức. Không có điều gì trong số này để phủ nhận sự tiến bộ. Chúng ta đang thấy sự cải thiện mạnh mẽ về chất lượng, tính khả dụng và giá/hiệu suất trên các công ty mô hình hàng đầu. Đây là những gì của kỹ thuật vĩ đại và nên được ăn mừng. Nó chỉ không phải là những gì của những tuyên bố tận thế. Oppenheimer đã rời khỏi tòa nhà. Cuộc đua AI đang rất năng động nên điều này có thể thay đổi. Nhưng ngay bây giờ, tình hình hiện tại là Goldilocks: — Chúng ta có 5 công ty lớn của Mỹ đang cạnh tranh mạnh mẽ trên các mô hình tiên tiến. Điều này mang lại điều tốt nhất cho mọi người và giúp Mỹ thắng cuộc đua AI. Như @BalajiS đã viết: "Chúng ta có nhiều mô hình từ nhiều phe phái đã hội tụ vào các khả năng tương tự, thay vì một khoảng cách lớn giữa mô hình tốt nhất và những người còn lại. Vì vậy, chúng ta nên mong đợi một sự cân bằng quyền lực giữa các sự kết hợp giữa con người và AI khác nhau thay vì một AGI thống trị duy nhất sẽ biến chúng ta thành kẹp giấy/cột muối." — Cho đến nay, chúng ta đã tránh được một kết quả độc quyền mà trao tất cả quyền lực và kiểm soát vào một thực thể duy nhất. Theo quan điểm của tôi, kết quả dystopian có khả năng xảy ra nhất với AI là một cuộc hôn nhân giữa quyền lực doanh nghiệp và nhà nước tương tự như những gì chúng ta đã thấy được phơi bày trong Twitter Files, nơi "Tin cậy & An toàn" bị vũ khí hóa thành kiểm duyệt và kiểm soát của chính phủ. Ít nhất khi bạn có nhiều người chơi mạnh trong khu vực tư nhân, điều đó trở nên khó khăn hơn. Ngược lại, các động lực thắng tất cả có khả năng tạo ra các kết quả Orwellian hơn. — Có khả năng sẽ có một vai trò lớn cho mã nguồn mở. Những mô hình này xuất sắc trong việc cung cấp 80-90% khả năng với 10-20% chi phí. Sự đánh đổi này sẽ rất hấp dẫn đối với khách hàng, những người đánh giá cao sự tùy chỉnh, kiểm soát và chi phí hơn là khả năng tiên tiến. Trung Quốc đã đầu tư toàn bộ vào mã nguồn mở, vì vậy sẽ tốt nếu thấy nhiều công ty Mỹ cạnh tranh trong lĩnh vực này, như OpenAI vừa làm. (Meta cũng xứng đáng được ghi nhận.) — Có khả năng sẽ có một sự phân chia lao động giữa các mô hình nền tảng tổng quát và các ứng dụng dọc cụ thể. Thay vì một siêu trí tuệ duy nhất nắm giữ tất cả giá trị, chúng ta có khả năng sẽ thấy nhiều ứng dụng có khả năng giải quyết các vấn đề "dặm cuối". Đây là tin tốt cho hệ sinh thái khởi nghiệp. — Cũng có một sự phân chia lao động ngày càng rõ ràng giữa con người và AI. Mặc dù tất cả những tiến bộ kỳ diệu, các mô hình AI vẫn ở mức không trong việc thiết lập chức năng mục tiêu của riêng chúng. Các mô hình cần ngữ cảnh, chúng phải được nhắc nhở nhiều, đầu ra phải được xác minh, và quá trình này phải được lặp lại nhiều lần để đạt được giá trị kinh doanh có ý nghĩa. Đây là lý do tại sao Balaji đã nói rằng AI không phải là đầu đến cuối mà là giữa đến giữa. Điều này có nghĩa là những dự đoán tận thế về mất việc làm cũng được thổi phồng như chính AGI. Thay vào đó, câu nói "bạn sẽ không mất việc làm cho AI mà là cho ai đó sử dụng AI tốt hơn bạn" vẫn đang đứng vững. Tóm lại, các phiên bản mới nhất của các mô hình AI cho thấy rằng khả năng của mô hình đang phân tán hơn nhiều so với nhiều người đã dự đoán. Mặc dù không có đảm bảo rằng điều này sẽ tiếp tục — luôn có khả năng thị trường sẽ tập trung vào một số ít người chơi khi chu kỳ đầu tư siêu kết thúc — tình trạng cạnh tranh mạnh mẽ hiện tại là lành mạnh. Nó thúc đẩy đổi mới, giúp Mỹ thắng cuộc đua AI, và tránh kiểm soát tập trung. Đây là tin tốt — mà những người bi quan không mong đợi.

Chúng tôi đã chi 1 triệu đô la cho dòng sản phẩm @cluely 9.10.25