Định nghĩa AGI là "tự động hóa tất cả các nhiệm vụ có giá trị kinh tế mà con người có thể làm" là thông minh khi bạn thực sự là một người phát ngôn cho một công ty AI đang cố gắng thu hút các nhà đầu tư, nhưng về mặt trí tuệ thì điều đó không thỏa mãn và thật đáng xấu hổ.

Ở mức độ bề mặt, giá trị kinh tế của các nhiệm vụ con người phụ thuộc nhiều hơn vào môi trường của con người hơn là khả năng tiếp thu kỹ năng của con người. Tự động hóa thay đổi giá trị kinh tế của sự đóng góp của con người. Sự chạm của bàn tay con người sẽ trở nên vừa có giá trị hơn vừa ít giá trị hơn.

Cảm giác rằng con người dần bị máy móc thay thế trong khi nền kinh tế vẫn tồn tại có thể là sai lầm. Tự động hóa AI thậm chí có thể dẫn đến một thế giới mà khái niệm giá trị kinh tế bị thay thế bằng một điều gì đó khác.

Ở một mức độ sâu hơn, trí thông minh tổng quát không được hiểu tốt nhất như là việc tạo ra giá trị kinh tế, mà là một điều gì đó cơ bản hơn: khả năng hiểu thế giới và mô hình hóa nó, phục vụ cho việc kiểm soát. Đó là khả năng chinh phục vũ trụ. OpenAI sẽ không nói với bạn điều đó.