Definisi AGI sebagai "mengotomatiskan semua tugas berharga secara ekonomi yang dapat dilakukan manusia" adalah cerdas ketika Anda secara fungsional menjadi juru bicara perusahaan AI yang mencoba menyedihkan investor, tetapi secara intelektual itu tidak memuaskan dan memalukan.

Di tingkat permukaan, nilai ekonomi tugas manusia lebih bergantung pada lingkungan manusia daripada kemampuan memperoleh keterampilan manusia. Otomatisasi mengubah nilai ekonomi dari kontribusi manusia. Sentuhan tangan manusia akan menjadi lebih dan kurang berharga.

Intuisi bahwa manusia secara bertahap digantikan oleh mesin sementara ekonomi tetap ada mungkin salah. Otomatisasi AI bahkan mungkin mengarah ke dunia di mana gagasan nilai ekonomi digantikan oleh sesuatu yang lain.

Pada tingkat yang lebih dalam, kecerdasan umum tidak paling baik dipahami sebagai generasi nilai ekonomi, tetapi sebagai sesuatu yang lebih mendasar: kemampuan untuk memahami dunia dan memodelkannya, dalam melayani kontrol. Ini adalah kemampuan untuk menaklukkan alam semesta. OpenAI tidak akan memberi tahu Anda bahwa