Визначення AGI як «автоматизації всіх економічно цінних завдань, які може виконати людина» є розумним, коли ви функціонально є представником компанії зі штучним інтелектом, яка намагається завдати болю інвесторам, але інтелектуально це незадовільно та ганебно.

На поверхневому рівні економічна цінність людських завдань більше залежить від оточення людини, ніж від здатності людини набувати навички. Автоматизація змінює економічну цінність людського внеску. Дотик людської руки стане як більш, так і менш цінним.

Інтуїція про те, що люди поступово замінюються машинами, а економіка залишається, може виявитися помилковою. Автоматизація штучного інтелекту може навіть призвести до світу, де поняття економічної цінності буде замінено чимось іншим.

На більш глибокому рівні загальний інтелект найкраще розуміти не як генерування економічної вартості, а як щось більш фундаментальне: здатність осмислювати світ і моделювати його на службі контролю. Це здатність підкорювати Всесвіт. OpenAI вам цього не скаже