La definizione di AGI come "automatizzare tutte le attività economicamente preziose che un essere umano può fare" è intelligente quando sei fondamentalmente un portavoce di un'azienda di AI che cerca di conquistare gli investitori, ma intellettualmente è insoddisfacente e vergognosa.

A livello superficiale, il valore economico dei compiti umani dipende più dall'ambiente dell'essere umano che dalla sua capacità di acquisire abilità. L'automazione cambia il valore economico del contributo umano. Il tocco della mano umana diventerà sia più che meno prezioso.

L'intuizione che gli esseri umani vengano gradualmente sostituiti dalle macchine mentre l'economia rimane potrebbe essere errata. L'automazione AI potrebbe persino portare a un mondo in cui la nozione di valore economico viene sostituita da qualcos'altro.

A un livello più profondo, l'intelligenza generale non è meglio compresa come generazione di valore economico, ma come qualcosa di più fondamentale: la capacità di dare senso al mondo e di modellarlo, al servizio del controllo. È la capacità di conquistare l'universo. OpenAI non te lo dirà.