La définition de l'AGI comme "l'automatisation de toutes les tâches économiquement précieuses qu'un humain peut accomplir" est astucieuse lorsque vous êtes essentiellement un porte-parole d'une entreprise d'IA essayant de séduire des investisseurs, mais intellectuellement, c'est insatisfaisant et honteux.

À un niveau superficiel, la valeur économique des tâches humaines dépend davantage de l'environnement de l'humain que de sa capacité d'acquisition de compétences. L'automatisation modifie la valeur économique de la contribution humaine. Le toucher de la main humaine deviendra à la fois plus et moins précieux.

L'intuition selon laquelle les humains sont progressivement remplacés par des machines tandis que l'économie demeure peut être erronée. L'automatisation par l'IA pourrait même conduire à un monde où la notion de valeur économique est remplacée par autre chose.

À un niveau plus profond, l'intelligence générale n'est pas mieux comprise comme une génération de valeur économique, mais comme quelque chose de plus fondamental : la capacité de donner un sens au monde et de le modéliser, au service du contrôle. C'est la capacité de conquérir l'univers. OpenAI ne vous dira pas cela.