Найголовніше, що потрібно розуміти консерваторам про індустрію штучного інтелекту: Жодна людина, що створює штучний суперінтелект (ASI) – жодна – ніколи не пропонувала правдоподібного сценарію, за яким людство в будь-якій формі, близькому до його нинішньої форми, могло б проіснувати навіть два покоління після розвитку ASI. Вони кажуть, що ми можемо «злитися з ASI», що все одно, що попросити колібрі «злитися» з реактивним літаком. Вони кажуть, що ми можемо «завантажити нашу свідомість» і конкурувати з ASI у віртуальних світах, що означає відмову від наших генів, нашого тіла, нашого мозку, наших міст, нашої землі, нашої реальності. Вони зовсім не пропонують історії, в якій ваші онуки можуть продовжувати жити реальним життям, у реальному світі, з реальним контролем над своїми долями. Якщо ви хочете зберегти хоч щось про нашу людяність, наші культури, наші релігії, наші інститути, нашу творчість і нашу автономію, індустрія ASI є вашим смертельним ворогом. Вони є остаточними революціонерами. Вони прагнуть спалити все, про що коли-небудь дбали ваші предки, «передати естафету» машинним інтелектам. Якщо ви консерватор і підтримуєте розробку ASI, вас грають як скрипку Теннессі.
82,67K