Nejdůležitější věc, kterou by konzervativci měli pochopit o průmyslu umělé inteligence: Ani jeden člověk, který vytvářel umělou superinteligenci (ASI) – ani jeden – nikdy nenabídl věrohodný scénář, ve kterém by lidstvo, v něčem blízkém své současné podobě, mohlo přetrvat byť jen dvě generace po vývoji ASI. Říkají, že bychom se mohli "sloučit s ASI", což je jako žádat kolibříka, aby se "spojil" s proudovým letadlem. Říkají, že bychom mohli "nahrát své vědomí" a soutěžit s ASI ve virtuálních světech, což znamená opustit naše geny, naše těla, naše mozky, naše města, naši zemi, naši realitu. Nenabízejí vůbec žádný příběh, ve kterém by vaše vnoučata mohla dál žít skutečné životy, ve skutečném světě, se skutečnou kontrolou nad svými osudy. Pokud chcete zachovat cokoli z naší lidskosti, našich kultur, našich náboženství, našich institucí, naší kreativity a naší autonomie, průmysl ASI je vaším úhlavním nepřítelem. Jsou to největší revolucionáři. Touží spálit vše, na čem vašim předkům kdy záleželo, aby "předali štafetu" strojovým inteligencím. Pokud jste konzervativní a podporujete vývoj ASI, hrají s vámi jako s houslemi z Tennessee.
78,58K