Maar er is een diepe ontkenning over de oorlogseconomie met betrekking tot toekomstige AI op dit moment. Het zou een belachelijke tragedie zijn als menselijke trots in de weg zou staan van het nemen van strategische beslissingen die rekening houden met deze oorlogseconomie, terwijl we de tijd niet echt kunnen veroorloven om zo'n relevant aspect van het speelveld, waarvan we allemaal weten dat het bestaat, te negeren. Ik denk dat er in dit boek enkele zeer goede punten worden gemaakt - punten die velen persoonlijk lijken te nemen, terwijl ze in werkelijkheid gewoon datapunten zijn die in overweging moeten worden genomen. Een goed percentage van de grootheden op dit gebied is hier vanwege MIRI en dergelijke - en bijna allemaal van ons hebben zowel gelijk als ongelijk gehad. Nate en Eliezer zeggen soms dingen die gek lijken, maar als we geen gekke ideeën uitproberen of op zijn minst horen, doen we eigenlijk een slechte dienst aan de potentiële uitkomsten. Weinig van hun ideeën hebben ooit 100% gek voor mij gevoeld, sommige zijn gewoon minder waarschijnlijk dan andere. Het leven imiteert kunst en ik geloof dat de sci-fi toon die in sommige van hun theorieën doorklinkt, eigenlijk relevant is en niet noodzakelijk iets om te verwerpen.
𝖦𝗋𝗂𝗆𝖾𝗌 ⏳
𝖦𝗋𝗂𝗆𝖾𝗌 ⏳15 jun 2025
Alles wat ik met zekerheid kan zeggen, is dat ik ofwel directe diepgaande gesprekken heb gehad met veel van de topmensen in AI, of heb geprobeerd op de hoogte te blijven van hun voorspellingen. Ik merk ook een incongruentie op tussen wat er privé wordt gezegd en wat er publiekelijk wordt gezegd. Een diepe wijsheid die ik vind bij deze co-auteurs is hun toewijding aan de problemen met deze onzekerheid en het gebrek aan overeenstemming. Ik denk niet dat dit betekent dat we doomers of acceleratie-adepten moeten zijn.
60,6K