Jag har läst ut den här boken - den är dyster, övertygande. Jag skulle vara intresserad av att veta om det finns en bra bok som ifrågasätter vad Yudkowsky säger om bristen på förståelse för hur LLM:er ens fungerar, och oförmågan att lösa - eller ens konfrontera - anpassningsproblemet. Men jag vill posta det här avsnittet från boken om de konstiga science fiction-grejer som vi matas med nuförtiden - simuleringsteori, AI-gudar, Antichrist och så vidare - om vad som motiverar dessa spekulationer. Folk försöker alltid fylla i det här med matematik eller "sannolikhet" - men det här är vilda saker, inte något som är grundat i något: