Saya sudah selesai membaca buku ini - itu suram, menarik. Saya akan tertarik untuk mengetahui apakah ada buku bagus yang membantah apa yang dikatakan Yudkowsky tentang kurangnya pemahaman tentang bagaimana LLM bekerja, dan ketidakmampuan untuk memecahkan - atau bahkan menghadapi - masalah keselarasan. Tapi saya ingin memposting bagian ini dari buku tentang hal-hal fiksi ilmiah aneh yang kita beri makan akhir-akhir ini - teori simulasi, dewa AI, Antikristus dan sebagainya - tentang apa yang memotivasi spekulasi ini. Orang-orang selalu mencoba mengisi kembali hal-hal ini dengan matematika atau 'probabilitas' - tetapi ini adalah hal liar, bukan sesuatu yang didasarkan pada apa pun: