我已經讀完這本書了——它陰鬱而引人入勝。我想知道是否有一本好書可以反駁尤德科夫斯基(Yudkowsky)所說的關於對大型語言模型(LLMs)運作方式缺乏理解,以及無法解決——甚至無法面對——對齊問題的說法。 但我想發佈這本書中關於我們這些天所接觸到的奇怪科幻內容的段落——模擬理論、人工智慧之神、反基督等等——關於這些推測的動機。人們總是試圖用數學或「概率」來填補這些東西——但這些都是瘋狂的東西,並不是基於任何實際的東西: