Tôi đã đọc xong cuốn sách này - nó u ám, hấp dẫn. Tôi muốn biết liệu có cuốn sách nào hay tranh luận về những gì Yudkowsky nói về sự thiếu hiểu biết về cách mà LLM hoạt động, và sự bất lực trong việc giải quyết - hoặc thậm chí đối mặt - với vấn đề căn chỉnh hay không. Nhưng tôi muốn đăng đoạn trích này từ cuốn sách về những thứ khoa học viễn tưởng kỳ quặc mà chúng ta đang được tiếp cận ngày nay - lý thuyết mô phỏng, các vị thần AI, Đấng Cứu Thế và những thứ tương tự - về những gì thúc đẩy sự suy đoán này. Mọi người luôn cố gắng lấp đầy những thứ này bằng toán học hoặc 'xác suất' - nhưng đây là những thứ hoang dã, không có gì được dựa trên thực tế: