He terminado de leer este libro, es sombrío, convincente. Me interesaría saber si hay un buen libro que cuestione lo que dice Yudkowsky sobre la falta de comprensión de cómo funcionan los LLM y la incapacidad de resolver, o incluso enfrentar, el problema de alineación. Pero quiero publicar este pasaje del libro sobre las cosas extrañas de ciencia ficción que nos alimentan en estos días: teoría de la simulación, dioses de la IA, Anticristo, etc., sobre lo que motiva esta especulación. La gente siempre trata de rellenar estas cosas con matemáticas o 'probabilidad', pero esto es algo salvaje, no algo basado en nada: