Ahora, Eliezer podría afirmar que no está tratando de incitar a la violencia, pero entonces, ¿por qué habla de las personas que hacen investigación científica como "tratando de exterminarte"?

@zackmdavis Por supuesto, ya es bastante malo que esté tratando de bloquear la investigación y el desarrollo claramente beneficiosos debido a una fantasía que adoptó cuando era adolescente. Sin embargo, ahora ha cruzado una línea importante. Él y sus seguidores ahora se están convirtiendo en una amenaza física para la vida de muchas personas.

@zackmdavis Ni siquiera es "amenaza" en el sentido de "bloquear medicamentos importantes que salvan vidas" o similares, es "amenaza" en el sentido de que "sus seguidores van a comenzar a asesinar gente". Esto ya no es ignorable.

Los sistemas de IA que se han construido en el mundo real no requieren "alineación"; no se parecen en nada a los sistemas de fantasía de Eliezer y no es necesario ningún plan para evitar que maten a todos porque tales sistemas claramente no tienen interés en hacerlo. Si le dices a la gente "¿cuál es tu plan para evitar que tu fábrica de acero encienda la atmósfera?", no necesitan producir un plan para ti.