Теперь Элиэзер может утверждать, что он не пытается подстрекать к насилию, но тогда почему он говорит о людях, занимающихся научными исследованиями, как о "попытках вас истребить"?

@zackmdavis Конечно, это уже достаточно плохо, что он пытается заблокировать явно полезные исследования и разработки из-за фантазии, которую он принял в подростковом возрасте. Однако он теперь перешел важную черту. Он и его последователи теперь становятся физической угрозой для жизни многих людей.

@zackmdavis Это даже не "угроза" в смысле "блокировки важных спасительных лекарств" или подобного, это "угроза" в том смысле, что "его последователи начнут убивать людей." Это больше нельзя игнорировать.

Системы ИИ, которые были созданы в реальном мире, не требуют "выравнивания"; они совершенно не похожи на фантастические системы Элиезера, и никакой план, чтобы предотвратить их уничтожение всех, не нужен, потому что такие системы явно не заинтересованы в этом. Если вы скажете людям: "как вы планируете предотвратить возгорание атмосферы вашей сталелитейной фабрики!", им не нужно будет представлять вам план.