Acum, Eliezer ar putea pretinde că nu încearcă să incite la violență, dar atunci de ce vorbește despre oamenii care fac cercetări științifice ca "încercând să te extermine"?

@zackmdavis Desigur, este destul de rău că încearcă să blocheze cercetarea și dezvoltarea clar benefică din cauza unei fantezii pe care a adoptat-o în adolescență. Cu toate acestea, acum a trecut o linie importantă. El și adepții săi devin acum o amenințare fizică pentru viețile multor oameni.

@zackmdavis Nici măcar nu este "amenințare" în sensul de "blocare a medicamentelor importante care salvează vieți" sau altele asemenea, este "amenințare" în sensul că "adepții săi vor începe să ucidă oameni". Acest lucru nu mai este ignorabil.

Sistemele AI care au fost construite în lumea reală nu necesită "aliniere"; nu seamănă deloc cu sistemele fantastice ale lui Eliezer și nu este necesar niciun plan pentru a-i împiedica să omoare pe toată lumea, deoarece astfel de sisteme nu au în mod clar niciun interes să facă acest lucru. Dacă le spui oamenilor "care este planul tău pentru a-ți împiedica oțelăria să aprindă atmosfera!", ei nu trebuie să facă un plan pentru tine.