Nu kan Eliezer beweren dat hij geen geweld probeert aan te wakkeren, maar waarom spreekt hij dan over mensen die wetenschappelijk onderzoek doen als "jullie proberen uit te roeien"?

@zackmdavis Het is natuurlijk al erg genoeg dat hij probeert duidelijk voordelig onderzoek en ontwikkeling te blokkeren vanwege een fantasie die hij als tiener heeft aangenomen. Echter, hij heeft nu een belangrijke grens overschreden. Hij en zijn volgers worden nu een fysieke bedreiging voor het leven van veel mensen.

@zackmdavis Het is niet eens een "bedreiging" in de zin van "belangrijke levensreddende medicijnen blokkeren" of iets dergelijks, het is "bedreiging" in de zin dat "zijn volgers mensen gaan vermoorden." Dit is niet langer te negeren.

De AI-systemen die in de echte wereld zijn gebouwd, vereisen geen "afstemming"; ze lijken helemaal niet op Eliezer's fantasie-systemen en er is geen plan nodig om te voorkomen dat ze iedereen doden, omdat dergelijke systemen duidelijk geen interesse hebben om dat te doen. Als je tegen mensen zegt: "wat is jullie plan om te voorkomen dat jullie staalfabriek de atmosfeer in brand steekt!" hoeven ze geen plan voor je te produceren.