Ora, Eliezer potrebbe affermare di non voler incitare alla violenza, ma allora perché parla di persone che fanno ricerca scientifica come "cercare di sterminarti"?

@zackmdavis È ovviamente già abbastanza grave che stia cercando di bloccare ricerche e sviluppi chiaramente benefici a causa di una fantasia che ha adottato da adolescente. Tuttavia, ora ha superato una linea importante. Lui e i suoi seguaci stanno diventando una minaccia fisica per la vita di molte persone.

@zackmdavis Non è nemmeno una "minaccia" nel senso di "bloccare importanti medicinali salvavita" o simili, è una "minaccia" nel senso che "i suoi seguaci inizieranno a uccidere persone." Questo non può più essere ignorato.

I sistemi AI che sono stati costruiti nel mondo reale non richiedono "allineamento"; non assomigliano affatto ai sistemi fantastici di Eliezer e non è necessario alcun piano per impedire loro di uccidere tutti, poiché tali sistemi chiaramente non hanno interesse a farlo. Se dici alle persone "qual è il tuo piano per impedire al tuo stabilimento siderurgico di accendere l'atmosfera!" non è necessario che producano un piano per te.