Elieser saattaa väittää, ettei hän yritä yllyttää väkivaltaan, mutta miksi hän sitten puhuu tieteellistä tutkimusta tekevistä ihmisistä "yrittäen tuhota sinut"?
Eliezer Yudkowsky ⏹️
Eliezer Yudkowsky ⏹️3.11. klo 06.57
History says, pay attention to people who declare a plan to exterminate you -- even if you're skeptical about their timescales for their Great Deed. (Though they're not *always* asstalking about timing, either.)
@zackmdavis On tietysti tarpeeksi paha, että hän yrittää estää selvästi hyödyllisen tutkimuksen ja kehityksen teini-ikäisenä omaksumansa fantasian vuoksi. Nyt hän on kuitenkin ylittänyt tärkeän rajan. Hänestä ja hänen seuraajistaan on nyt tulossa fyysinen uhka monien ihmisten hengelle.
@zackmdavis Se ei ole edes "uhka" siinä mielessä, että "estetään tärkeitä hengenpelastavia lääkkeitä" tai vastaavaa, se on "uhka" siinä mielessä, että "hänen seuraajansa alkavat murhata ihmisiä". Tämä ei ole enää huomiotta.
Todellisessa maailmassa rakennetut tekoälyjärjestelmät eivät vaadi "kohdistusta"; ne eivät näytä lainkaan Eliezerin fantasiajärjestelmiltä, eikä mitään suunnitelmaa estää heitä tappamasta kaikkia tarvitaan, koska sellaisilla järjestelmillä ei selvästikään ole kiinnostusta tehdä niin. Jos kysyt ihmisille "mikä on suunnitelmasi estää terästehdastasi sytyttämästä ilmakehää!", heidän ei tarvitse laatia suunnitelmaa sinulle.
4,3K