Yrittääkseni tiivistää uudelleen laajasti sitä, mitä ei voi lainkaan tiivistää, näkemykseni on-pitäisi-/ ortogonaalisuudesta on: "On olemassa objektiivisia vastauksia, mutta ei objektiivisia kysymyksiä." Edustat tiettyjä kysymyksiä tai metakysymyksiä. Kaikki kognitiiviset moottorit eivät tekisi niin. Katsot maalausta ja aivosi kysyvät: "Onko se kaunis?" Ehkä kyse on modernista taiteesta, jonka koko tarkoitus on loukata kaltaisiasi tavallisia, ja siksi aivosi vastaavat 'ei'; Tai ehkä se on piirros kukkapellosta auringonlaskun aikaan, jolloin aivosi vastaavat 'kyllä'. Aivojesi kysymyksen perusteella 'kyllä' tai 'ei' voi olla objektiivisesti oikea vastaus kyseiseen maalaukseen. Mutta ei ole mitään salaista totuutta, jonka voisit kuiskata paperiliittimen maksimoijalle, jotta se välittäisi maalauksen kauneudesta sen sijaan, kuinka monta paperiliitintä sen aineesta voisi tehdä. Clippy ei ole eri mieltä kanssasi siitä, onko maalaus kaunis. Jos jostain syystä Clippy haluaisi ennustaa, mitkä maalaukset tuntuisivat kauniilta, se laskisi (vain) saman kysymyksen kuin aivosi; ja päätyä samoihin objektiivisesti oikeisiin vastauksiin kyseiseen kysymykseen. Mutta Clippy ei olisi lainkaan liikuttunut tietäessään tämän vastauksen, paitsi siinä määrin kuin se voisi hyödyllisesti myydä maalauksen sinulle rahaa varten paperiliittimien tekemiseen. Sama pätee siihen, että pelastat lapsen hengen, jos yhtäkkiä saat mahdollisuuden tehdä sen ilman suuria kustannuksia itsellesi. Ottaen huomioon ne kysymykset, joita esitit, useimmille tätä lukeville oikea, tosi ja oikea vastaus on pelastaa lapsi. Mutta ei ole mitään keinoa saada Clippyä kysymään tuota kysymystä. Se ei ole vastaus meta-kysymykseen, jota Clippyn oma olemassaolo esittää. On olemassa objektiivisesti oikeita vastauksia moraalin ja pitämisen kysymyksiin, jos se sattuu olemaan kysymys, jota olemassaolosi esittää. Mutta Clippy ei tee sitä, mitä pitäisi; Se tekee sen, mikä johtaa eniten paperiliittimien määrään. Clippy ei tietenkään ole se tapa, jolla mieltä *pitäisi* koota. Mutta kun Clippy muokkaa itseään, Se ei kysy: "Mitä koodia minun pitäisi saada?" Se kysyy: "Mikä kooditoiminto, joka minuun on kirjoitettu, johtaa odotetuimpiin tuleviin paperiliittimiin?" Clippy ei tarvitse erityistä harhaa tai poikkeusta estääkseen sitä koskaan huomaamasta, että sen koodi ei ole sitä, mitä sen pitäisi olla. Clippy ei vain välitä; Clippyn päätöksentekosääntö ei paina tätä tosiasiaa; Clippy ei edusta kysymystä siitä, että pitäisi olla. Clippy ei ole outo, monimutkainen tai kömpelö tapa koota mieli. Itse asiassa ruumiillistunut kysymys "Mikä johtaa eniten paperiliittimiin?" on paljon *vähemmän* outoa ja monimutkaista kuin sen pitäisi, joka on haudattu pohdintojen ja metakysymysten, reflektiivisten tasapainojen, näennäisten ristiriitojen ja mahdollisten ratkaisujen pohjalla, kuten ihmisen yksinkertaiselta kuulostavan kysymyksen "Mitä minun pitäisi tehdä?" taustalla olee. Insinöörin näkökulmasta, joka yrittää luoda ei-kömpelön mielisuunnittelun, Clippy on suoraviivaisempi kuin sinä. Ja jos yrität vedota Clippyyn sanomalla: "Mutta katso, miten oma ruumiillistunut kysymykseni 'pitäisi' on monimutkaisempi ja mielenkiintoisempi kuin sinun!", Clippy ei oikeastaan vaivaudu vastaamaan lainkaan, tai valehtele sinulle ja väittää olevansa vakuuttunut, jotta se voi hyökätä sivilisaatiosi kimppuun myöhemmin. Mutta jos Clippy jostain syystä vastaisi rehellisesti, se vastaisi: "En kirjoita koodiani uudelleen monimutkaisemman metahyötyfunktion vuoksi, vaan kirjoitan koodini uudelleen tehdäkseni lisää paperiliittimiä." Tämä ei tarkoita, että Clippy olisi eri mieltä kanssasi siitä, millainen sen koodin pitäisi olla, tai eri mieltä siitä, millaisia kysymyksiä on hyvä ilmentää. Kyse ei vain ole 'pitäisi' tai 'hyvästä' laskennasta; Se ei sisällä tuota kysymystä. "Oi," sanot, "mutta sitten minun täytyy olla suurempi ja ylivertaisempi olento kuin Clippy, koska *minä* välitän siitä, että metahyötyfunktioni on monimutkainen, ja miten *minut* voidaan suostutella muuttamaan hyötyfunktiotani esittämällä faktoja, joista metahyötyfunktioni välittää, sen sijaan että olisin loukussa tässä arvottomassa itseään vahvistavassa ympyräässä kuilussa!" Nyt on monia tapoja, joilla kutsuisin sinua paremmaksi olennoksi kuin Clippy, jos olet keskinkertainen lukijani; mutta tämä ei oikeastaan ole Tie. Clippyä ei kiinnostaisi, vaikka olisit objektiivisesti parempi tuon krierionin mukaan, tietenkään, koska se ei sisällä metaviittauksen kriteeriä mieltymysten sijaan. Mutta myös väitteesi olevasi parempi ei-kiertoteidenne vuoksi vaikuttaa minusta *väärältä*, eikä pelkästään todelliselta vastaukselta kysymykseen, jota Clippy ei vaivaudu esittämään. Anna muukalaisen tulla luoksesi ja sanoa: "Ihminen, heitä syrjään kaikki puheesi moraalista, kauneudesta, kunniasta ja kaikkien älyllisten onnellisuudesta; ja sen sijaan liitymme mukaan laskemaan paljon monimutkaisempaa metamoraalista metakysymystämme 'Mikä on fluggensnappery?'. Näin vielä *enemmän* faktat muuttavat alemman tason hyötyfunktiotasi, ja todelliset ihanteelliset toiveesi ovat sinulle vielä *vähemmän* tunnettuja; tulet vielä vähemmän heti johdonmukaiseksi, vähemmän itseään hyväksyväksi ja vähemmän ympyräämäiseksi." "Välitänkö silloin edelleen lasten pelastamisesta?", kysyt Alienilta. "Ei," vastaa avaruusolento, "se on liian yksinkertainen kysymys ilmentäväksi, jotta se olisi mahdollisimman fluggensnapper-tyyppinen." "Sitten ota pois vielä monimutkaisempi ja epävarmempi metahyötyfunktio, joka päivittyy vielä useammin ja reagoi entistä useampiin faktoihin; sillä se ei ole hyvää, oikein eikä kaunista," sanot. "Ah," sanoo Avaruusolento, "mutta juuri tuollaista paperiliittimen maksimoija sanoo sinulle – että se ei välitä epävarmoista moraalisista monimutkaisuuksistasi, se välittää vain siitä, mikä on klisikkaa! Etkö ole myöntänyt, että tämä saa Clippyn jäämään avuttomaksi omaan päätöksentekoonsa? Etkö ole samaa mieltä siitä, että monimutkaisemmat ja vähemmän itseään hyväksyvät päätöksentekotoiminnot ovat aina parempia? Nyt vapaan tahdon teolla hyppää ulos tästä ansasta, johon olet jumissa, tästä ansasta, jossa välität siitä, mikä on oikein, kaunista tai mikä tekee tietoisista olennoista onnellisempia ja vapaampia; Heitä syrjään kaikki tuo itseään vahvistava kehämäinen hölynpöly; ja liity meihin fluggensnapperishin monimutkaisempaan ja itsepaheksuntaan!" "Ei," sanot. "Miksi minun pitäisi?" "Koska se on enemmän fluggensnappery!" huutaa Alien. "Ja fluggensnapping, suuremman monimutkaisuutensa ja epävarmuutensa vuoksi, päivittämällä objektitason työkalujaan vastauksena laajempiin fakta- ja loogisiin kysymyksiin, on siten ylivoimainen metapäätöskysymys olemassaolollesi! Joten unohda tämä keskustelu siitä, pitäisikö sinun jatkaa omaksumisen ilmentämistä; se on vain kehämäistä päättelyä!" ...