Tekrar uzun özetlemeye çalışacak olursak, kesinlikle özetlenemeyecek olanı benim 'olmalıdır' / ortogonalite hakkındaki görüşüm şudur: "Nesnel cevaplar vardır ama nesnel sorular yoktur." Belirli soruları veya meta-soruları somutlaştırıyorsunuz. Tüm bilişsel motorlar bunu yapmaz. Bir tabloya baktığınızda beyniniz "Güzel mi?" diye soruyor. Belki de modern sanatın tüm amacı sizin gibi sıradanları kırmaktır ve beyniniz 'hayır' diye cevap verir; Ya da belki gün batımında bir çiçek tarlasının çizimi ve beyninizin 'evet' cevabı verdiği bir çizimdir. Beyninizin sorduğu soruya bakılırsa, 'evet' veya 'hayır' o tablo hakkında nesnel olarak doğru bir cevap olabilir. Ama bir kartoz tokası maksimizatoruna, bir tablonun güzelliğine önem vermesini sağlayacak gizli bir gerçek yoktur; maddesinden kaç tane ayakça yapılabileceğinden ziyade. Clippy, tablonun güzel olup olmadığı konusunda sizinle aynı fikirde değil. Eğer Clippy hangi resimleri güzel bulacağınızı tahmin etmek isteseydi, (sadece) beyninin hesapladığı aynı soruyu o zaman hesaplardı; ve verilen soruya aynı nesnel olarak doğru cevaplara ulaşırlar. Ama Clippy bu cevabı bilmekten etkilenmezdi, sadece o tabloyu size atam yapmak için para karşılığında satmak için faydalı bir şekilde satabilirdi. Bir çocuğun hayatını kurtarmak için de aynı şekilde, eğer aniden bunu yapma şansın olursa ve kendinize çok zarar vermeden. Sizin soyut ettiğiniz sorular göz önüne alındığında, bunu okuyan çoğu insan için doğru, doğru ve doğru cevap çocuğu kurtarmak olacaktır. Ama Clippy'yi bu soruyu sormaya ikna etmenin bir yolu yok. Bu, Clippy'nin kendi varoluşunun sorduğu meta-sorunun cevabı değildir. Eğer varlığınız bu soruyu soruyorsa ahlak ve gereklilik sorularına nesnel olarak doğru cevaplar var. Ama Clippy olması gerekeni yapmıyor; En fazla ayakkabı elde eden şeyi yapar. Tabii ki Clippy bir zihnin *oluşturulmalı* şekli değildir. Ama Clippy kendini değiştirdiğinde, "Hangi kodum olmalı?" diye sormaz. Şöyle soruyor: "Bana yazılmış hangi kod eylemi en çok beklenen gelecekteki kartoz kliplerine yol açacak?" Clippy'nin, kodunun olması gerektiği gibi olmadığını fark etmemesini engellemek için özel bir yanılsama veya istisna ihtiyacı yoktur. Clippy umursamıyor; Clippy'nin karar verme kuralı bu gerçeği tartmaz; Clippy, gereklilik sorusunu temsil etmiyor. Clippy, bir zihnin bir şekilde oluşturulması için garip, karmaşık ya da garip bir yol değildir. Aslında, bedenlenmiş "En çok atak sıkmasına ne yol açar?" sorusu, gerekliliğin örtülü alt tabakalarından çok *daha az* tuhaflık ve karmaşıklığa sahip; çünkü bir insanın basit gelen "Ne yapmalıyım?" sorusunun altında yatan düşünülmeler, metasorular, yansıtıcı dengeler ve görünüşte çelişkiler ve olası çözümler gibi gömülü alt tabakalardan, bu da bir insanın basit gelen "Ne yapmalıyım?" sorusunun temelini oluşturur. Garip olmayan bir zihin tasarımı yapmaya çalışan bir mühendis açısından, Clippy sizden daha basit. Ve eğer Clippy'ye hitap etmeye çalışırsanız, "Ama bakın, benim bedenlenmiş 'olmalılık' sorum seninkinden daha karmaşık ve ilginç!" diyerek, Clippy aslında hiç cevap vermez, size yalan söyleyip ikna olduğunu iddia eder ki Kendi uygarlığınıza gizlice saldırabilir. Ama Clippy bir şekilde dürüstçe yanıt verse, "Kodumu daha karmaşık bir metautility fonksiyonu için yeniden yazmıyorum, kodumu daha fazla kağıt klipsi yapmak için yeniden yazıyorum." der. Bu, Clippy'nin kendi kodunun ne olması gerektiği konusunda sizinle anlaşmazlığını ya da hangi tür soruların somutlaştırılması gerektiği konusunda sizinle anlaşmazlığını temsil etmez. Sadece 'olmalı' ya da 'iyi' hesaplamak değil; Bu soruyu somutlaştırmaz. "Ah," diyorsun, "ama o zaman Clippy'den daha büyük ve üstün bir varlık olmalıyım, çünkü metafayda fonksiyonumun karmaşık olmasına ne kadar önem veriyorum ve *ben* fayda fonksiyonumu değiştirmem için metafayda fonksiyonumun önemsediği gerçekleri sunarak ikna edilebileceğim, bu onursuz bir tür kendini onaylayan dairesel çukurda hapsolmamak yerine!" Şimdi, eğer ortalama okuyucumsanız, sizi Clippy'den daha iyi bir varlık olarak adlandırabileceğim birçok yol var; ama aslında bu Yol değil. Clippy, elbette o crierion'a göre objektif olarak üstün olsanız bile umursamaz, çünkü tercihler üzerinde metareferans kriterini temsil etmez. Ama aynı zamanda üstün olma iddian da bana *yanlış* geliyor, sadece Clippy'nin sormaya zahmet etmediği bir soruya gerçek bir cevap değil. Uzaylı sana gelip şöyle de: "İnsan, ahlak, güzellik, onur ve tüm akıllı varlıkların mutluluğu hakkındaki tüm konuşmalarını bir kenara bırak; ve bunun yerine, çok daha karmaşık metaahlaki metasorumuz 'En fluggensnappery nedir?' hesaplamamıza katılıyorum. Böylece, daha da *fazla* gerçekler alt dereceden fayda fonksiyonunuzu değiştirecek ve gerçek idealize edilmiş arzularınız size *daha az* bilinir; daha da az anında tutarlı olacak, kendini onaylayan ve daha az dairesel olacaksın." "O zaman çocukların hayatını kurtarmaya devam edecek miyim?", diye sorarsın Uzaylıya. "Hayır," diye yanıtlıyor Uzaylı, "bu çok basit bir soru, maksimum fluggensnapper olamayacak kadar basit bir soru." "O zaman daha karmaşık ve daha az kesin metafayda fonksiyonunu al, bu daha sık güncellenecek ve daha fazla gerçeğe yanıt verecek; çünkü ne iyi, ne doğru ne de güzel değil," diyorsun. "Ah," diyor Uzaylı, "ama bu, tam da kağıt kuşağı maksimizatorunun size söylediği şey -- belirsiz ahlaki karmaşıklıklarınızla ilgilenmez, sadece çaplı olanı umursar! Bunun Clippy'yi kendi karar fonksiyonunda çaresizce hapsedilmiş hale getirdiğini kabul etmedin mi? Daha karmaşık ve daha az kendini onaylayan karar fonksiyonlarının her zaman daha iyi olduğu konusunda hemfikir değil misiniz? Şimdi özgür iradeyle bu tuzağa sıkışıp kaldığın bu tuzağından sıçrayıp, doğru olanı, güzelliğini ya da bilinçli varlıkları daha mutlu ve özgür yapan şeyleri umursamak; Tüm o kendini doğrulayan döngüsel saçmalıkları bir kenara bırakın; ve fluggensnapperishness'in daha büyük karmaşıklığı ve kendini onaylamama konusunda bize katılın!" "Hayır," diyorsun. "Neden yapmalıyım?" "Çünkü daha çok fluggensnappery!" diye bağırıyor Uzaylı. "Ve fluggensnapping, daha karmaşık ve belirsizliğiyle, nesne düzeyindeki araçları daha çeşitli gerçekçi ve mantıksal sorulara yanıt olarak güncelleyerek bu yüzden varlığınız için sorabileceğiniz üstün metakarar sorusudur! O halde, "gereklilik" yapmaya devam edip etmemeniz gerektiği konusunu bir kenara bırakın; Bu sadece döngüsel mantık!" ...