Trăim în mijlocul multor catastrofe morale, toate deodată. Abundența tehnologică și materială ne-a oferit oportunitatea de a crea o lume cu adevărat înfloritoare și am irosit complet această oportunitate. Va fi același lucru valabil și pentru viitor?

Din păcate, cred că este probabil. Un fir.

Azi: Gândiți-vă doar la impactul nostru asupra animalelor de fermă. În fiecare an, zeci de miliarde de animale terestre cultivate în fabrici trăiesc vieți de mizerie.

Cred că bunăstarea umană s-a îmbunătățit dramatic în ultimele secole. Dar suferința cauzată direct de creșterea animalelor - doar o eroare morală! - este suficient pentru a depăși multe sau toate aceste câștiguri.

Poate că nu vă pasă de bunăstarea animalelor. Dar apoi gândiți-vă la sărăcie extremă, inegalitate, război, consumerism sau restricții globale asupra libertății. Toate acestea înseamnă că lumea este departe de cât de bună ar putea fi.

De fapt, cred că majoritatea perspectivelor morale ar trebui să privească lumea de astăzi ca implicând o pierdere catastrofală de valoare în comparație cu ceea ce am fi putut realiza.

Nimic din toate acestea nu înseamnă că lumea de astăzi este *rea*, în sensul de mai rău decât nimic. Spune că lumea, astăzi, este doar o fracțiune din cât ar putea fi.

Asta este astăzi. Dar poate că viitorul va fi foarte diferit? După superinteligență, vom avea abundență materială și cognitivă, astfel încât toată lumea va fi extrem de bogată și bine informată, iar asta va permite fiecăruia să obțină cea mai mare parte din ceea ce își dorește - și nu este suficient?

Cred că nu. Cred că este probabil ca oamenii în viitor să irosească cea mai mare parte a potențialului care ar fi putut fi atins - în parte pentru că există multe moduri subtile în care lucrurile ar putea merge prost.

Luați în considerare etica populației. O societate ideală a viitorului are o populație mică cu o bunăstare foarte mare pe persoană sau o populație foarte mare cu o bunăstare pe persoană mai mică? Viețile care au o bunăstare pozitivă, dar scăzută, fac lumea mai bună, în general?

Etica populației este notoriu dură - de fapt, există "teoreme ale imposibilității" care arată că nicio teorie a eticii populației nu poate satisface toate o serie de axiome etice aparent evidente.

Și puncte de vedere diferite vor duce la viziuni radical diferite ale unui viitor aproape cel mai bun. Din punct de vedere general, viitorul ideal ar putea implica un număr mare de ființe, fiecare cu o bunăstare comparativ mai scăzută; O populație mică de vieți cu bunăstare ridicată ar pierde aproape toată valoarea. Dar la nivel critic sau cu valori variabile, opusul ar putea fi adevărat.

Dacă societatea viitoare greșește etica populației (fie din cauza valorilor greșite, fie pentru că pur și simplu nu-i pasă de etica populației), atunci este ușor să piardă aproape toată valoarea potențială.

Și acesta este doar un mod în care societatea ar putea încurca lucrurile. Gândiți-vă, de asemenea, la greșelile pe care oamenii viitori le-ar putea face în preajmă: Atitudini față de ființele digitale Atitudini față de natura bunăstării Alocarea resurselor spațiale Compromisuri fericire/suferință Bunuri interzise Compromisuri de similitudine/diversitate Egalitate sau inegalitate Rate de reducere Teoria deciziei Vizualizări asupra simulării Opinii despre valoarea infinită Procese reflectorizante

Pentru cele mai multe dintre aceste probleme, nu există o opțiune "sigură", în care un rezultat excelent este garantat din cele mai rezonabile perspective morale. Viitorii factori de decizie vor trebui să facă multe lucruri corect.

Și se pare că a greși doar unul dintre acestea ar putea fi suficient pentru a pierde o mare parte sau cea mai mare valoare realizabilă. Un singur defect ar putea fi suficient pentru a face societatea viitoare mult mai rea decât ar fi putut fi.

Adică, putem reprezenta valoarea ca fiind produsul multor factori. Dacă da, atunci un viitor cu adevărat măreț trebuie să se descurce foarte bine în esență pe fiecare dintre acești factori; A face rău pe oricare dintre ele este suficient pentru a pierde cea mai mare valoare.

Inutil să spun că aceasta este o mare provocare. Pentru mai multe discuții despre aceste probleme, vezi "No Easy Eutopia":

@William_Kiely "Probabil că *incertitudinea morală* ar fi suficientă pentru a ne împiedica să alegem un viitor care este cel puțin 0,1% optim, chiar dacă am avea putere deplină de a alege orice viitor concret pe care ni-l dorim." - nu dacă am fi pe deplin capabili să reflectăm.