Žijeme uprostřed mnoha morálních katastrof, všech najednou. Technologická a materiální hojnost nám dala příležitost vytvořit skutečně vzkvétající svět a my jsme tuto příležitost zcela promarnili. Bude totéž platit i pro budoucnost?

Bohužel si myslím, že je to pravděpodobné. Vlákno.

Dnes: Jen si zamyslete náš dopad na hospodářská zvířata. Každý rok žijí desítky miliard průmyslově chovaných suchozemských zvířat v bídě.

Myslím, že blahobyt lidí se za posledních několik století dramaticky zlepšil. Ale utrpení přímo způsobené chovem zvířat - jen jeden morální omyl! - stačí k tomu, aby převážilo velkou část nebo všechny tyto zisky.

Možná vám nezáleží na dobrých životních podmínkách zvířat. Ale pak se zamyslete nad extrémní chudobou, nerovností, válkami, konzumerismem nebo globálním omezováním svobody. To vše znamená, že svět zdaleka nedosahuje toho, jak dobrý by mohl být.

Ve skutečnosti si myslím, že většina morálních perspektiv by měla pohlížet na dnešní svět jako na svět zahrnující katastrofální ztrátu hodnoty ve srovnání s tím, čeho jsme mohli dosáhnout.

Nic z toho neznamená, že dnešní svět je "špatný" ve smyslu horší než nic. Říká, že dnešní svět je jen zlomek toho, jak dobrý by mohl být.

To je dnes. Ale možná bude budoucnost úplně jiná? Po superinteligenci budeme mít materiální a kognitivní hojnost, takže každý bude extrémně bohatý a dobře informovaný, a to umožní každému získat většinu toho, co chce – a není to dost?

Myslím, že ne. Myslím, že je pravděpodobné, že lidé v budoucnu promrhají většinu potenciálu, kterého by mohlo být dosaženo - částečně proto, že existuje mnoho jemných způsobů, jak by se věci mohly pokazit.

Vezměme si populační etiku. Má ideální budoucí společnost malou populaci s velmi vysokým blahobytem na osobu, nebo velmi velkou populaci s nižším blahobytem na osobu? Dělají životy, které mají pozitivní, ale nízkou pohodu, svět celkově lepší?

Populační etika je notoricky obtížná – ve skutečnosti existují "teorémy nemožnosti", které ukazují, že žádná teorie populační etiky nemůže uspokojit všechny z řady zdánlivých zdánlivých etických axiomů.

A různé pohledy vyústí v radikálně odlišné vize téměř nejlepší budoucnosti. Z celkového pohledu by ideální budoucnost mohla zahrnovat obrovské množství bytostí, z nichž každá by měla poměrně nižší blahobyt; Malá populace s vysokým blahobytem by přišla o téměř veškerou hodnotu. Ale na kritické úrovni nebo v pohledu s proměnnou hodnotou by mohl být opak pravdou.

Pokud se budoucí společnost mýlí ve své populační etice (ať už kvůli pomýleným hodnotám, nebo proto, že se o populační etiku nestará tak jako tak), pak je pro ni snadné ztratit téměř veškerou potenciální hodnotu.

A to je jen jeden ze způsobů, jak by společnost mohla věci pokazit. Zvažte také chyby, kterých by se lidé mohli v budoucnu dopustit: Postoje k digitálním bytostem Postoje k povaze blahobytu Alokace vesmírných zdrojů Kompromisy mezi štěstím a utrpením Zakázané zboží Kompromisy mezi podobností a rozmanitostí Rovnost nebo nerovnost Diskontní sazby Teorie rozhodování Pohledy na simulaci Pohledy na nekonečnou hodnotu Reflexní procesy

U většiny těchto problémů neexistuje žádná "bezpečná" možnost, kde by byl zaručen skvělý výsledek na základě většiny rozumných morálních hledisek. Budoucí osoby s rozhodovací pravomocí budou muset udělat spoustu věcí správně.

A zdá se, že udělat jen jednu z těchto chyb by mohlo stačit ke ztrátě velké části nebo většiny dosažitelné hodnoty. Jediná chyba by mohla stačit k tomu, aby budoucí společnost byla mnohem horší, než by mohla být.

To znamená, že hodnotu můžeme reprezentovat jako součin mnoha faktorů. Pokud ano, pak si skutečně skvělá budoucnost musí vést velmi dobře v podstatě ve všech těchto faktorech; špatný výkon v kterémkoli z nich stačí k tomu, abyste přišli o většinu hodnoty.

Netřeba říkat, že je to velká výzva. Pro mnohem více diskuzí o těchto otázkách viz "No Easy Eutopia":

@William_Kiely "Lze si představit, že samotná morální nejistota by stačila k tomu, abychom si nevybrali budoucnost, která je alespoň 0,1% optimální, i kdybychom měli plnou moc vybrat si jakoukoli konkrétní budoucnost, kterou bychom chtěli." - ne, pokud bychom byli plně schopni uvažovat.