Мы живем среди множества моральных катастроф, все сразу. Технологическое и материальное изобилие дало нам возможность создать поистине процветающий мир, и мы совершенно растратили эту возможность. Будет ли то же самое верно для будущего?

К сожалению, я думаю, что это вероятно. Нить.

Сегодня: Просто подумайте о нашем влиянии на сельскохозяйственных животных. Каждый год десятки миллиардов животных, выращиваемых на фабриках, живут в условиях страдания.

Я думаю, что благосостояние человека значительно улучшилось за последние несколько столетий. Но страдания, непосредственно вызванные животноводством — всего лишь одна моральная ошибка! — достаточно, чтобы перевесить большую часть или все эти достижения.

Возможно, вам не важна защита животных. Но тогда просто подумайте о крайней бедности, неравенстве, войне, потребительстве или глобальных ограничениях свободы. Все это означает, что мир далеко не соответствует тому, каким он мог бы быть.

На самом деле, я думаю, что большинство моральных взглядов должно рассматривать сегодняшний мир как катастрофическую утрату ценности по сравнению с тем, чего мы могли бы достичь.

Ничто из этого не говорит о том, что мир сегодня *плохой*, в смысле хуже, чем ничего. Это говорит о том, что мир сегодня лишь на долю хорош, насколько он мог бы быть.

Это сегодня. Но возможно, будущее будет совершенно иным? После суперразума у нас будет материальное и когнитивное изобилие, так что каждый будет чрезвычайно богат и хорошо информирован, и это позволит каждому получить большинство того, что он хочет - разве этого недостаточно?

Я так не думаю. Я думаю, что в будущем люди, вероятно, растратят большую часть потенциала, который мог бы быть достигнут, отчасти потому, что есть много тонких способов, которыми все может пойти не так.

Рассмотрите этику населения. Имеет ли идеальное будущее общество небольшую численность населения с очень высоким уровнем благополучия на человека или очень большое население с более низким уровнем благополучия на человека? Улучшает ли жизнь, которая имеет положительное, но низкое благополучие, мир в целом?

Этика населения notoriously сложна - на самом деле существуют "теоремы о невозможности", показывающие, что ни одна теория этики населения не может удовлетворить всем очевидным этическим аксиомам.

И разные взгляды приведут к радикально различным видениям почти идеального будущего. С точки зрения общего взгляда, идеальное будущее может включать огромное количество существ с относительно низким уровнем благосостояния; небольшое население высокоблагосостоящих жизней упустит почти всю ценность. Но с точки зрения критического уровня или переменной ценности, обратное может оказаться верным.

Если будущее общество ошибется в своей этике населения (либо из-за заблуждений в ценностях, либо потому что ему просто все равно на этику населения), то ему будет легко упустить почти всю потенциальную ценность.

И это всего лишь один из способов, которыми общество может все испортить. Также рассмотрите ошибки, которые будущие люди могут совершить в отношении: Отношения к цифровым существам Отношения к природе благополучия Распределение космических ресурсов Компромиссы между счастьем и страданием Запрещенные товары Компромиссы между сходством и разнообразием Равенство или неравенство Ставки дисконтирования Теория принятия решений Взгляды на симуляцию Взгляды на бесконечную ценность Рефлексивные процессы

Для большинства из этих вопросов нет "безопасного" варианта, при котором отличный результат гарантирован с точки зрения большинства разумных моральных позиций. Будущим принимающим решения придется многое сделать правильно.

И кажется, что допустить ошибку хотя бы в одном из этих моментов может быть достаточно, чтобы потерять большую часть или даже всю возможную ценность. Единственный недостаток может сделать будущее общество гораздо хуже, чем оно могло бы быть.

То есть, мы можем представить значение как произведение множества факторов. Если это так, то действительно великое будущее должно хорошо справляться практически с каждым из этих факторов; плохие результаты по любому из них достаточно, чтобы потерять большую часть ценности.

Не нужно и говорить, что это большая проблема. Для более подробного обсуждения этих вопросов смотрите "Нет легкой утопии":

@William_Kiely "Предположительно, *моральная неопределенность сама по себе* была бы достаточной, чтобы помешать нам выбрать будущее, которое хотя бы на 0,1% оптимально, даже если бы у нас была полная власть выбирать любое конкретное будущее, которое мы хотели." - не если бы мы были полностью способны размышлять.