我们生活在许多道德灾难的中心，所有这些灾难同时发生。 技术和物质的丰富给了我们创造一个真正繁荣世界的机会，而我们完全浪费了这个机会。 未来是否也会如此？

可悲的是，我认为这很可能。 一个帖子。

今天： 只需考虑我们对养殖动物的影响。每年，数以十亿计的工厂化养殖陆地动物过着痛苦的生活。

我认为人类的福祉在过去几个世纪里有了显著改善。 但动物养殖直接造成的痛苦——仅仅是一个道德错误！——足以抵消这些进步中的大部分或全部。

也许你并不关心动物福利。但那就想想极端贫困、不平等、战争、消费主义或全球自由的限制。 这些都意味着世界远未达到它本可以有多美好。

事实上，我认为大多数道德观点应该将今天的世界视为与我们本可以实现的相比，价值的灾难性损失。

这并不是说今天的世界是*坏*的，意思是比什么都不好。 它的意思是，今天的世界仅仅是它本可以达到的好的一小部分。

那就是今天。但未来可能会非常不同？ 在超级智能之后，我们将拥有物质和认知的丰富，因此每个人都将极其富有且信息丰富，这将使每个人能够获得他们想要的大部分东西——这难道还不够吗？

我认为不是。 我认为未来人们很可能会浪费大部分本可以实现的潜力——部分原因是有许多微妙的方式可能导致事情出错。

考虑人口伦理。 一个理想的未来社会是拥有少量人口但每个人的福祉非常高，还是拥有大量人口但每个人的福祉较低？ 生活质量虽然积极但较低的生命是否整体上让世界变得更好？

人口伦理学 notoriously 难以处理——实际上，有一些“不可行性定理”表明，没有任何人口伦理学理论能够满足一系列看似显而易见的伦理公理。

不同的观点将导致对接近最佳未来的截然不同的愿景。 从整体观点来看，理想的未来可能涉及大量相对福利较低的生物；而少数高福利的生命将几乎错过所有的价值。 但从关键水平或可变价值的观点来看，情况可能正好相反。

如果未来社会在人口伦理上犯了错误（无论是因为误导的价值观，还是因为根本不关心人口伦理），那么它很容易失去几乎所有潜在的价值。

这只是社会可能搞砸事情的一种方式。还要考虑未来人们可能在以下方面犯的错误： 对数字存在的态度 对幸福本质的态度 空间资源的分配 幸福/痛苦的权衡 被禁止的商品 相似性/多样性的权衡 平等或不平等 折现率 决策理论 对模拟的看法 对无限价值的看法 反思过程

对于大多数这些问题，没有“安全”的选择，在大多数合理的道德视角下，良好的结果是无法保证的。未来的决策者需要把很多事情做对。

而且似乎只要其中一个出错，就可能导致失去大部分或几乎所有可实现的价值。一个小缺陷就足以让未来的社会变得比本可以更糟。

也就是说，我们可以将价值表示为许多因素的乘积。如果是这样，那么一个真正伟大的未来需要在这些因素的每一个方面都表现得非常出色；在任何一个方面表现不佳都足以失去大部分价值。

不必说，这是一项巨大的挑战。 有关这些问题的更多讨论，请参见《没有简单的乌托邦》：

@William_Kiely "可以想象，仅仅是*道德不确定性*就足以阻止我们选择一个至少0.1%最优的未来，即使我们有完全的能力选择任何我们想要的具体未来。" - 如果我们能够充分反思，那就不一定了。