Kita hidup di tengah-tengah banyak bencana moral, sekaligus. Kelimpahan teknologi dan material telah memberi kita kesempatan untuk menciptakan dunia yang benar-benar berkembang, dan kita telah benar-benar menyia-nyiakan kesempatan itu. Akankah hal yang sama berlaku di masa depan?

Sayangnya, saya pikir itu mungkin. Sebuah utas.

Hari Ini: Pertimbangkan saja dampak kita pada hewan ternak. Setiap tahun, puluhan miliar hewan darat yang diternakkan pabrik menjalani kehidupan yang sengsara.

Saya pikir kesejahteraan manusia telah meningkat secara dramatis selama beberapa abad terakhir. Tetapi penderitaan yang secara langsung disebabkan oleh peternakan hewan - hanya satu kesalahan moral! - cukup untuk melebihi banyak atau semua keuntungan tersebut.

Mungkin Anda tidak peduli dengan kesejahteraan hewan. Tapi kemudian pikirkan saja tentang kemiskinan ekstrem, ketidaksetaraan, perang, konsumerisme, atau pembatasan global terhadap kebebasan. Ini semua berarti bahwa dunia jauh dari seberapa baiknya.

Faktanya, saya pikir sebagian besar perspektif moral harus menganggap dunia saat ini sebagai hal yang melibatkan kehilangan nilai yang parah dibandingkan dengan apa yang bisa kita capai.

Tak satu pun dari ini untuk mengatakan bahwa dunia saat ini *buruk*, dalam arti lebih buruk daripada tidak sama sekali. Dikatakan bahwa dunia, hari ini, hanya sekecil yang sebaiknya.

Itu hari ini. Tapi mungkin masa depan akan sangat berbeda? Setelah kecerdasan super, kita akan memiliki kelimpahan material dan kognitif, jadi setiap orang akan sangat kaya dan berpengetahuan luas, dan itu akan memungkinkan setiap orang untuk mendapatkan sebagian besar dari apa yang mereka inginkan - dan bukankah itu cukup?

Saya pikir tidak. Saya pikir kemungkinan orang di masa depan akan menyia-nyiakan sebagian besar potensi yang bisa dicapai - sebagian karena ada banyak cara halus di mana hal-hal bisa salah.

Pertimbangkan etika kependudukan. Apakah masyarakat masa depan yang ideal memiliki populasi kecil dengan kesejahteraan per orang yang sangat tinggi, atau populasi yang sangat besar dengan kesejahteraan per orang yang lebih rendah? Apakah kehidupan yang memiliki kesejahteraan positif tetapi rendah membuat dunia lebih baik, secara keseluruhan?

Etika kependudukan terkenal sulit - pada kenyataannya, ada "teorema kemustahilan" yang menunjukkan bahwa tidak ada teori etika kependudukan yang dapat memenuhi semua sejumlah aksioma etis yang tampak jelas.

Dan pandangan yang berbeda akan menghasilkan visi yang sangat berbeda tentang masa depan yang mendekati yang terbaik. Pada pandangan keseluruhan, masa depan yang ideal mungkin melibatkan sejumlah besar makhluk yang masing-masing memiliki kesejahteraan yang relatif lebih rendah; populasi kecil kehidupan kesejahteraan tinggi akan kehilangan hampir semua nilai. Tetapi pada tampilan tingkat kritis atau nilai variabel, yang terjadi adalah sebaliknya.

Jika masyarakat masa depan salah etika penduduknya (baik karena nilai-nilai yang salah arah, atau karena tidak peduli dengan etika kependudukan), maka mudah baginya untuk kehilangan hampir semua nilai potensial.

Dan itu hanya salah satu cara di mana masyarakat bisa mengacaukan segalanya. Pertimbangkan juga, kesalahan yang dapat dilakukan orang di masa depan seputar: Sikap terhadap makhluk digital Sikap terhadap sifat kesejahteraan Alokasi sumber daya ruang Pertukaran kebahagiaan/penderitaan Barang terlarang Pertukaran kesamaan/keragaman Kesetaraan atau ketidaksetaraan Tarif diskon Teori keputusan Tampilan pada simulasi Tampilan pada nilai tak terbatas Proses reflektif

Untuk sebagian besar masalah ini, tidak ada pilihan "aman", di mana hasil yang bagus dijamin pada perspektif moral yang paling masuk akal. Pembuat keputusan di masa depan perlu melakukan banyak hal dengan benar.

Dan sepertinya hanya salah satu dari ini bisa cukup untuk kehilangan banyak atau paling banyak nilai yang dapat dicapai. Satu kekurangan bisa cukup untuk membuat masyarakat masa depan jauh lebih buruk daripada yang seharusnya.

Artinya, kita dapat mewakili nilai sebagai produk dari banyak faktor. Jika demikian, maka masa depan yang benar-benar hebat perlu dilakukan dengan sangat baik pada dasarnya setiap faktor tersebut; melakukan buruk pada salah satu dari mereka sudah cukup untuk kehilangan sebagian besar nilai.

Tak perlu dikatakan, ini adalah tantangan besar. Untuk diskusi lebih lanjut tentang isu-isu ini, lihat "No Easy Eutopia":

@William_Kiely "Mungkin *ketidakpastian moral saja* akan cukup untuk mencegah kita memilih masa depan yang setidaknya 0,1% optimal, bahkan jika kita memiliki kekuatan penuh untuk memilih masa depan konkret yang kita inginkan." - tidak jika kita sepenuhnya mampu merenungkan.