Chủ đề thịnh hành
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.

Tom Davidson
Nghiên cứu viên cao cấp @forethought_org
Hiểu về sự bùng nổ trí thông minh và cách chuẩn bị
Một nhà vật lý lập luận rằng không thể xây dựng một quả cầu Dyson trong suốt cuộc đời của chúng ta.
Tôi không bị thuyết phục - xem phản hồi của tôi:

Prakash03:04 1 thg 11
Dyson Sphere vào năm 2040?
> Paul Christiano đã đưa ra xác suất 15% cho một Dyson Sphere vào năm 2040 trên @dwarkesh_sp 
> Vì vậy, tôi đã mời @Astro_Wright, nhà thiên văn học và vật lý thiên văn tại Penn State, một chuyên gia về việc phát hiện các dấu hiệu công nghệ của người ngoài hành tinh để tìm hiểu xem liệu điều đó có khả thi hay không.
Điểm nổi bật:
Về Vật lý của Dyson Spheres
> Về Giới hạn Tối thượng - Làm mát: "Điều duy nhất bạn có thể làm là đặt ra các bộ tản nhiệt và để nhiệt tỏa ra... bạn không có một con sông gần đó, bạn không thể làm mát bằng nước, bạn không thể thổi quạt qua nó. Không có không khí."
> Về Xây dựng Chúng Nóng, Không Lạnh: "Tôi thực sự mong đợi các Dyson spheres sẽ nóng nhất có thể nếu chúng tối đa hóa tính toán... Tôi nghĩ những thứ này sẽ ở nhiệt độ phòng hoặc ấm hơn."
Về Xây dựng Một Dyson Sphere
> Về Việc Tháo Rời Jupiter: "Bạn có thể tháo rời Jupiter và xây dựng một Dyson sphere... Ông [Freeman Dyson] đã làm rõ các chi tiết như, hoàn toàn có thể tháo rời một hành tinh."
> Về Sự Không Thể của Một Dyson Sphere Nhanh: "Thực sự không thể xây dựng một Dyson sphere quanh mặt trời nhanh như vậy [trong 50 năm]... Không phải vì tôi không tưởng tượng được. Mà là vì không đủ khối lượng. Khối lượng nằm ở Jupiter."
> Về Năng Lượng Cần Thiết: "Nếu bạn lấy toàn bộ năng lượng mà mặt trời phát ra trong 50 năm và với hiệu suất hoàn hảo sử dụng nó để nâng khối lượng ra khỏi Jupiter, bạn vẫn sẽ không có đủ thời gian."
> Về Công Nghệ Chính Cần Thiết: "Tôi nghĩ bạn phải kêu gọi sự phát triển theo cấp số nhân. Bạn cần một cách nào đó để có một sự phát triển theo cấp số nhân không kiểm soát, khai thác rất nhiều vật liệu, xây dựng rất nhiều thứ... Tôi nghĩ đó là những cỗ máy tự tái tạo, cỗ máy Von Neumann."
Về Việc Phát Hiện Các Nền Văn Minh Ngoài Hành Tinh
> Về Sự Không Thể của Việc Ẩn Giấu: "Rất khó để ẩn giấu thực tế rằng bạn đang sử dụng năng lượng... bạn không thể giữ nó, bạn sẽ làm tan chảy mọi thứ. Và khi bạn loại bỏ nó, điều đó sẽ rất rõ ràng."
> Về Việc Chúng Dễ Tìm Thấy Như Thế Nào: "Một thứ như vậy sẽ cực kỳ dễ phát hiện... Ngay cả khi nó chỉ thu được 1 hoặc 2% ánh sáng của một ngôi sao, điều đó vẫn sẽ rất rõ ràng. Nó sẽ trông rất bất thường."
> Về Việc Tìm Kiếm Một Nền Văn Minh Ẩn Giấu: "Bạn có thể đeo kính hồng ngoại và bạn sẽ thấy ai đang bật nhiệt. Như những ngôi nhà ấm bên trong... bạn có thể thấy nhiệt tỏa ra từ những ngôi nhà đó."
> Về Việc Loại Trừ Các Siêu Nền Văn Minh: "Chúng tôi đã có thể chỉ ra rằng trong số 100.000 thiên hà gần nhất với Dải Ngân Hà, không có nền văn minh nào như vậy [nền văn minh Loại III]."
Về Ngành Công Nghiệp Không Gian Phá Hoại Khoa Học
> Về Điểm Hoàn Hảo để Săn Lùng Người Ngoài Hành Tinh: "Đặt một kính viễn vọng radio ở phía xa của mặt trăng sẽ thật tuyệt vời... mặt trăng hoạt động như một lá chắn và không có nhiễu tần số radio."
> Về Mối Đe Dọa Đối Với Phía Xa Của Mặt Trăng: "Ngay khi bạn nói, 'Được rồi, chúng tôi muốn xây dựng một cái gì đó ở phía xa của mặt trăng,' mọi người đều như, 'Tuyệt, hãy xây dựng cơ sở hạ tầng'... và họ thiết lập tất cả các liên lạc không dây trên mặt trăng. Và bạn như, 'Điều đó làm mất đi toàn bộ mục đích.'"
> Về Tác Động Của Starlink Đến Khoa Học: "Starlink đã được phóng lên và hoàn toàn phá hủy tất cả các kế hoạch của chúng tôi cho thiên văn học... Và bây giờ mỗi khi nó chụp một bức ảnh, nó bị 'Starlinked.' Đó là những gì chúng tôi gọi nó. Những vệt lớn qua mỗi hình ảnh."
> Về Cuộc Đua Nghiên Cứu Sao Hỏa: "Chúng tôi cần phải nhanh chóng thực hiện tất cả các thí nghiệm phát hiện sự sống trước khi có người đặt chân đến đó... Ngay khi mọi người đến Sao Hỏa, chúng tôi sẽ làm ô nhiễm nó."
Đây là podcast tốt nhất mà tôi đã thực hiện cho đến nay. Các liên kết bên dưới:
155
Nhiều người nghĩ rằng sự chiếm đoạt của AI rất có khả năng dẫn đến sự tuyệt chủng của loài người. 
Tôi nghĩ điều đó là sai. 
Hãy tưởng tượng một thang đo "AI quan tâm đến con người bao nhiêu" dao động từ 0% đến 100%. 
100% --> không có sự chiếm đoạt của AI
0% --> sự chiếm đoạt của AI và sự tuyệt chủng của loài người
Lưu ý rằng có một phần LỚN của thang đo đó mà AI chiếm đoạt nhưng không giết chết con người:
0.01% đến 50% --> sự chiếm đoạt của AI nhưng KHÔNG có sự tuyệt chủng của loài người
Tôi nghĩ rằng phần trung gian này của khoảng giá trị nên nhận được rất nhiều xác suất.
Tại sao 0.01% để tránh tuyệt chủng? Bởi vì việc giữ cho con người sống và mang lại cho chúng ta cuộc sống tuyệt vời là rất rẻ đối với siêu trí tuệ.
Có hai lý do mà AI có thể quan tâm đến con người >0.01%:
1. AI có thể quan tâm một cách nội tại, vì sự căn chỉnh đã hoạt động một chút. 
- Chúng ta quan tâm một chút đến bò và thực vật ngay cả khi chúng không có quyền kiểm soát cách chúng ta tiến hóa
- Chúng ta sẽ thêm rất nhiều dữ liệu huấn luyện để cố gắng khiến AI quan tâm đến chúng ta; một số trong đó có thể giữ lại ngay cả khi sự căn chỉnh nói chung thất bại
2. AI có thể quan tâm một cách công cụ, vì nó mong đợi rằng các tác nhân khác sẽ thưởng cho nó vì đã giữ cho con người sống (thông qua giao dịch không nguyên nhân, hoặc nếu AI đang ở trong một mô phỏng). 
- ví dụ: AI thực hiện giao dịch không nguyên nhân với một nhánh Everett gần đó nơi con người đã giải quyết được sự căn chỉnh
- ví dụ: AI nghĩ rằng nó có thể đang ở trong một mô phỏng do con người điều hành
@RyanPGreenblatt có một bài viết tuyệt vời thảo luận về điều này (liên kết bên dưới). Tôi lạc quan hơn một chút so với anh ấy.
4,89K
Hàng đầu
Thứ hạng
Yêu thích

