Bây giờ, Eliezer có thể tuyên bố rằng anh ta không cố gắng kích động bạo lực, nhưng tại sao anh ta lại nói về những người làm nghiên cứu khoa học như là "cố gắng tiêu diệt bạn"?

@zackmdavis Tất nhiên, điều này thật tồi tệ khi anh ta cố gắng ngăn chặn những nghiên cứu và phát triển rõ ràng có lợi chỉ vì một ảo tưởng mà anh ta đã chấp nhận từ khi còn là một thiếu niên. Tuy nhiên, giờ đây, anh ta đã vượt qua một ranh giới quan trọng. Anh ta và những người ủng hộ đang trở thành một mối đe dọa vật lý đối với sự sống của rất nhiều người.

@zackmdavis Điều này không còn là "mối đe dọa" theo nghĩa "chặn đứng các loại thuốc cứu sống quan trọng" hay những thứ tương tự, mà là "mối đe dọa" theo nghĩa "các tín đồ của anh ta sẽ bắt đầu giết người." Điều này không còn có thể bị bỏ qua.

Các hệ thống AI đã được xây dựng trong thế giới thực không cần "sự đồng bộ"; chúng không giống như các hệ thống trong tưởng tượng của Eliezer và không cần một kế hoạch nào để ngăn chúng giết chết mọi người vì những hệ thống như vậy rõ ràng không có hứng thú làm điều đó. Nếu bạn nói với mọi người "kế hoạch của bạn để giữ cho nhà máy thép của bạn không làm bùng nổ bầu khí quyển là gì!" họ không cần phải đưa ra một kế hoạch cho bạn.