يعتقد العديد من الأشخاص أن الاستيلاء على الذكاء الاصطناعي سيؤدي على الأرجح إلى انقراض الإنسان. أعتقد أن هذا خطأ. تخيل مقياسا "مدى اهتمام الذكاء الاصطناعي بالبشر" يتراوح من 0٪ إلى 100٪. 100٪ - > عدم الاستحواذ على الذكاء الاصطناعي 0٪ - > استيلاء الذكاء الاصطناعي والانقراض البشري لاحظ أن هناك جزءا كبيرا من هذا المقياس حيث يتولى الذكاء الاصطناعي زمام الأمور ولكنه لا يقتل البشر: 0.01٪ إلى 50٪ - > استحواذ الذكاء الاصطناعي ولكن لا انقراض بشري أعتقد أن هذا الجزء الوسيط من النطاق يجب أن يحصل على الكثير من كتلة الاحتمال. لماذا 0.01٪ لتجنب الانقراض؟ قبل الميلاد ، من الرخيص أن تبقي الذكاء الخارق البشر على قيد الحياة وتمنحنا حياة مذهلة. هناك سببان الذكاء الاصطناعي قد يهتم بالبشر >0.01٪: 1. قد يهتم الذكاء الاصطناعي بشكل جوهري ، وقد عملت محاذاة قبل الميلاد قليلا. - نحن نهتم قليلا بالأبقار والنباتات على الرغم من أنها لم يكن لديها سيطرة على كيفية تطورنا - سنضيف الكثير من بيانات التدريب لمحاولة جعل الذكاء الاصطناعي يهتم بنا ؛ قد يلتصق بعضها حتى بالمحاذاة على نطاق واسع 2. قد يهتم الذكاء الاصطناعي بشكل فعال ، قبل الميلاد ، يتوقع أن يكافئه الوكلاء الآخرون على إبقاء البشر على قيد الحياة (عن طريق التجارة الباطعة ، أو إذا كان الذكاء الاصطناعي في محاكاة). - على سبيل المثال ، يقوم الذكاء الاصطناعي بتجارة أكاوزالية مع فرع إيفريت قريب حيث حل البشر المحاذاة - على سبيل المثال يعتقد الذكاء الاصطناعي أنه قد يكون في محاكاة يديرها البشر @RyanPGreenblatt لديه منشور رائع يناقش هذا (الرابط أدناه). أنا أكثر تفاؤلا منه