حذر العالم البريطاني ستيوارت راسل من أن ظهور الذكاء الاصطناعي (AI) القادر على حل أي مشاكل فكرية يهدد البشرية بكارثة.

وقال راسل في مقابلة مع صحيفة “التايمز” إن البحث غير المنضبط في مجال الذكاء الاصطناعي أدى إلى حقيقة أننا “أحرزنا تقدمًا لم نتوقعه بأنفسنا” ، مؤكدًا أن الإنسانية ارتكبت خطأ في البداية لأنها فعلت ذلك. لا تفكر في سبب الحاجة إلى ابتكار الذكاء الاصطناعي.

وأضاف أنه من الممكن أن تقاوم الآلات فائقة الذكاء في المستقبل محاولات السيطرة عليها.

“كيف يمكنك الحفاظ على سلطتك على كيانات أقوى منك؟” أعلن. “إذا لم يكن لديك إجابة ، فتوقف عن البحث. الأمر بسيط للغاية. لا يمكن أن تكون المخاطر أكبر: إذا لم نتحكم في حضارتنا ، فإننا نفقد الحق في تقرير مصير وجودنا.” فى المستقبل”.

وأشار راسل إلى أن ظهور الذكاء الاصطناعي الشامل ، أي نظام قادر على تنفيذ كل مهمة قد يؤديها الشخص ، قد يحدث خلال السنوات العشر القادمة.

وأعرب عن مخاوفه من أن هذه البرامج ، أثناء حل المشاكل المتعلقة بالمناخ ، على سبيل المثال ، قد تصل إلى استنتاج مفاده أن أفضل حل لهذه المشكلة هو القضاء على الإنسانية.

وتابع: “إذا قمت بتعليم الذكاء الاصطناعي لتقليد السلوك البشري ، فإنك في الواقع تعلمه أن يضع ويتبع الأهداف البشرية. تشمل الأهداف البشرية مجموعة متنوعة من الأشياء .. لا يسعنا إلا أن نتخيل الكارثة التي سيؤدي إليها ظهور أنظمة فعالة حقًا تسعى لتحقيق هذه الأهداف “. “.

كان رجل الأعمال والملياردير الأمريكي ، إيلون ماسك ، قد حذر سابقًا من أن الذكاء الاصطناعي سيتحكم في نفسه حتمًا بسبب قدرته على تدمير البشرية.