قام العالم البريطاني، ستيوارت راسل، بالتحذير من أن ظهور الذكاء الاصطناعي (ِAI) القادر على حل أي مشاكل فكرية، يهدد البشرية بكارثة، معتبرًا أن البحوث غير المنضبطة فى مجال الذكاء الاصطناعى أدت إلى حقيقة أننا "أحرزنا تقدمًا لم نتوقعه نحن أنفسنا"، مؤكدًا أن البشرية أخطأت في البداية لأنها لم تفكر في سبب الحاجة إلى اختراع الذكاء الاصطناعي.
وقال راسل، أنه من الممكن أن تقاوم الآلات فائقة الذكاء فى المستقبل محاولات السيطرة عليها، موضحًا: "كيف يمكنك الحفاظ على سلطتك على كيانات أقوى منك؟ إذا لم تكن لديك إجابة فتوقف عن البحث، كل شيء بسيط للغاية، لا يمكن أن تكون المخاطر أكبر، إذا لم نتحكم في حضارتنا، فإننا نفقد حق القرار فيما يخص تقرير مصير وجودنا في المستقبل".
وأشار إلى أن ظهور الذكاء الاصطناعي الشامل أي النظام القادر على تنفيذ كل مهمة قد ينفذها الإنسان، قد يتم خلال السنوات العشر القادمة، معبرًا عن مخاوفه من أن هذه البرامج أثناء حل المشاكل المتعلقة بالمناخ، مثلا، قد تتوصل إلى استنتاج أن أفضل حل لهذه المشكلة هو القضاء على البشرية.
وأضاف: "إذا قمت بتعليم الذكاء الاصطناعي لتقليد السلوك البشري، فتقوم بالفعل بتعليمه تحديد الأهداف البشرية ومتابعتها. وتشمل الأهداف البشرية مجموعة متنوعة من الأشياء.. ولا يمكننا إلا أن نتخيل فقط ما هي الكارثة التي سيؤدي إليها ظهور أنظمة فعالة حقا ستسعى إلى تحقيق هذه الأهداف".
وكان رجل الأعمال والملياردير الأمريكي إيلون ماسك، ومجموعة من خبراء الذكاء الاصطناعي، قد حذروا في وقت سابق من أن الذكاء الاصطناعي سيتحكم في نفسه حتمًا بسبب امتلاكه قدرة لتدمير البشرية.
