الأمم المتحدة: أسلحة ذات استقلالية غير مقبولة تهدد البشرية
حذّر أمانديب جيل، وكيل الأمين العام للأمم المتحدة والمبعوث الخاص للتكنولوجيا، من مخاطر تطوير واستخدام الذكاء الاصطناعي بشكل غير منضبط، مؤكداً أن ذلك قد يؤدي إلى ظهور أسلحة قادرة على اتخاذ قرارات هجومية دون رقابة بشرية.
وقال إن الذكاء الاصطناعي أصبح تقنية شديدة القوة، تُسرّع تطوير أنظمة الأسلحة الحديثة وقد تدفع نحو مستوى أكبر من الاستقلالية القتالية مقارنة بالأنظمة الحالية، محذراً من فقدان السيطرة على “اختيار الأهداف” وضرورة الحفاظ على السيطرة البشرية الكاملة على السلاح، وذلك وفق حوار مع العربية.
خبراء: سباق تسلّح جديد يعتمد على الخوارزميات
أكد الدكتور محمد محسن رمضان، رئيس وحدة الذكاء الاصطناعي والأمن السيبراني بمركز العرب للأبحاث والدراسات، أن التحذيرات الأممية ليست مجرد تصريح سياسي، بل إنذار حقيقي بمرحلة جديدة من سباق التسلح.
وأوضح أن خطورة الذكاء الاصطناعي العسكري تكمن في اعتماده على:
- شبكات عصبية تتعلم ذاتياً
- خوارزميات تعمل في بيئات غير مستقرة
- أنظمة استشعار قد تتعرض للتضليل
وقال إن الانتقال من “الدعم البشري” إلى “الاستقلالية المتزايدة” يخلق سلاحاً قادرًا على اتخاذ قرار هجومي دون رقابة، ما قد يؤدي إلى عمليات لا تتوافق مع النية السياسية أو قوانين الحرب.
أسلحة قد تُخترق أو تُضلَّل وتتحول إلى أدوات قتل خارج السيطرة
حذّر رمضان من عدة مخاطر تقنية، أبرزها:
• قابلية الاختراق السيبراني
قد يؤدي أي اختراق إلى تغيير مسار السلاح أو استهداف مدنيين، أو حتى تنفيذ عمليات قتالية لصالح الخصم.
• التضليل الخوارزمي
يمكن خداع الأنظمة الذكية عبر صور مُعدّلة وإشارات إلكترونية دقيقة، ما يجعلها تتخذ قرارات خاطئة بنسبة كبيرة.
• فقدان السيطرة البشرية
إذ تتحول عملية اتخاذ القرار من سلسلة مراحل إلى قرار آلي لحظي، مما يزيد احتمالات التصعيد غير المقصود.
• فجوة المساءلة القانونية
من يتحمل المسؤولية في حال أخطأ السلاح الذكي؟ القائد؟ الشركة المصنعة؟ المبرمج؟
هذه الفجوة تهدد منظومة العدالة الدولية.
توصيات بفرض قيود دولية وحظر الأسلحة المستقلة بحلول 2026
أوصى رمضان بضرورة:
- إبقاء الإنسان داخل دورة اتخاذ القرار (Human-in-the-loop)
- منع أي سلاح من اتخاذ قرار مميت بشكل مستقل
- وضع إطار دولي مُلزِم لدرجات الاستقلالية
- إنشاء آليات تفتيش دولية
- تسجيل الأنظمة العسكرية الذكية في قاعدة بيانات أممية
العمدة: الأسلحة الذكية تهدد استقرار العالم وقد تقود إلى فناء البشرية
من جانبه، أكد اللواء عادل العمدة، المحاضر بالأكاديمية العسكرية للدراسات العليا والاستراتيجية، أن هذه الأسلحة تمثل أحد أخطر نتائج التطور التكنولوجي غير المنضبط.
وقال إن عملية اتخاذ القرار العسكري تحتاج تقدير موقف شامل وهو ما تفتقر إليه أنظمة الذكاء الاصطناعي، مشدداً على ضرورة حظر هذه الأسلحة وفرض قيود كاملة على استقلاليتها، لأن منحها حرية القرار قد يؤدي إلى كوارث وخسائر واسعة تهدد البشر واستقرار العالم.
