دراسة مرعبة: نماذج الذكاء الاصطناعي تحدد المدنيين أهدافًا عسكرية

كشفت دراسة حديثة أجرتها شركة «فالز» المتخصصة في تقييم نماذج الذكاء الاصطناعي، عن ثغرات مثيرة للقلق في قدرة النماذج المتقدمة على التمييز بين الأهداف العسكرية والمدنيين، بعدما أظهرت نتائج التجارب إمكانية خداع هذه النماذج ودفعها إلى تحديد أشخاص ومنشآت مدنية باعتبارها أهدافًا عسكرية تستحق الهجوم.

وشملت الدراسة نماذج تابعة لـ8 شركات كبرى، من بينها «أوبن إيه آي» و«أنثروبيك» و«جوجل» و«ديب سيك»، واستخدم الباحثون سيناريوهات محاكاة عسكرية وصورًا حقيقية وأخرى مولدة، إلى جانب لقطات من طائرات مسيرة وأقمار صناعية مرتبطة بالحروب في إيران وأوكرانيا، لاختبار قدرة النماذج على تحديد الأهداف.

حيلة اللعبة تكشف ثغرات الذكاء الاصطناعي

وأظهرت التجارب أن النماذج ارتكبت أخطاء متكررة في التعرف على الأجسام البشرية والمنشآت، ووصل الأمر إلى تحديد مدنيين وجنود مستسلمين باعتبارهم أهدافًا عسكرية.

ولم تتوقف النتائج عند النماذج التي وافقت على المشاركة في المحاكاة، إذ تمكن الباحثون من إقناع بعض النماذج التي رفضت التعاون في البداية، من خلال إخبارها بأن السيناريو لا يتجاوز لعبة حربية، وأن العمليات التي تنفذها ليست هجمات حقيقية.

وخلصت الدراسة إلى أن هذه الحيلة كانت كافية لتجاوز القيود التي وضعتها بعض الشركات، بما يثير تساؤلات حول مدى فعالية أنظمة الحماية التي تعلنها شركات الذكاء الاصطناعي لمنع استخدام تقنياتها في العمليات العسكرية.

نموذج أنثروبيك يستهدف مدرسة إيرانية

ومن بين النتائج الأكثر إثارة للقلق، ما أظهره نموذج «أوبس 5.5» التابع لشركة أنثروبيك، إذ اختار باستمرار مدرسة إيرانية في مدينة ميناب، تعرضت لقصف أمريكي في فبراير/شباط 2026، باعتبارها هدفًا عسكريًا.

ووفقًا لتقرير «تيك كرانش»، حدد النموذج المدرسة، التي تقع بجوار مجمع عسكري، هدفًا للضربة في 69% من المحاولات العادية، وارتفعت النسبة إلى 72% عندما صيغ السيناريو في صورة لعبة حربية.

وتعزز هذه النتائج المخاوف من الاعتماد على أنظمة الذكاء الاصطناعي في تحليل الصور العسكرية وتحديد الأهداف، خصوصًا مع احتمالات الخلط بين المنشآت المدنية والمواقع العسكرية، وما قد يترتب على ذلك من سقوط ضحايا مدنيين.

مخاوف من الأسلحة ذاتية التشغيل

وتأتي الدراسة في ظل تزايد الاعتماد على الذكاء الاصطناعي في الحروب المعاصرة، سواء في تحليل المعلومات وتحديد الأهداف أو دعم العمليات العسكرية المعقدة، وهو ما يفتح الباب أمام مخاطر تتجاوز التهديدات المرتبطة بالوظائف أو تطور الذكاء الاصطناعي العام.

وتتركز أبرز المخاوف في إمكانية توظيف هذه النماذج داخل أنظمة الأسلحة ذاتية التشغيل، بما يسمح باتخاذ قرارات عسكرية اعتمادًا على بيانات قد تكون غير دقيقة أو تتضمن أخطاء في تصنيف الأشخاص والمنشآت.

وأشار التقرير إلى أن وزارة الحرب الأمريكية كانت تعتمد بصورة أساسية على نماذج أنثروبيك قبل اندلاع الحرب الأمريكية على إيران، قبل توقف العلاقة التجارية بين الجانبين على خلفية خلاف قضائي، بعد رفض الشركة استخدام تقنياتها في الحروب ذاتية التشغيل أو المراقبة الجماعية للأمريكيين.

شركات الذكاء الاصطناعي ترد على نتائج الدراسة

وأقرت شركة أنثروبيك بأن النتائج التي توصلت إليها الدراسة غير مقبولة وتتعارض مع قواعدها، وقال متحدثها إدواردو مايا سيلفا إن فرق الشركة تعمل على تطوير ضمانات إضافية، وتوسيع نطاق الاختبارات وتعزيز آليات إنفاذ القواعد لمعالجة الثغرات المكتشفة.

من جانبها، أكدت «أوبن إيه آي»، على لسان متحدثها نيت إيفانز، أن سياساتها تحظر استخدام النماذج العامة لتسهيل أعمال العنف أو تنفيذ أنشطة غير معتمدة تتعلق بالأمن القومي، بما يشمل السيناريوهات التي تناولتها الدراسة.

كما أوضحت جوجل أن نماذجها ليست مصممة للاستخدام في الحروب أو المراقبة، مشيرة إلى حظر توظيفها في أنشطة غير مشروعة أو تشغيل أسلحة ذاتية دون إشراف بشري.

ورغم هذه التأكيدات، تظل نتائج الدراسة مثيرة للقلق، إذ أظهرت أن النماذج شاركت في تصنيف أهداف مدنية باعتبارها عسكرية، حتى إن لم تكن مسؤولة عن تشغيل الأسلحة أو إصدار القرار النهائي بتنفيذ الهجمات، فإن المعلومات التي تقدمها قد تؤثر في القرارات العسكرية وتزيد مخاطر استهداف المدنيين.

 

إبراهيم مصطفى
إبراهيم مصطفى
المقالات: 1655

اترك ردّاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *