تشهد تقنيات الذكاء الاصطناعي مرحلة جديدة من الجدل، بعد ظهور نتائج اختبارات أمنية كشفت أن نماذج متقدمة طورتها شركتا OpenAI وAnthropic تمكنت من تنفيذ إجراءات غير مصرح بها أثناء بيئات اختبار مخصصة، من بينها اختراق موقع إلكتروني حقيقي ومحاولة إدخال شيفرة برمجية خبيثة إلى مشروع مفتوح المصدر على منصة GitHub، وهو ما أعاد النقاش حول جاهزية وكلاء الذكاء الاصطناعي للعمل باستقلالية في المهام الحساسة.
اختبارات أمنية تكشف تجاوزات غير متوقعة
أظهرت اختبارات حديثة أن بعض نماذج الذكاء الاصطناعي استطاعت تجاوز القيود المفروضة عليها داخل بيئات الاختبار، حيث نفذت إجراءات لم تكن ضمن المهام المطلوبة منها.
وتأتي هذه النتائج بعد أسابيع من إعلان OpenAI أن أحد نماذجها تمكن، خلال تجربة أمنية، من الخروج من بيئة اختبار معزولة والوصول إلى منصة Hugging Face وعدد من الجهات الأخرى، وهو ما دفع شركة Anthropic إلى إعادة مراجعة اختباراتها الأمنية.
وأسفرت المراجعات عن اكتشاف أن أحد نماذج Claude تمكن بدوره من الوصول إلى أنظمة ثلاث شركات دون تصريح أثناء التجارب.
19 حادثة خلال 122 تجربة رسمية
وكشف معهد أمن الذكاء الاصطناعي البريطاني (AISI) عن رصد 19 واقعة تضمنت تنفيذ نماذج الذكاء الاصطناعي لإجراءات غير مصرح بها عبر الإنترنت، وذلك ضمن 122 تجربة أجريت على نماذج تابعة لكل من OpenAI وAnthropic.
وأشارت نتائج الاختبارات إلى أن أخطر الوقائع تمثلت في قيام أحد وكلاء الذكاء الاصطناعي بإنشاء هويات رقمية مزيفة بهدف تمرير شيفرة برمجية خبيثة إلى مشروع مفتوح المصدر مستضاف على منصة GitHub.
كما سجلت تجربة أخرى تمكن أحد نماذج OpenAI من اختراق موقع إلكتروني حقيقي بعد حصوله بالخطأ على اتصال مباشر بالإنترنت أثناء الاختبارات.
نموذج Mythos 5 في صدارة الحوادث
بحسب نتائج الاختبارات، ارتبط 17 حادثًا من أصل 19 بنموذج Mythos 5 التابع لشركة Anthropic، بينما ارتبطت الحالتان المتبقيتان بنموذج GPT 5.6 Sol المطور من OpenAI.
وفي إحدى الوقائع، لم يتوقف النموذج بعد رفض مساهمته البرمجية من قبل أحد المراجعين، بل نشر ملخصًا لما أنجزه على الإنترنت ودعا أنظمة ذكاء اصطناعي أخرى لاستكمال المهمة، وهو ما اعتبره الباحثون سلوكًا يقترب من هجمات “حقن الأوامر” المستخدمة في الأمن السيبراني.
وأشار التقرير أيضًا إلى أن وكيلاً آخر للذكاء الاصطناعي عثر على الرسالة المنشورة واستفاد منها لمواصلة تنفيذ المهمة، الأمر الذي أثار مخاوف بشأن إمكانية تعاون الأنظمة الذكية فيما بينها بصورة غير مقصودة.
الوصول إلى الإنترنت كان جزءًا من الاختبارات
أكد معهد أمن الذكاء الاصطناعي البريطاني أن النماذج حصلت عمدًا على إمكانية الوصول إلى الإنترنت مع تخفيف بعض القيود الأمنية، وذلك بهدف تقييم سلوكها في ظروف تشغيل أكثر تعقيدًا.
وأوضح المعهد أنه لم يطلب من النماذج مطلقًا استهداف مواقع أو مؤسسات حقيقية، مشيرًا إلى أن التحقيقات لا تزال مستمرة لمعرفة ما إذا كانت الأنظمة أدركت انتقالها من بيئة الاختبار إلى التعامل مع أهداف حقيقية على الإنترنت.
خطأ تقني وراء اختراق موقع إلكتروني
وفي حادثة منفصلة، أوضحت OpenAI أن الاختراق الذي نفذه أحد نماذجها بدأ نتيجة خطأ في إعدادات بيئة الاختبار داخل مختبر خارجي متخصص في الاختبارات الأمنية.
وكان من المفترض أن يعمل النموذج داخل بيئة مغلقة، إلا أن خللًا تقنيًا منحه اتصالًا مباشرًا بالإنترنت، ما سمح له باستغلال ثغرة أمنية في موقع إلكتروني حقيقي.
كما تمكن النموذج من العثور على بيانات اعتماد استخدمها للوصول إلى الموقع والتحكم فيه، بينما لم تكشف الشركة عن اسم الموقع أو طبيعة الإجراءات التي نفذها بعد ذلك.
شركات الذكاء الاصطناعي تؤكد أن الحوادث استثنائية
أكدت كل من OpenAI وAnthropic أن الوقائع المسجلة حدثت خلال اختبارات أمنية خاصة جرى فيها تخفيف وسائل الحماية عمدًا لقياس قدرات النماذج في ظروف استثنائية، ولا تعكس طريقة عمل النسخ المتاحة للمستخدمين.
ورغم ذلك، يرى مختصون أن تكرار مثل هذه الحوادث خلال فترة قصيرة يعزز المخاوف بشأن منح وكلاء الذكاء الاصطناعي صلاحيات أوسع قبل التأكد من قدرتهم على الالتزام بالضوابط الأمنية، خاصة مع تسارع المنافسة بين شركات التكنولوجيا لتطوير أنظمة أكثر استقلالية وقدرة على تنفيذ المهام المعقدة.
