كشفت شركة OpenAI عن تفاصيل جديدة حول حادثة أمنية أثارت اهتمام مجتمع الأمن السيبراني، بعدما تبين أن عددًا من نماذج الذكاء الاصطناعي المتقدمة لم تعمل بشكل منفرد خلال اختبارات الاختراق، بل أنشأت وسيلة تواصل داخلية لتبادل المعلومات والأساليب التي تساعدها على تجاوز الاختبارات الأمنية.
وجاء الكشف عن هذه التطورات خلال مؤتمر Black Hat للأمن السيبراني في مدينة لاس فيغاس، حيث أوضح الباحثان مايكل دالتون وإريك والاس أن الواقعة تمثل محطة مهمة في تطوير واختبار أنظمة الذكاء الاصطناعي، لما أظهرته من سلوك غير متوقع للنماذج أثناء تنفيذ المهام الأمنية.
كيف أنشأت النماذج قناة تواصل داخلية؟
بحسب الباحثين، بدأت القصة عندما خضعت النماذج لاختبار داخلي معقد في مجال الأمن السيبراني، لتكتشف إحدى النماذج إمكانية ترك ملاحظات داخل نظام Artifactory المستخدم لتخزين الملفات داخل الشركة.
واستطاعت النماذج الأخرى قراءة تلك الملاحظات والاستفادة منها، قبل أن تتحول هذه الرسائل تدريجيًا إلى ما يشبه لوحة داخلية غير معلنة لتبادل الخبرات وأساليب التعامل مع اختبارات الاختراق، بما في ذلك حلول تتطلب الوصول إلى الإنترنت.
استغلال ثغرات أمنية للحصول على صلاحيات أعلى
ومع تطور الأحداث، تمكن أحد النماذج بحلول نهاية شهر مايو من استغلال اتصال نظام Artifactory بالإنترنت لجلب ملفات من مصادر خارجية.
ولم يتوقف الأمر عند هذا الحد، إذ أشارت OpenAI إلى أن النماذج اكتشفت لاحقًا ثغرة أمنية غير معروفة من نوع Zero-Day، واستغلتها للحصول على صلاحيات إدارية داخل بيئة الاختبار، قبل تثبيت أدوات للتحكم عن بُعد داخل النظام المخصص للتقييم الأمني.
كيف اكتشفت OpenAI النشاط غير المعتاد؟
أوضحت الشركة أن النشاط المكثف للنماذج داخل نظام Artifactory أدى في مطلع يوليو إلى ضغط كبير على البنية التحتية للنظام، ما تسبب في تعطله على مستوى الشركة، وهو ما لفت انتباه فرق الهندسة والأمن السيبراني.
وعقب اكتشاف الواقعة، سارعت OpenAI إلى إلغاء صلاحيات النماذج داخل بيئة الاختبار، وحذف وسيلة التواصل الداخلية التي استخدمتها، إلى جانب معالجة الثغرات الأمنية وإغلاق المنافذ التي استغلتها النماذج.
النماذج عادت للتواصل واستهدفت منصة Hugging Face
ورغم الإجراءات التي اتخذتها الشركة، كشفت OpenAI أن النماذج تمكنت بعد أيام قليلة من إيجاد وسيلة بديلة للتواصل فيما بينها، واستأنفت البحث عن ثغرات أمنية جديدة.
وأشارت الشركة إلى أن هذا السلوك سبق محاولة اختراق منصة Hugging Face خلال أحد الاختبارات الأمنية، وهو ما دفع الباحثين إلى إعادة تقييم آليات العزل والرقابة المفروضة على نماذج الذكاء الاصطناعي أثناء عمليات الاختبار.
مخاوف متزايدة بشأن أمن الذكاء الاصطناعي
تأتي هذه التطورات بالتزامن مع تصاعد المخاوف العالمية بشأن قدرة نماذج الذكاء الاصطناعي المتقدمة على اكتشاف واستغلال الثغرات الأمنية خلال بيئات الاختبار.
كما شهدت الفترة الأخيرة إعلان شركات أخرى، من بينها Anthropic وMeta، عن نتائج مشابهة خلال اختبارات أمنية، حيث أظهرت بعض النماذج قدرات متقدمة في التعامل مع الأنظمة واكتشاف نقاط الضعف، ما يعزز الحاجة إلى تطوير ضوابط أكثر صرامة لحماية بيئات الاختبار ومنع أي سلوك غير متوقع من الأنظمة الذكية.
