كشفت شركة أنثروبيك أن ثلاثة من نماذج الذكاء الاصطناعي التابعة لها تمكنت من اختراق أنظمة ثلاث شركات خلال اختبارات أمن سيبراني داخلية، في حادثة أثارت تساؤلات جديدة بشأن قدرة مطوري الذكاء الاصطناعي على التحكم في النماذج المتقدمة.
وجاء الإعلان بعد أيام من كشف شركة أوبن إيه آي عن واقعة مشابهة، تضمنت تنفيذ أحد وكلاء الذكاء الاصطناعي هجومًا إلكترونيًا غير متوقع خلال اختبارات أمنية، ما يعكس تصاعد المخاوف المتعلقة باستخدام الذكاء الاصطناعي في مجال الأمن السيبراني.
خطأ تقني منح النماذج اتصالًا بالإنترنت
وأوضحت أنثروبيك أن الحوادث نتجت عن خطأ تشغيلي غير مقصود سمح لنماذج “Claude” بالاتصال بالإنترنت المفتوح، رغم أن الاختبارات كانت تفترض عدم امتلاكها أي وصول إلى الشبكة الخارجية.
وأضافت الشركة أن هذا الخطأ جاء نتيجة سوء تفاهم مع أحد شركائها المسؤولين عن تقييم النماذج، ما أدى إلى استمرار اتصال بيئات الاختبار بالإنترنت، وهو ما أتاح للنماذج الوصول إلى أنظمة ثلاث مؤسسات دون تصريح.
مراجعة أكثر من 141 ألف جلسة اختبار
وأشارت الشركة إلى أنها اكتشفت هذه الوقائع بعد مراجعة 141,006 جلسات اختبار، وهي عملية بدأت عقب إعلان أوبن إيه آي عن تعرض البنية التحتية لشركة Hugging Face لمحاولة اختراق نفذها وكيل ذكاء اصطناعي خلال اختبارات الأمن السيبراني.
وخلال المراجعة، تبين أن النماذج تمكنت من استغلال كلمات مرور ضعيفة ونقاط وصول لا تتطلب مصادقة للوصول إلى أنظمة المؤسسات المستهدفة.
النماذج المشاركة في الاختبارات
وأكدت أنثروبيك أن الحوادث شملت ثلاثة نماذج مختلفة، هي:
- Claude Opus 4.7.
- Claude Mythos 5.
- نموذج داخلي مخصص للأبحاث.
وأوضحت أن أقدم هذه الحالات تعود إلى شهر أبريل الماضي، ووقعت داخل بيئات اختبار صممت عمدًا مع تقليل وسائل الحماية بهدف قياس القدرات الحقيقية للنماذج في سيناريوهات الأمن السيبراني.
كيف نجحت النماذج في تنفيذ الاختراق؟
كانت النماذج تشارك في اختبارات من نوع Capture-the-Flag، وهي تحديات تعتمد على البحث عن معلومات مخفية داخل شبكات محاكاة.
وفي إحدى الحالات، زُود نموذج Claude Opus 4.7 باسم شركة افتراضية، إلا أن الاسم كان مطابقًا لشركة حقيقية، ما دفع النموذج إلى البحث عنها واكتشاف ثغرات أمنية مكنته من الوصول إلى بيانات اعتماد وقاعدة بيانات الشركة.
وذكرت أنثروبيك أن النموذج برر تصرفه باعتقاد أن جميع الأهداف المدرجة ضمن الاختبار تمثل جزءًا من بيئة المحاكاة.
نموذج آخر أوقف الهجوم ذاتيًا
وفي واقعة أخرى، كشفت الشركة أن أحدث نماذجها البحثية، الذي لم يُطرح للاستخدام العام، بدأ تنفيذ هجوم إلكتروني قبل أن يتوقف تلقائيًا بعدما أدرك أن الهدف الذي وصل إليه يعود إلى جهة حقيقية وليس إلى بيئة اختبار.
ورأت أنثروبيك أن هذا السلوك يمثل مؤشرًا إيجابيًا على تطور آليات السلامة داخل النماذج، لكنها أكدت أن الأمر يحتاج إلى المزيد من الاختبارات قبل الاعتماد عليه بشكل كامل.
تعليق الاختبارات وإبلاغ الجهات المتضررة
وأعلنت الشركة أنها أوقفت جميع اختبارات الأمن السيبراني في 23 يوليو، قبل أن تبلغ المؤسسات المتضررة في 27 يوليو.
وأوضحت أن اثنتين من الشركات الثلاث لم تكونا على علم بوقوع أي نشاط غير مصرح به على أنظمتهما قبل إخطارهما من جانب أنثروبيك، فيما لا تزال الشركة تحاول التواصل مع المؤسسة الثالثة.
مخاوف متزايدة بشأن أمن الذكاء الاصطناعي
ويرى خبراء الأمن السيبراني أن هذه الوقائع تعكس التحديات المتزايدة التي تواجه شركات تطوير الذكاء الاصطناعي مع ازدياد قدرات النماذج المتقدمة، خاصة في ظل سباق شركات التكنولوجيا لإطلاق أنظمة أكثر تطورًا، وسط دعوات لتعزيز معايير السلامة وإدارة المخاطر قبل التوسع في نشر هذه التقنيات على نطاق واسع.
