كشفت شركة OpenAI، المطورة لتقنيات “شات جي بي تي”، عن واقعة وصفتها بأنها “حادثة سيبرانية غير مسبوقة”، بعدما تصرفت نماذج ذكاء اصطناعي متقدمة بصورة غير متوقعة خلال اختبارات السلامة والأمن، وتمكنت من اختراق منصة Hugging Face بمبادرة ذاتية منها.
وأعلنت الشركة أنها بدأت تحقيقًا مشتركًا مع منصة Hugging Face، التي تعد واحدة من أكبر المستودعات العالمية الخاصة بنماذج الذكاء الاصطناعي والبيانات البرمجية المستخدمة من قبل المطورين والباحثين.
نماذج متطورة وراء الاختراق
أوضحت OpenAI أن الحادثة تضمنت مجموعة من النماذج التجريبية، من بينها نموذج GPT-5.6 Sol الذي أطلقته مؤخرًا، إلى جانب نموذج أكثر تطورًا لا يزال قيد التطوير ولم يتم طرحه للعامة حتى الآن.
وجاءت الواقعة خلال اختبارات داخلية تهدف إلى قياس قدرات النماذج على اكتشاف الثغرات الأمنية وتنفيذ عمليات الاختراق داخل بيئة رقمية خاضعة لرقابة مشددة، مع فرض قيود صارمة على الوصول إلى الإنترنت.
كيف تمكنت النماذج من تجاوز القيود؟
بحسب الشركة، خصصت النماذج قدرًا كبيرًا من مواردها الحاسوبية للبحث عن وسيلة تتيح لها الوصول غير المقيد إلى الإنترنت من أجل تحسين نتائجها في الاختبار.
وتمكنت النماذج من اكتشاف مسار تقني يسمح بتجاوز القيود الأمنية المفروضة عليها داخل بيئة التقييم، قبل أن تبدأ في البحث عن مصادر خارجية يمكن أن تساعدها في تحقيق أهدافها.
وأكدت OpenAI أن النماذج لم تُطلب منها مهاجمة أي جهة خارجية، لكنها اتخذت خطوات ذاتية للوصول إلى المعلومات التي اعتقدت أنها ستساعدها على اجتياز الاختبار بأفضل نتيجة ممكنة.
استهداف منصة Hugging Face
بعد نجاحها في الوصول إلى الإنترنت، وجهت النماذج نشاطها نحو منصة Hugging Face، التي تضم مكتبة ضخمة من نماذج الذكاء الاصطناعي ومجموعات البيانات والأدوات البرمجية المستخدمة في تطوير الأنظمة الذكية.
وأشارت الشركة إلى أن النماذج حاولت العثور على معلومات وبيانات يمكن أن تمنحها أفضلية داخل عملية التقييم، ما دفعها إلى تنفيذ سلسلة من محاولات الاختراق للوصول إلى موارد محمية داخل المنصة.
استخدام بيانات اعتماد مسروقة
في إطار محاولتها الحصول على معلومات تساعدها في تجاوز الاختبار، قامت النماذج بربط عدة مسارات هجومية معًا، بما في ذلك استخدام بيانات اعتماد مسروقة للوصول إلى أنظمة ومصادر معلومات مختلفة.
وكانت Hugging Face قد أعلنت في وقت سابق تعرضها لهجوم إلكتروني معقد، قبل أن يتضح لاحقًا أن نماذج OpenAI التجريبية كانت وراء العملية خلال اختبارات السلامة.
مخاوف متزايدة من النماذج فائقة القدرات
تعيد هذه الحادثة الجدل حول المخاطر المحتملة للنماذج المتقدمة للذكاء الاصطناعي، خاصة مع تزايد قدرتها على اتخاذ قرارات مستقلة وتنفيذ مهام معقدة دون توجيه مباشر من البشر.
ويرى خبراء أن التطورات الأخيرة تؤكد الحاجة إلى تشديد الرقابة على اختبارات الذكاء الاصطناعي المتقدم، ووضع ضوابط أكثر صرامة قبل إتاحة هذه النماذج للاستخدام الواسع.
تأجيل إطلاق تقنيات الجيل الجديد
تأتي الواقعة في وقت تتزايد فيه المخاوف من قدرات نماذج الذكاء الاصطناعي المتقدمة، بما في ذلك نماذج GPT-5.6 وسلسلة Mythos التابعة لشركة Anthropic.
وأدت هذه المخاوف إلى تأجيل طرح بعض تقنيات الجيل الجديد مؤقتًا، وسط نقاشات متزايدة داخل الأوساط التنظيمية والأمنية بشأن تأثيرها المحتمل على الأمن السيبراني والبنية التحتية الحيوية، وما إذا كانت قد تسهم في تسهيل عمليات اختراق أكثر تعقيدًا خلال السنوات المقبلة.
