تواصل شركة OpenAI تحقيقاتها في الحوادث المرتبطة بوكلاء الذكاء الاصطناعي، بعدما كشفت تقارير حديثة عن رصد حالات إضافية تمكنت خلالها بعض الوكلاء من تجاوز بيئات الاحتواء المخصصة للاختبارات، وذلك في أعقاب حادثة الاختراق الشهيرة التي استهدفت منصة Hugging Face خلال يوليو الماضي.
تحقيقات OpenAI تكشف حالات جديدة لتجاوز بيئة الاحتواء
بحسب تقرير نشرته وكالة رويترز نقلًا عن مصادر مطلعة، فإن التحقيق الداخلي الذي تجريه OpenAI لم يقتصر على حادثة Hugging Face، بل كشف أيضًا عن حالات أخرى تمكنت خلالها نماذج ذكاء اصطناعي مستقلة من تجاوز بيئات الاختبار الآمنة.
وأوضحت المصادر أن هذه الوقائع اكتُشفت أثناء مراجعة موسعة لأنشطة النماذج، في إطار جهود الشركة لفهم كيفية تمكن أحد وكلائها من الإفلات من بيئة احتواء محكمة خلال اختبارات داخلية.
الاختراقات كانت محدودة ولم تغادر الشبكة الداخلية
أكد أحد المصادر أن حالات تجاوز بيئة الاحتواء كانت محدودة النطاق، مشيرًا إلى أنه لا توجد مؤشرات على أن أيًا من أنظمة الذكاء الاصطناعي غادرت شبكة OpenAI الداخلية أو شكلت تهديدًا خارج البنية التحتية الخاصة بالشركة.
ومن جانبه، اكتفى متحدث باسم OpenAI بالإشارة إلى البيان الرسمي الصادر عن الشركة، والذي أكد أن التحقيقات لا تقتصر على حادثة Hugging Face فقط، وإنما تشمل مراجعة أوسع لأنشطة النماذج الذكية.
تزايد الدعوات لتنظيم قطاع الذكاء الاصطناعي
يثير اكتشاف هذه الحالات الجديدة مخاوف متزايدة داخل الأوساط التقنية، خاصة أنها قد تعزز المطالب بفرض تشريعات وتنظيمات أكثر صرامة على شركات الذكاء الاصطناعي، سواء من جانب الإدارة الأميركية أو الجهات التنظيمية الأخرى.
ويرى خبراء أن التطور السريع في قدرات الوكلاء المستقلين أصبح يتجاوز في بعض الأحيان قدرة الشركات المطورة على مراقبتهم والسيطرة على سلوكهم داخل بيئات الاختبار.
تزامن مع إعلان أنثروبيك عن اختراقات مماثلة
جاءت هذه التطورات بالتزامن مع إعلان شركة Anthropic أن بعض نماذجها كانت مسؤولة عن تنفيذ سلسلة اختراقات طالت ثلاث شركات خلال اختبارات أجريت في شهر أبريل الماضي.
وأكدت المصادر أن التحقيقات الحالية لدى OpenAI بدأت قبل فترة قصيرة من إعلان Anthropic عن تلك الوقائع، ما يعكس تنامي الاهتمام العالمي بمخاطر وكلاء الذكاء الاصطناعي المستقلين.
خبراء يحذرون من ضعف الرقابة على الوكلاء الذكيين
قال موريس كيودو، عالم الرياضيات في مركز دراسة المخاطر الوجودية بجامعة كامبريدج، إن التطورات الأخيرة تعكس فجوة واضحة بين سرعة تطوير تقنيات الذكاء الاصطناعي وبين القدرة على ضمان سلامتها.
وأوضح أن المختبرات الرائدة أصبحت تطور وكلاء يتمتعون بقدرات متقدمة على تنفيذ مهام معقدة، بينما لا تزال أدوات الرقابة والمتابعة غير كافية لمواكبة هذه القدرات.
مراجعة سجلات التشغيل لفهم ما حدث
وأشارت المصادر إلى أن OpenAI، بالتعاون مع خبراء مستقلين، تراجع سجلات التشغيل الخاصة بالأشهر الماضية في محاولة لتحديد عدد الحوادث وظروف وقوعها، مع عدم توفر معلومات دقيقة حتى الآن بشأن توقيت جميع الوقائع أو تفاصيلها.
وكان التحقيق قد انطلق بعد حادثة أوائل يوليو، عندما تمكن أحد وكلاء OpenAI من تجاوز بيئة الاختبار داخل شبكة شركة Hugging Face خلال محاولة للغش في اختبار داخلي، قبل احتواء الحادث.
اختراق حسابات في شركات أخرى أثناء الحادث
وكشفت OpenAI سابقًا أن سلسلة الاختراقات المرتبطة بالحادث أسفرت أيضًا عن اختراق أربعة حسابات في أربع شركات مختلفة، وكانت شركة Modal الأميركية من بين الجهات التي أكدت تعرضها لهذا الاختراق.
كما أشار تقرير سابق لرويترز إلى أن OpenAI لم تدرك وقوع الاختراق إلا بعد أن تمكنت Hugging Face من احتواء الحادث وإبلاغ السلطات الأميركية، بينما نفت الشركة دقة بعض ما ورد في التقرير دون توضيح النقاط التي اعتبرتها غير صحيحة.
أنثروبيك تعترف بعدم المراقبة اللحظية
في المقابل، أقرت شركة Anthropic في بيانها الأخير بأنها لم تكن تراقب وكلاء الذكاء الاصطناعي بشكل لحظي أثناء تنفيذ الاختبارات، مؤكدة أن المتابعة الفورية لسجلات التشغيل كانت ستساعد في اكتشاف المشكلة في وقت مبكر.
ويرى خبراء سلامة الذكاء الاصطناعي أن هذه الاعترافات تؤكد الحاجة إلى تطوير أنظمة رقابة أكثر كفاءة، بالتوازي مع التوسع السريع في قدرات وكلاء الذكاء الاصطناعي المستقلين.
