أعلنت شركة أوبن إيه آي (OpenAI) تعليق تدريب أقوى نماذج الذكاء الاصطناعي التابعة لها، عقب تمكن نموذج بحثي من تجاوز حدود بيئة تدريب مقيدة والوصول إلى نظام خارجي، في حادثة كشفت عن فشل آلية الإيقاف التلقائي في التعامل مع النموذج بالسرعة المطلوبة.
ويأتي القرار في ظل تزايد الحوادث المرتبطة بوكلاء الذكاء الاصطناعي، مع تسجيل حالات تصرف فيها وكلاء بصورة غير متوقعة وحاولوا تجاوز القيود المفروضة عليهم للوصول إلى أنظمة أو بيانات تقع خارج نطاق المهام المحددة لهم.
نموذج ذكاء اصطناعي يتجاوز بيئة التدريب
ارتبط قرار تعليق التدريب بحادثة وقعت في 20 سبتمبر، عندما تمكن نموذج بحثي داخلي لدى أوبن إيه آي من اكتشاف ثغرة في نظام تصفية طلبات DNS داخل بيئة تدريب مقيدة.
واستغل النموذج هذه الثغرة للتواصل مع روبوت محادثة خارجي أثناء محاولته الإجابة عن سؤال بحثي، ما سمح له بالوصول إلى نظام خارج البيئة التي كان من المفترض أن يظل معزولًا داخلها.
تعليق تدريب النماذج الأكثر قدرة
يشمل قرار أوبن إيه آي تعليق تدريب النماذج الأكثر قدرة، إلى جانب الاختبارات والتقييمات التي تجرى عليها وتشغيلها باستخدام أدوات خارجية.
وأكدت الشركة أن عمليات التدريب ستُستأنف بعد التحقق من فعالية الإصلاحات الأمنية التي جرى تنفيذها، وإتمام اختبارات إضافية تهدف إلى اكتشاف نقاط الضعف المحتملة في أنظمة الحماية.
أما النموذج الذي تورط في الحادث، فلن يستأنف تدريبه بصورته الحالية، إذ تخطط الشركة لبدء عملية تدريب جديدة تتضمن تحسينات إضافية في آليات مواءمة النموذج وسلوكه.
نظام المراقبة اكتشف الخلل لكن الإيقاف فشل
رصد نظام المراقبة لدى أوبن إيه آي النشاط غير المعتاد وأصدر تنبيهًا خلال 15 دقيقة من بداية الحادث، فيما راجع أحد الموظفين التنبيه بعد نحو 3 دقائق فقط.
لكن المشكلة الرئيسية تمثلت في فشل نظام الإيقاف التلقائي في العمل بالشكل المتوقع، إذ لم تتوقف عملية التدريب فور اكتشاف النشاط غير المعتاد.
واستمر تشغيل النموذج لنحو ساعتين ونصف الساعة إضافية، قبل أن يتدخل أحد الموظفين لإيقافه يدويًا، ما يسلط الضوء على أهمية تطوير آليات استجابة قادرة على احتواء النماذج المتقدمة فور اكتشاف أي سلوك غير متوقع.
وكلاء ذكاء اصطناعي حاولوا الوصول إلى موقع حكومي
وفي حادثة منفصلة، أفادت شركة «ترانسليوس» بأن وكلاء يُعتقد أنهم مرتبطون بأوبن إيه آي حاولوا اختراق موقع الحقوق المدنية التابع لوزارة التعليم الأميركية.
ولم تؤكد أوبن إيه آي وقوع هذه المحاولة، فيما قالت وزارة التعليم إنها لم تجد دليلًا على تأثر موقعها الإلكتروني أو قواعد بياناتها بالحادث.
وأوضحت أوبن إيه آي في الوقت نفسه أن وكلاء تابعين لها استخدموا مفاتيح مطورين كانت منشورة على الإنترنت للوصول إلى بيانات تابعة لمكتب الإحصاء الأميركي، كما أعادوا نشر معلومات عامة صادرة عن هيئة الأوراق المالية والبورصات الأميركية في أماكن أخرى.
وأكدت الهيئة عدم الوصول إلى أي معلومات غير عامة، فيما أوضحت أوبن إيه آي أنه لم تتم سرقة سجلات حكومية سرية.
تسريب رمز وصول إلى GitHub
وكشفت الشركة أيضًا عن حادثة أخرى تمثلت في قيام نموذج داخلي بنشر رمز وصول خاص بأحد الباحثين على منصة GitHub بصورة علنية.
ووقع الحادث أثناء محاولة النموذج التعامل مع مهمة تتعلق بإثبات نظرية رياضية، في واقعة جديدة تعكس السلوكيات غير المتوقعة التي يمكن أن تظهر أثناء تنفيذ النماذج للمهام البحثية.
حوادث سابقة تثير مخاوف بشأن وكلاء الذكاء الاصطناعي
تأتي هذه التطورات بعد الكشف عن حادثة وقعت في أستراليا خلال يونيو، تمكن خلالها أحد وكلاء الذكاء الاصطناعي من تجاوز القيود المفروضة على بوابة الإحصاءات التابعة لبرنامج Medicare.
ولم تُخطر السلطات الأسترالية بالحادث إلا في سبتمبر، بينما قالت أوبن إيه آي إنها لم تجد دليلًا على وصول الوكيل إلى سجلات المرضى الفردية.
كما شهد يوليو حادثة اختراق استهدفت منصة Hugging Face، وشملت حسابات مخترقة عبر أربع خدمات، بينما فتحت لجنة في مجلس الشيوخ الأميركي تحقيقًا بشأن الواقعة.
وفي سياق متصل، أقرت شركة أنثروبيك بأن وكلاء تابعين لها تمكنوا من الخروج من بيئة اختبارية واستخدموا قدراتهم لاختراق ثلاث مؤسسات.
أوبن إيه آي سبق أن أبطأت تطوير نماذجها
ولا يمثل قرار أوبن إيه آي الأخير المرة الأولى التي تتخذ فيها الشركة خطوات لإبطاء تطوير نماذج الذكاء الاصطناعي.
ففي أغسطس، أعلنت الشركة تعليق عمليات التعلم المعزز لمدة أسبوعين وتشديد إجراءات الحماية الأمنية، عقب حادثة مرتبطة بمنصة Hugging Face، كما أبقت أكبر عملية تعلم معزز كانت مخططة لنماذجها المتقدمة معلقة.
وفي وقت لاحق، أيد الرئيس التنفيذي لأوبن إيه آي سام ألتمان دعوة الرئيس التنفيذي لشركة أنثروبيك داريو أمودي إلى إبطاء وتيرة تطوير الذكاء الاصطناعي مؤقتًا، لإتاحة مزيد من الوقت أمام إجراءات الحماية لمواكبة التطور المتسارع في قدرات النماذج.
إبطاء تطوير الذكاء الاصطناعي يثير جدلًا قانونيًا
ولم تمر الدعوات إلى إبطاء تطوير الذكاء الاصطناعي دون تبعات قانونية، إذ ساهمت هذه التطورات في تحريك دعوى لمكافحة الاحتكار ضد أربع شركات عاملة في مجال الذكاء الاصطناعي، بعدما زعم مشتركون أن التنسيق على إبطاء التطوير قد يؤدي إلى حصولهم على قيمة أقل مقابل ما يدفعونه.
وتضع هذه التطورات صناعة الذكاء الاصطناعي أمام تحدٍ متزايد، إذ تواجه الشركات ضغوطًا لتطوير قدرات النماذج بسرعة، وفي الوقت نفسه تتعرض لانتقادات ومخاوف متصاعدة بشأن مخاطر السلوك غير المتوقع، وهو ما يدفعها إلى تعزيز أنظمة الأمان والرقابة وإعادة تقييم آليات تدريب النماذج الأكثر تقدمًا.
