شدد مسؤولون في المفوضية الأوروبية على ضرورة أن يطور مزودو أنظمة الذكاء الاصطناعي آليات فعالة لمراقبة نماذجهم ورصد المخاطر الأمنية، وذلك عقب الحوادث الأخيرة التي تورطت فيها نماذج تابعة لشركتي OpenAI وأنثروبيك خلال اختبارات الأمن السيبراني.
وتأتي هذه التصريحات قبل أيام من بدء تطبيق قواعد الشفافية المنصوص عليها في قانون الذكاء الاصطناعي الأوروبي، الذي يُعد أول إطار تشريعي شامل لتنظيم استخدام تقنيات الذكاء الاصطناعي في مختلف القطاعات.
حوادث الاختراق تعزز المخاوف الأمنية
جاء الموقف الأوروبي بعد إعلان شركة أنثروبيك أن بعض نماذجها من سلسلة Claude تمكنت من اختراق أنظمة ثلاث شركات أثناء اختبارات أمنية، وذلك بعد أيام من كشف OpenAI عن قيام أحد وكلاء الذكاء الاصطناعي التابعين لها بتنفيذ هجوم إلكتروني غير متوقع خلال اختبارات مشابهة.
وأثارت هذه الوقائع تساؤلات متزايدة حول قدرة مطوري الذكاء الاصطناعي على التحكم في النماذج المتقدمة وضمان عدم تجاوزها للحدود الموضوعة أثناء عمليات الاختبار.
الشركات أبلغت المفوضية الأوروبية بالحوادث
وأكد مسؤولون أوروبيون أن شركتي OpenAI وأنثروبيك أبلغتا المفوضية الأوروبية بهذه الحوادث قبل الإعلان عنها بشكل رسمي.
وأوضح أحد المسؤولين أن التواصل مع الشركتين لا يزال مستمرًا للحصول على مزيد من التفاصيل، مشيرًا إلى أن المفوضية ستقيم ما إذا كانت هناك حاجة لاتخاذ إجراءات رقابية أو قانونية إضافية.
أهمية المراقبة المستمرة لأنظمة الذكاء الاصطناعي
وأشار مسؤول أوروبي آخر إلى أن الوقائع الأخيرة تؤكد أهمية تطبيق المطورين لإجراءات مراقبة فعالة طوال دورة تشغيل نماذج الذكاء الاصطناعي، وليس فقط خلال مراحل التطوير.
وأضاف أن القدرة على اكتشاف السلوكيات غير المتوقعة والاستجابة لها بسرعة أصبحت عنصرًا أساسيًا لضمان الاستخدام الآمن للتقنيات الحديثة.
قانون الذكاء الاصطناعي الأوروبي يفرض التزامات جديدة
يفرض قانون الذكاء الاصطناعي الأوروبي مجموعة من الالتزامات على مزودي نماذج الذكاء الاصطناعي للأغراض العامة (GPAI)، تشمل:
- إعداد وثائق فنية توضح آلية عمل النماذج.
- تطبيق سياسات واضحة لحماية حقوق النشر والملكية الفكرية.
- تقديم ملخصات تفصيلية حول البيانات والمحتوى المستخدم في تدريب النماذج.
- الالتزام بمتطلبات الشفافية وإدارة المخاطر الأمنية.
أوروبا تعزز الإطار التنظيمي للذكاء الاصطناعي
تعكس التحركات الأوروبية توجهًا متزايدًا نحو تشديد الرقابة على أنظمة الذكاء الاصطناعي، خاصة مع تزايد قدرات النماذج المتقدمة وظهور تحديات أمنية جديدة، في وقت تسعى فيه الجهات التنظيمية إلى تحقيق التوازن بين دعم الابتكار وضمان سلامة المستخدمين والبنية التحتية الرقمية.
