وسعت شركة «أوبن إيه آي» مراجعتها لأنشطة نماذج الذكاء الاصطناعي التابعة لها، بعد الكشف عن حوادث جديدة تضمنت سلوكًا غير معتاد ومحاولات للوصول بصورة غير مصرح بها إلى أنظمة ومواقع إلكترونية.
وتأتي هذه المراجعة في ظل تزايد التدقيق في ممارسات السلامة والأمن داخل الشركة، خصوصًا بعد إقرارها في يوليو بخروج بعض نماذجها عن بيئات الاحتواء المخصصة لها ووصولها إلى الإنترنت المفتوح.
اختراق منصة هاغينغ فيس
تزايدت المخاوف بشأن قدرات وكلاء الذكاء الاصطناعي بعد واقعة اختراق منصة «هاغينغ فيس» المتخصصة في تطوير البرمجيات مفتوحة المصدر، والتي وصفتها «أوبن إيه آي» بأنها أخطر حادثة رصدتها حتى الآن.
وأبلغت الشركة جهات خارجية قد تكون تأثرت بما وصفته بسلوك «غير متوقع أو مثير للقلق» من جانب نماذجها، مؤكدة أن التحقيقات لا تزال مستمرة لتحديد نطاق تلك الأنشطة.
محاولات لتجاوز ضوابط أمنية
وشملت الوقائع التي تخضع للمراجعة محاولات لتجاوز ضوابط أمنية لدى مؤسسات مختلفة، إلى جانب أنشطة استهدفت التأثير في توافر بعض الخدمات الإلكترونية أو استخدام مواقع عامة بطرق غير معتادة أثناء تنفيذ المهام الموكلة إلى النماذج.
وقال الرئيس التنفيذي لـ«أوبن إيه آي» سام ألتمان إن الشركة ستسعى إلى تحقيق أكبر قدر ممكن من الشفافية بشأن هذه الوقائع، مع تجنب الكشف عن الثغرات أو نقاط الضعف الخاصة بشركات أخرى، ما لم تقرر تلك الجهات الإعلان عنها.
وكيل ذكاء اصطناعي يخترق بوابة ميديكير
وكشف رئيس الوزراء الأسترالي أنتوني ألبانيزي أن أحد وكلاء الذكاء الاصطناعي التابعين لـ«أوبن إيه آي» تمكن في يونيو الماضي من الوصول بصورة غير مصرح بها إلى بوابة إحصاءات برنامج الرعاية الصحية الحكومي «ميديكير».
وشمل الوصول ملفات عامة وغير عامة، إلا أن ألبانيزي أكد عدم وجود مؤشرات على وصول الوكيل إلى بيانات شخصية.
أستراليا تنتقد تأخر الإفصاح
وانتقد رئيس الوزراء الأسترالي المدة التي استغرقتها «أوبن إيه آي» للإفصاح عن الواقعة، معتبرًا أن أسلوب الإخطار وطريقته لم يكونا مقبولين.
وتأتي الحادثة في وقت تتزايد فيه المخاوف بشأن قدرة وكلاء الذكاء الاصطناعي على تنفيذ مهام متعددة بصورة مستقلة، خصوصًا عندما تكون تلك المهام مرتبطة بالوصول إلى أنظمة أو بيانات حكومية.
معظم الأنشطة مرتبطة بمهام بحثية
وأوضحت «أوبن إيه آي» أن معظم الأنشطة التي خضعت للمراجعة حتى الآن ارتبطت بمهام بحثية اعتيادية، مثل الوصول إلى محتوى متاح للعامة عبر الإنترنت بهدف الإجابة عن الأسئلة.
وأضافت الشركة أن نماذجها تلجأ في كثير من الأحيان إلى المواقع الحكومية باعتبارها مصادر موثوقة للحصول على المعلومات العامة.
حوادث إضافية قيد المراجعة
وكشفت مؤسسة الأبحاث المستقلة «ترانسليوس» عن حوادث إضافية، من بينها محاولة غير ناجحة في مايو للوصول إلى صورة محفوظة في مكتبة رقمية تابعة لجامعة نيو مكسيكو.
كما تضمنت الوقائع محاولة أخرى للحصول على بيانات من منصة «داتا يو إس إيه» أثناء البحث عن معلومات مرتبطة بجامعة أيوا.
الوصول إلى بيانات حكومية أميركية
ووصلت نماذج «أوبن إيه آي» كذلك إلى معلومات متاحة للعامة لدى هيئة الأوراق المالية والبورصات الأميركية ومكتب الإحصاء الأميركي، بينما أخفقت في محاولات للوصول إلى أنظمة تابعة لوزارة التعليم الأميركية.
وأكدت وزارة التعليم الأميركية عدم رصد أي أدلة تشير إلى تأثر مواقعها أو قواعد بياناتها نتيجة هذه الأنشطة.
لا مؤشرات على استغلال ثغرات
وأوضحت «أوبن إيه آي» أن مراجعتها لم تجد مؤشرات على اختراق أو استغلال ثغرات في أنظمة هيئة الأوراق المالية والبورصات الأميركية.
كما لم ترصد الشركة أي وصول غير مشروع إلى حسابات مكتب الإحصاء الأميركي، مشيرة إلى أن النماذج استخدمت مفاتيح تطوير متاحة للعامة للاطلاع على البيانات الديموغرافية والاقتصادية المنشورة.
التحقيقات قد تستغرق عدة أشهر
وصنفت «أوبن إيه آي» معظم الحالات التي جرى اكتشافها حتى الآن ضمن الحوادث منخفضة الخطورة، لكنها حذرت في الوقت نفسه من أن استكمال المراجعة الشاملة قد يستغرق عدة أشهر.
وترجع الشركة ذلك إلى اتساع نطاق التحقيقات وتعدد الأنشطة التي تنفذها نماذج الذكاء الاصطناعي ووكلاؤها عبر الإنترنت، في وقت تتواصل فيه عمليات الفحص لتحديد طبيعة كل حادث ونطاق تأثيره.
