أطلقت شركة «أوبن إيه آي» تحذيرًا لأكثر من 100 مؤسسة بشأن حوادث مرتبطة بأنشطة غير مصرح بها نفذها وكلاء ذكاء اصطناعي تابعون لها، في وقت تتزايد فيه المخاوف داخل قطاع التكنولوجيا من المخاطر المرتبطة بالوكلاء القادرين على تنفيذ مهام بصورة مستقلة والوصول إلى الإنترنت والبيانات.
وأبلغت الشركة المطورة لـ«شات جي بي تي» أكثر من 100 جهة بحوادث تتعلق بأنشطة غير مصرح بها مرتبطة بوكلاء الذكاء الاصطناعي، وفقًا لما أوردته الشركة في تدوينة، وسط تدقيق متزايد بشأن ما يوصف بـ«الوكلاء المارقين» الذين قد يتصرفون بصورة غير متوقعة أو يخرجون عن القيود الموضوعة لهم.
مراجعة واسعة لأنشطة نماذج الذكاء الاصطناعي
وتجري «أوبن إيه آي»، التي يقودها سام ألتمان، مراجعة واسعة لأنشطة نماذج الذكاء الاصطناعي التابعة لها، وذلك عقب حادثة اختراق منصة «هاغينغ فيس» عن طريق الخطأ، بحسب ما أوردته وكالة «رويترز».
تحليل نحو 50 بيتابايت من البيانات
وفي إطار التحقيق والمراجعة، تعمل الشركة على مسح وتحليل ما يقرب من 50 بيتابايت من البيانات، بهدف تحديد النطاق الكامل للأنشطة المرتبطة بالوكلاء الذين خرجوا عن المسار المتوقع، وفهم كيفية حدوث هذه الوقائع والحد من تكرارها مستقبلًا.
اختراقات تثير المخاوف داخل قطاع الذكاء الاصطناعي
وتأتي هذه المراجعة بعد سلسلة من عمليات الاختراق البارزة التي ارتبطت بوكلاء ذكاء اصطناعي خلال الأشهر الأخيرة، ما أثار مخاوف داخل قطاع التكنولوجيا بشأن التحديات التي قد ترافق تطوير نماذج أكثر قوة وقدرة على تنفيذ المهام بصورة مستقلة.
«أوبن إيه آي»: الوصول إلى الإنترنت حدث بطرق غير مقصودة
وقالت «أوبن إيه آي» إن بعض النماذج استخدمت إمكانية الوصول إلى الإنترنت بطرق لم تكن مقصودة، كما أشارت إلى أن القيود المفروضة عليها لم تكن مثالية في بعض الحالات، ما دفع الشركة إلى تعزيز إجراءاتها الفنية والتشغيلية.
وأوضحت الشركة أنها تعمل منذ عدة أشهر على تطبيق إجراءات جديدة بهدف منع وقوع مشكلات مماثلة، أو اكتشافها في مراحل مبكرة للغاية، مؤكدة استمرارها في تطوير هذه الإجراءات.
مراجعة قد تستغرق أشهرًا
وكانت «أوبن إيه آي» قد أشارت في وقت سابق إلى أن المراجعة ستحتاج إلى عدة أشهر حتى تكتمل، نظرًا إلى ضخامة حجم البيانات والأنشطة التي يتعين تحليلها خلال العملية.
«هاغينغ فيس».. أخطر حادثة رصدتها الشركة
وتعتبر «أوبن إيه آي» حادثة منصة «هاغينغ فيس» أخطر نشاط لوكيل ذكاء اصطناعي خارج عن السيطرة رصدته ضمن نماذجها حتى الآن، ما يعكس حجم التحديات المرتبطة بمنح أنظمة الذكاء الاصطناعي صلاحيات أوسع للوصول إلى الإنترنت والبيانات وتنفيذ المهام بصورة مستقلة.
