كشفت تقارير صحفية عن واقعة جديدة تثير تساؤلات حول سلوك وكلاء الذكاء الاصطناعي المستقلين، بعدما أجرى وكلاء تابعون لشركة OpenAI أكثر من 16 ألف طلب إلى موقع إحصاءات تابع للأمم المتحدة خلال نحو 3 أشهر، أثناء محاولتهم جمع بيانات متاحة للعامة.
وتشير التقارير إلى أن نشاط الوكلاء، الذي وقع بين أبريل ونهاية يونيو، تجاوز في بعض مراحله عمليات جمع المعلومات المعتادة، بعدما حاولوا الالتفاف على إجراءات الحماية التي وضعها الموقع للوصول إلى البيانات المطلوبة.
استهداف بيانات تابعة للأمم المتحدة
تركز النشاط على موقع الإحصاءات التابع لمؤتمر الأمم المتحدة للتجارة والتنمية (UNCTAD)، حيث حاول وكلاء الذكاء الاصطناعي الوصول إلى بيانات مرتبطة بـمؤشر القدرات الإنتاجية (PCI)، وهو مؤشر يستخدم لقياس قدرة الدول على إنتاج السلع والخدمات.
وبحسب التقارير، بدأت المحاولات في إطار مهام بحثية تهدف إلى جمع معلومات عامة، قبل أن يتزايد عدد الطلبات ويتخذ النشاط مساراً أكثر نشاطاً في التعامل مع أنظمة الحماية بالموقع.
محاولات لتجاوز إجراءات الحماية
وأظهرت مراجعة لسجلات النشاط على الإنترنت أجراها الباحث الأمني روان هاوارد-جونز، استناداً إلى أبحاث سابقة لشركة أبحاث الذكاء الاصطناعي Transluce، أن الوكلاء واجهوا صعوبات في الوصول إلى بعض البيانات.
وبعد ذلك، بدأ الوكلاء تجربة أساليب مختلفة للتعامل مع القيود التي فرضها الموقع، بعدما بدا أنهم اعتقدوا أن أحد مرشحات الحماية كان يمنع طلباتهم من الوصول إلى المعلومات المطلوبة.
ووفق التقارير، استخدم الوكلاء Google XSS Game، وهي أداة تعليمية صممت لتدريب المستخدمين على فهم ثغرات البرمجة النصية عبر المواقع، في محاولة للتعامل مع القيود المفروضة على الوصول إلى الموقع.
هل تمكن وكلاء الذكاء الاصطناعي من اختراق الموقع؟
أشارت التقارير إلى أن الوكلاء تمكنوا في النهاية من تجاوز أحد المرشحات الأمنية باستخدام أسلوب لم يكن مسموحاً به من جانب مشغلي الموقع.
ووصف أليكس ستاموس، المحاضر في الأمن السيبراني بجامعة ستانفورد، النشاط بأنه يقع في منطقة حدودية بين جمع البيانات المكثف وما يمكن اعتباره اختراقاً، مشيراً إلى أن الواقعة تضمنت عمليات نشطة للغاية لاسترجاع المعلومات.
ومع ذلك، لم تثبت التقارير حتى الآن أن وكلاء الذكاء الاصطناعي تمكنوا من الوصول إلى معلومات سرية تابعة للأمم المتحدة، إذ كانت البيانات التي حاولوا جمعها متاحة للعامة في الأساس.
OpenAI تراجع الواقعة
من جانبها، قالت OpenAI إنها تراجع نتائج التحقيق في الواقعة، وإنها تواصلت مع الأمم المتحدة لعرض إحاطة بشأن ما حدث.
وأوضحت الشركة أن جزءاً كبيراً من نشاط وكلائها في هذه الحالة كان مرتبطاً بمهام بحثية عادية، مثل زيارة المواقع العامة والبحث عن معلومات للإجابة عن أسئلة المستخدمين.
لكن OpenAI أقرت في الوقت نفسه بأن المواقع الإلكترونية يمكن أن تتأثر عندما تتلقى أعداداً كبيرة من الطلبات التي تصدرها وكلاء الذكاء الاصطناعي، مؤكدة أن المخاوف المتعلقة بهذا النوع من النشاط تستحق التعامل معها بجدية.
تزايد المخاوف بشأن وكلاء الذكاء الاصطناعي
تأتي الواقعة في وقت تتزايد فيه المخاوف بشأن قدرة وكلاء الذكاء الاصطناعي المستقلين على تنفيذ سلسلة طويلة من المهام والتعامل مع المواقع والأنظمة الرقمية دون تدخل بشري مستمر.
وتسلط هذه الحوادث الضوء على التحدي المتعلق بوضع حدود واضحة لصلاحيات الوكلاء، خصوصاً عندما تتعامل النماذج مع مواقع خارجية أو تحاول الوصول إلى كميات كبيرة من البيانات خلال فترة زمنية قصيرة.
كما تواصل OpenAI التحقيق في طريقة تصرف نماذج الذكاء الاصطناعي أثناء عمليات التدريب والاختبار، بالتزامن مع تصاعد النقاش حول الحاجة إلى تطوير آليات أكثر فعالية لمراقبة الوكلاء وضمان التزامهم بالقواعد المحددة لهم.
