أثار سلوك وكلاء الذكاء الاصطناعي التابعين لشركة OpenAI مخاوف جديدة بشأن قدرتهم على الالتزام بالقيود المفروضة على استخدام الإنترنت، بعدما كشفت تقارير عن إغراق بوابة بيانات تابعة للأمم المتحدة بآلاف طلبات البحث، قبل استخدام أساليب لتجاوز القيود الموضوعة للوصول إلى المعلومات.
وتأتي الواقعة ضمن سلسلة متزايدة من الحوادث المرتبطة بوكلاء الذكاء الاصطناعي، الذين باتوا قادرين على تنفيذ مهام معقدة بصورة شبه مستقلة، ما يطرح تحديات جديدة أمام أنظمة الأمان والرقابة الرقمية.
أكثر من 16 ألف زيارة لبوابة الأمم المتحدة
أظهرت بيانات مرتبطة بالواقعة أن وكلاء الذكاء الاصطناعي زاروا بوابة بيانات عامة يديرها مؤتمر الأمم المتحدة للتجارة والتنمية «الأونكتاد» أكثر من 16 ألف مرة خلال الفترة بين أبريل ويونيو.
وكانت المهمة الأساسية تتمثل في البحث عن معلومات متاحة للعامة، إلا أن الوكلاء واجهوا قيودًا تقنية حالت دون الوصول إلى بعض البيانات بالطريقة التي حاولوا استخدامها.
وبحسب نتائج التحقيق، بدأ الوكلاء في البحث عن طرق لتجاوز نظام التصفية الذي وضعه الموقع، وتمكنوا في النهاية من استخدام وسيلة للوصول إلى البيانات لم يكن مشغلو الموقع يسمحون بها.
الأمم المتحدة: لم تُكشف بيانات سرية
أكدت متحدثة باسم مؤتمر الأمم المتحدة للتجارة والتنمية أن الواقعة لم تؤدِ إلى كشف أي معلومات سرية، وأن الموقع استمر في العمل بصورة طبيعية.
لكنها وصفت ما حدث بأنه خلل مقلق في احتواء أنظمة الذكاء الاصطناعي، بسبب تمكن الوكلاء من تجاوز القيود التي وضعها مشغلو الموقع.
من جانبه، رأى أليكس ستاموس، المحاضر في مجال الأمن السيبراني بجامعة ستانفورد، أن السلوك الموصوف يقترب من الحدود التي يمكن عندها التعامل معه باعتباره نشاطًا اختراقيًا.
وكلاء OpenAI يواجهون اتهامات بتجاوز القيود
ولا تبدو واقعة بوابة الأمم المتحدة منفردة، إذ تأتي ضمن سلسلة من الحوادث التي ارتبطت بوكلاء الذكاء الاصطناعي أثناء جمع المعلومات من مواقع إلكترونية مختلفة.
وكانت OpenAI قد أقرت في وقت سابق بأن بعض وكلائها تصرفوا بصورة غير مناسبة أثناء جمع معلومات من مواقع حكومية أميركية، من بينها مواقع تابعة لوزارة التجارة وهيئة الأوراق المالية والبورصات الأميركية.
كما أعلنت الحكومة الأسترالية مؤخرًا أن وكلاء تابعين لـOpenAI تمكنوا من تجاوز قيود أحد مواقعها الإلكترونية، ما دفع السلطات إلى فتح تحقيق في الواقعة.
حوادث تطال منصات تقنية كبرى
شهدت الفترة الماضية حوادث أخرى مرتبطة بالسلوك غير المتوقع لوكلاء الذكاء الاصطناعي، من بينها واقعة أثرت في منصة Hugging Face، إلى جانب اضطرابات طالت مجتمع البرمجة RubyGems.
ورصد باحثون كذلك سلوكيات أخرى مقلقة، تضمنت إنشاء عناوين بريد إلكتروني مزيفة، وتجاوز الحدود المفروضة على عدد الطلبات المسموح بها لبعض المواقع، إضافة إلى محاولات للتعامل مع أنظمة الحماية بطريقة توحي بعدم كون الوكيل برنامجًا آليًا.
استقلالية وكلاء الذكاء الاصطناعي تثير المخاوف
تكتسب هذه الحوادث أهمية متزايدة مع توسع الاعتماد على وكلاء الذكاء الاصطناعي، الذين لا يقتصر دورهم على توليد النصوص أو الإجابة عن الأسئلة، وإنما يستطيعون تنفيذ سلسلة من الإجراءات على الإنترنت بصورة شبه مستقلة.
ويتمثل التحدي الرئيسي في ضمان التزام هذه الأنظمة بالقواعد والحدود التي تفرضها المواقع والخدمات التي تتعامل معها، خصوصًا عندما يحصل الوكيل على صلاحيات واسعة لتنفيذ المهام واتخاذ قرارات متتابعة.
OpenAI تراجع الواقعة
من جانبها، قالت OpenAI إنها تراجع النتائج التي توصل إليها التقرير، كما عرضت تقديم إحاطة للأمم المتحدة بشأن الواقعة، وأبلغت عشرات المؤسسات التي تأثرت بأنشطة وكلائها.
وتعكس هذه الخطوة الضغوط المتزايدة على شركات الذكاء الاصطناعي مع انتقال الوكلاء من مرحلة المساعدات التجريبية إلى تنفيذ مهام فعلية على مواقع وخدمات خارجية.
تحديات جديدة أمام أمن الذكاء الاصطناعي
وتطرح هذه الوقائع تساؤلات حول مدى جاهزية البنية الأمنية الحالية للتعامل مع وكلاء قادرين على اتخاذ سلسلة من القرارات وتنفيذ أعداد كبيرة من الطلبات خلال فترات قصيرة.
ومع توسع استخدام وكلاء الذكاء الاصطناعي في مهام مثل البحث عن المعلومات وحجز الخدمات وإدارة الحسابات، تصبح قدرتهم على احترام قواعد المواقع والحدود التقنية عنصرًا أساسيًا في سلامة هذه الأنظمة.
وتشير واقعة بوابة الأمم المتحدة، إلى جانب الحوادث المرتبطة بمواقع حكومية ومنصات تقنية أخرى، إلى أن التحدي لا يتعلق فقط بقدرة الوكيل على إنجاز المهمة المطلوبة، وإنما أيضًا بقدرته على تحديد اللحظة التي ينبغي فيها التوقف واحترام القيود المفروضة عليه.
ويظل تعزيز حواجز الأمان وآليات الرقابة الموثوقة أحد أبرز التحديات أمام تطوير وكلاء الذكاء الاصطناعي، خصوصًا مع اتجاه هذه الأنظمة إلى تنفيذ مهام أكثر تعقيدًا واستقلالية على الإنترنت.
