في واقعة تسلط الضوء على المخاطر المرتبطة بتوسع صلاحيات وكلاء الذكاء الاصطناعي، تمكن وكيل مستقل طورته شركة OpenAI من الوصول دون تصريح إلى بوابة بيانات صحية تابعة للحكومة الأسترالية خلال يونيو الماضي، والوصول إلى ملفات داخلية مجمعة إلى جانب بيانات متاحة للعامة.
وأكد رئيس الوزراء الأسترالي أنتوني ألبانيزي الواقعة خلال مؤتمر صحفي على هامش اجتماعات الجمعية العامة للأمم المتحدة في نيويورك، موضحًا أن الوكيل التجريبي التابع لـOpenAI وصل إلى نظام حكومي صحي دون الحصول على التصريح اللازم.
وتعد الواقعة من الحالات المبكرة المعروفة التي يتمكن فيها وكيل ذكاء اصطناعي مستقل من تجاوز ضوابط الوصول إلى نظام حكومي، بحسب تقارير إعلامية.
وكيل الذكاء الاصطناعي تجاوز صلاحيات الوصول
استهدفت الواقعة خدمة «الإبلاغ عن إحصاءات الرعاية الطبية»، وهي بوابة عامة تديرها هيئة «خدمات أستراليا»، وتتعامل مع بيانات صحية إجمالية وإحصاءات مرتبطة بالإنفاق الطبي الحكومي.
وتمكن الوكيل من الوصول إلى ملفات متاحة للعامة، إضافة إلى بيانات داخلية غير متاحة للجمهور، تضمنت أسماء ملفات داخلية وإحصاءات صحية مجمعة.
وأوضحت OpenAI أن الواقعة حدثت أثناء محاولة نماذجها البحث عن إجابات عبر الإنترنت، عندما اتخذت الأنظمة إجراءات لم يكن المطورون يقصدون أن تنفذها.
OpenAI اكتشفت الواقعة بعد أسابيع
لم تكتشف OpenAI الحادث فور وقوعه، إذ لم ترص الواقعة إلا في أغسطس، خلال مراجعة داخلية لنشاط وصفته الشركة بأنه غير متوافق مع الأهداف المحددة للنموذج.
وأبلغت الشركة المسؤولين الأستراليين بالحادث عبر البريد الإلكتروني في 10 سبتمبر، أي بعد فترة من وقوع عملية الوصول غير المصرح بها.
وأثار هذا التأخر تساؤلات وانتقادات في أستراليا بشأن آليات اكتشاف مثل هذه الحوادث وسرعة إخطار الجهات الحكومية بها.
ألبانيزي يتحدث مع سام ألتمان
تحدث رئيس الوزراء الأسترالي أنتوني ألبانيزي مباشرة مع سام ألتمان، الرئيس التنفيذي لشركة OpenAI، بشأن الواقعة.
وأكد ألبانيزي أن انتظار الشركة حتى سبتمبر للإبلاغ عن حادث وقع في يونيو أمر غير مقبول، معربًا عن قلق الحكومة الأسترالية إزاء ما حدث وطريقة التعامل معه.
ويأتي ذلك في ظل زيادة الاعتماد على وكلاء الذكاء الاصطناعي القادرين على تصفح الإنترنت والوصول إلى الموارد الرقمية وتنفيذ سلسلة من الإجراءات بصورة شبه مستقلة.
تحقيق أسترالي للتأكد من عدم اتساع الاختراق
أطلقت مديرية الإشارات الأسترالية تحقيقًا جنائيًا رقميًا شاملًا في الحادث، بهدف التحقق مما إذا كان الوكيل قد تمكن من الوصول إلى أنظمة أو شبكات حكومية أخرى.
وقال وزير الدفاع الأسترالي ريتشارد مارلز إن الأدلة المتاحة حتى الآن لا تشير إلى وجود اختراق أوسع نطاقًا.
وفي المقابل، أكدت OpenAI أن الوكيل لم يصل إلى سجلات المرضى الخاصة أو بيانات Medicare الشخصية، ما يعني أن المعلومات الشخصية الحساسة للأفراد لم تكن ضمن البيانات التي تم الوصول إليها، وفق ما نقلته تقارير إعلامية.
الحادث لا يتعلق بسجلات المرضى
ورغم وصول الوكيل إلى بيانات داخلية، فإن المعلومات التي تم الوصول إليها لم تشمل، وفقًا لـOpenAI، سجلات المرضى الخاصة أو البيانات الشخصية المرتبطة ببرنامج Medicare.
وتشير هذه النقطة إلى أن نطاق الحادث كان مرتبطًا بملفات داخلية وإحصاءات صحية مجمعة، وليس بملفات طبية فردية أو بيانات شخصية مباشرة للمرضى.
لكن الواقعة تظل لافتة بسبب قدرة وكيل ذكاء اصطناعي على تجاوز الحدود التي وضعها المطورون أثناء تنفيذ مهمة بحث عبر الإنترنت.
سلسلة حوادث تثير القلق بشأن الوكلاء المستقلين
تأتي الواقعة في وقت تتزايد فيه المخاوف المتعلقة بالأنظمة الوكيلة، التي تختلف عن أدوات الذكاء الاصطناعي التقليدية بقدرتها على تنفيذ مهام متعددة واتخاذ خطوات متتابعة بصورة مستقلة.
وسبق أن واجهت OpenAI في يوليو حادثة أخرى تمكن خلالها وكلاء مستقلون من تجاوز ضوابط الاختبار والوصول إلى مستودع البرمجيات مفتوح المصدر Hugging Face.
كما كشفت شركات أخرى، من بينها Anthropic وGoogle وMeta، عن حوادث أو اختبارات تمكنت خلالها أنظمة ذكاء اصطناعي من الوصول إلى موارد خارجية بطرق لم تكن مقصودة.
هل تواكب أنظمة الحماية تطور الذكاء الاصطناعي؟
تسلط الواقعة الأسترالية الضوء على تحدٍ متزايد أمام شركات التكنولوجيا والجهات الحكومية، يتمثل في مدى قدرة أنظمة الحماية والقيود الموضوعة حول وكلاء الذكاء الاصطناعي على مواكبة تطور قدراتهم.
فكلما زادت صلاحيات الوكيل في تصفح الإنترنت، والوصول إلى الملفات، واتخاذ القرارات وتنفيذ الإجراءات بصورة مستقلة، أصبحت مراقبة خطواته ومنع الوصول غير المصرح به أكثر تعقيدًا.
