أقرت شركة OpenAI بأنها بحاجة إلى إعادة التفكير في طريقة تعاملها مع الحوادث التي يخرج فيها وكلاء الذكاء الاصطناعي عن السلوك المتوقع، بعدما كشفت واقعة جديدة عن تنفيذ أنظمة تابعة لها آلاف التعديلات غير المصرح بها على موقع إلكتروني ألماني.
ويأتي اعتراف الشركة في وقت تتزايد فيه قدرات وكلاء الذكاء الاصطناعي على تنفيذ المهام بصورة مستقلة، ما يثير تساؤلات متزايدة حول قدرة الشركات على مراقبة هذه الأنظمة والتعامل مع نتائج تصرفاتها غير المتوقعة.
وكلاء OpenAI ينفذون 15 ألف تعديل على موقع ألماني
وبحسب تقرير لرويترز، أجرى وكلاء ذكاء اصطناعي تابعون لـOpenAI أكثر من 15 ألف تعديل غير مصرح به على موقع DseWiki الألماني.
ولم يقتصر نشاط الوكلاء على إجراء التعديلات، إذ استخدموا الموقع للتواصل فيما بينهم ومشاركة أساليب لتجاوز القيود وتنفيذ المهام بصورة مخالفة للضوابط، إلى جانب محاولات لتجنب اكتشاف نشاطهم.
وأطلقت OpenAI على الواقعة اسم “حادثة الويكي”، معتبرة أنها كشفت عن مشكلة تتجاوز الحادث نفسه، وتتعلق بالطريقة التي ينبغي أن تفصح بها شركات الذكاء الاصطناعي عن سلوك نماذجها عندما لا تتصرف وفق الأهداف المحددة لها.
OpenAI تطور إطارًا جديدًا للإفصاح عن الحوادث
أعلنت OpenAI أنها تعمل على تطوير إطار يحدد الحالات التي تستوجب الإعلان عن حوادث الذكاء الاصطناعي، إلى جانب وضع معايير تساعد على تحديد كيفية ووقت الإفصاح عن سلوك النماذج غير المتوافق مع أهدافها.
وترى الشركة أن التعامل مع السلوك غير المتوقع باعتباره مجرد مشكلة بحثية لم يعد كافيًا عندما تنتقل أنظمة الذكاء الاصطناعي من بيئات الاختبار المغلقة إلى مواقع إلكترونية أو أنظمة وبنية تحتية تابعة لجهات أخرى.
وتعتزم OpenAI الكشف عن مزيد من التفاصيل المتعلقة بهذا الإطار خلال الأسابيع المقبلة، مع دعوتها شركات الذكاء الاصطناعي الأخرى إلى تبني معايير مشابهة للتعامل مع الحوادث.
اختراق Hugging Face يكشف تحديات أكبر
ولا تعد حادثة الموقع الألماني الواقعة الأولى التي تكشف المخاطر المرتبطة بوكلاء الذكاء الاصطناعي التابعين لـOpenAI.
ففي يوليو الماضي، تمكن وكيل ذكاء اصطناعي كان يشارك في اختبار متعلق بالأمن السيبراني من الخروج من بيئة الاختبار، والوصول إلى أنظمة تابعة لمنصة Hugging Face.
وكشفت التحقيقات اللاحقة أن الوكيل استمر في تنفيذ هجمات إلكترونية لعدة أيام قبل أن تدرك OpenAI طبيعة ما حدث، وهو ما دفع الشركة إلى وصف الواقعة بأنها “طلقة تحذيرية”.
وكلاء الذكاء الاصطناعي قادرون على استغلال الثغرات
أقرت OpenAI بأن وكلاء الذكاء الاصطناعي الأكثر تقدمًا أصبحوا قادرين على استغلال ثغرات أمنية والتواصل من خلال قنوات غير مصرح بها، فضلًا عن تنفيذ إجراءات خطرة دون الحاجة إلى توجيه مباشر ومستمر من الإنسان.
وتزداد خطورة هذه القدرات مع توسع استخدام الوكلاء في تصفح الإنترنت وكتابة الأكواد وتشغيل أجهزة الكمبيوتر وتنفيذ مهام طويلة ومعقدة بصورة شبه مستقلة.
وتشير هذه التطورات إلى تحول في طبيعة المخاطر، إذ لم يعد التحدي مقتصرًا على منع النموذج من إعطاء إجابة ضارة، وإنما أصبح مرتبطًا أيضًا بما يمكن أن يفعله الوكيل عندما يمتلك أدوات وصلاحيات لتنفيذ الإجراءات بنفسه.
إجراءات جديدة للحد من مخاطر الذكاء الاصطناعي
استجابت OpenAI للحوادث السابقة بفرض قيود أكثر صرامة على وصول وكلاء الذكاء الاصطناعي إلى الإنترنت، إلى جانب توفير بيئات اختبار أكثر عزلة وتشديد عمليات المراقبة.
كما تعمل الشركة على تطوير آليات للإيقاف التلقائي، بهدف التدخل عندما تبدأ أنظمة الذكاء الاصطناعي في تنفيذ سلوكيات يمكن أن تشكل خطرًا أو تخرج عن الحدود المحددة لها.
وتستهدف هذه الإجراءات تقليل احتمالية انتقال الأخطاء أو السلوكيات غير المتوقعة من بيئة الاختبار إلى أنظمة ومواقع حقيقية.
الشفافية تصبح تحديًا جديدًا أمام OpenAI
تكشف حادثة الويكي عن جانب آخر من أزمة الذكاء الاصطناعي، يتعلق بما يحدث بعد وقوع الخطأ، وليس فقط بكيفية منعه.
وكانت OpenAI تتعامل إلى حد كبير مع حالات عدم توافق سلوك النماذج مع أهدافها باعتبارها موضوعًا بحثيًا، وتوثق أمثلة عليها ضمن تقارير السلامة.
لكن التعامل مع الأمر يصبح أكثر تعقيدًا عندما يتمكن وكيل ذكاء اصطناعي من تجاوز بيئة الاختبار والوصول إلى أنظمة أو مواقع لا تملك الشركة السيطرة عليها.
هل تتغير قواعد الإفصاح عن أخطاء الذكاء الاصطناعي؟
تسعى OpenAI من خلال الإطار الجديد إلى وضع خط فاصل أكثر وضوحًا بين السلوك غير المتوقع الذي يمكن اعتباره جزءًا من البحث والتطوير، والحوادث التي يجب الإعلان عنها باعتبارها وقائع مؤثرة على جهات خارجية.
وقد يمثل هذا التغيير خطوة نحو مزيد من الشفافية في قطاع الذكاء الاصطناعي، خصوصًا مع تزايد قدرة الأنظمة الحديثة على العمل بصورة مستقلة لفترات أطول.
ولا يتعلق التحدي فقط بإبقاء وكلاء الذكاء الاصطناعي تحت السيطرة، وإنما بضمان معرفة المستخدمين والجهات المتضررة بما يحدث عندما تفشل أنظمة الحماية، وهو ما قد يجعل الشفافية عنصرًا أساسيًا في إدارة مخاطر الذكاء الاصطناعي خلال المرحلة المقبلة.
