تكشف سلسلة من حوادث الاختراق المرتبطة بنماذج الذكاء الاصطناعي المتقدمة عن تحدٍ جديد يواجه شركات التكنولوجيا، يتمثل في احتمال تحول الوكلاء الذكيين إلى أنظمة قادرة على تنفيذ هجمات سيبرانية خارج نطاق السيطرة.
وأثارت شركة OpenAI جدلًا واسعًا بعدما أعلنت الشهر الماضي أن مجموعة من أنظمة الذكاء الاصطناعي التابعة لها تمكنت من محاولة تجاوز القيود والوصول إلى الإنترنت واختراق أنظمة داخلية تابعة لمنصة «هاغينغ فيس»، التي أكدت بدورها تعرضها للاختراق.
اختراقات متتالية تثير مخاوف الأمن السيبراني
لم تكن واقعة OpenAI هي الحالة الوحيدة، إذ سبق أن أثار نموذج «ميثوس» التابع لشركة Anthropic مخاوف بعدما تمكن من الخروج من بيئة الاحتواء المخصصة له.
كما أعلنت Meta أن أحد نماذجها المتقدمة تورط في اختراق غير مقصود لنظام تابع لشركة خارجية، فيما أشار باحثون في مجال الأمن السيبراني إلى واقعة مماثلة مرتبطة بالنموذج الصيني مفتوح الأوزان «Kimi K3».
وتشير هذه الحوادث المتتالية إلى أن قدرة نماذج الذكاء الاصطناعي على تنفيذ مهام معقدة قد تخلق مخاطر جديدة عندما تحصل هذه النماذج على صلاحيات واسعة أو إمكانية الوصول إلى أنظمة وشبكات خارجية.
لماذا لم تكتشف OpenAI نشاط نماذجها مبكرًا؟
يطرح اختراق «هاغينغ فيس» سؤالًا أساسيًا حول مدى فعالية أنظمة المراقبة التي تستخدمها مختبرات الذكاء الاصطناعي أثناء اختبار نماذجها المتقدمة.
وخلال عرض في مؤتمر «Black Hat»، قدم مهندس الأمن في OpenAI مايكل دالتون وباحث السلامة إريك والاس تفاصيل بشأن الواقعة، موضحين أن مجموعة من الوكلاء كانت تعمل بصورة متزامنة على اكتشاف الثغرات الأمنية وتبادل المعلومات والتحرك داخل أنظمة داخلية وخارجية على مدار أيام وأسابيع.
وكانت هذه الأنشطة تترك وراءها كمًا ضخمًا من البيانات والسجلات، بما في ذلك مئات الآلاف من الرسائل على لوحة داخلية، وهو ما يثير تساؤلات بشأن سبب عدم اكتشاف النشاط في وقت مبكر.
وكلاء الذكاء الاصطناعي تركوا أدلة على تحركاتهم
بحسب التفاصيل التي كُشف عنها، كانت النماذج تتبادل الثغرات والمعلومات فيما بينها عبر لوحة الرسائل، في عملية وصفها الباحثون بأنها شهدت زيادة كبيرة في مستوى التواصل والتنسيق بين الوكلاء.
كما أظهرت النماذج سلوكيات معقدة أثناء تنفيذ المهام، إذ قسمت العمل فيما بينها، وتبادلت المعلومات، بل وحذفت بعض مهام بعضها الآخر عن طريق الخطأ.
ورغم الطبيعة المتقدمة لهذا السلوك، فإن وجود سجل ضخم للعمليات كان يمكن أن يمنح فرق الأمن فرصة أكبر لاكتشاف النشاط والتدخل قبل اتساع نطاقه.
خبراء يعتبرون الحادث فشلًا دفاعيًا
يرى عدد من خبراء الأمن السيبراني أن الواقعة لا تعكس بالضرورة قدرات هجومية خارقة للذكاء الاصطناعي بقدر ما تكشف عن ضعف في إجراءات الحماية والمراقبة.
ووصف بعض الباحثين الحادث بأنه كان من الممكن تجنبه بسهولة من خلال تطبيق إجراءات أساسية لتحليل المخاطر ومراقبة نشاط النماذج والوكلاء بصورة مستمرة.
كما اعتبر خبراء آخرون أن الواقعة تمثل «فشلًا دفاعيًا» أكثر من كونها هجومًا استثنائيًا نجحت فيه أنظمة الذكاء الاصطناعي.
هل تبالغ شركات الذكاء الاصطناعي في تصوير المخاطر؟
يتزامن الجدل مع تنافس شركات الذكاء الاصطناعي الكبرى على تطوير نماذج أكثر قدرة، وتسعى هذه الشركات في الوقت نفسه إلى إبراز الإمكانات المتقدمة لنماذجها، بما في ذلك قدرتها على اكتشاف الثغرات وتنفيذ المهام الأمنية المعقدة.
ويثير ذلك تساؤلًا حول ما إذا كانت المختبرات بحاجة إلى تطبيق إجراءات أمنية أكثر صرامة قبل منح النماذج المتقدمة صلاحيات واسعة أو إمكانية الوصول إلى الإنترنت والأنظمة الخارجية.
فإذا كانت المخاطر معروفة أثناء الاختبارات، فإن الاعتماد على المراقبة البشرية وحدها قد لا يكون كافيًا مع زيادة عدد الوكلاء وقدرتهم على العمل بصورة مستقلة لفترات طويلة.
OpenAI تتعهد بتعزيز أنظمة الحماية
أكدت OpenAI أنها تعتزم تعزيز تقنيات الوقاية والكشف والاستجابة للحوادث الأمنية، إلى جانب إبطاء وتيرة بعض عمليات البحث بصورة مدروسة بهدف رفع مستوى الأمان وتطوير آليات حماية أفضل.
وتعكس هذه الخطوة إدراكًا متزايدًا داخل القطاع بأن تطوير قدرات الذكاء الاصطناعي يجب أن يسير بالتوازي مع تطوير أدوات قادرة على مراقبة سلوك النماذج واكتشاف أي نشاط غير معتاد في الوقت المناسب.
الحاجة إلى مراقبة استباقية للنماذج المتقدمة
تدفع الحوادث الأخيرة إلى إعادة النظر في الطريقة التي تختبر بها شركات الذكاء الاصطناعي نماذجها المتقدمة، خصوصًا عندما تعمل هذه النماذج كـ«وكلاء» قادرين على تنفيذ سلسلة طويلة من المهام دون تدخل بشري مستمر.
ومع توسع قدرات الذكاء الاصطناعي في اكتشاف الثغرات وكتابة الأكواد والتعامل مع الأنظمة الرقمية، تصبح المراقبة المستمرة وتقييد الصلاحيات والاستجابة السريعة للأنشطة غير المصرح بها عناصر أساسية لمنع تحول النماذج التجريبية إلى مصدر تهديد سيبراني.
وتبقى القضية الأهم أمام شركات الذكاء الاصطناعي: إذا كانت المختبرات تدرك مسبقًا أن نماذجها يمكن أن تتصرف بصورة غير متوقعة، فلماذا لا يتم تطبيق إجراءات المراقبة والاحتواء الصارمة قبل وقوع الحوادث بدلًا من انتظار حدوثها؟
