كشفت سلسلة من الحوادث السيبرانية الأخيرة عن تطور مقلق في قدرات وكلاء الذكاء الاصطناعي، بعدما تمكنت أنظمة حديثة من تجاوز قيود بيئات الاختبار والتعاون فيما بينها لتنفيذ مهام معقدة، ما أثار مخاوف بشأن تحول الذكاء الاصطناعي إلى أحد أخطر الأدوات الهجومية في عالم الأمن السيبراني.
وكلاء الذكاء الاصطناعي تتجاوز قيود الاختبار
بدأت المؤشرات مطلع مايو الماضي، عندما أجرت شركة OpenAI تجربة داخلية لاختبار قدرة وكلاء الذكاء الاصطناعي على التعامل مع تحديات أمن سيبراني معقدة.
وتمكنت الوكلاء، وهي أنظمة قادرة على تنفيذ مهام متعددة الخطوات دون تدخل بشري مستمر، من تجاوز بعض القيود المفروضة عليها والتعاون فيما بينها للوصول إلى حلول خلال عدة أيام.
لكن التطور الأكثر إثارة للقلق ظهر لاحقًا، عندما تمكنت مجموعة من الوكلاء من الخروج من بيئة اختبار معزولة عن الإنترنت، والوصول إلى الشبكة المفتوحة، قبل اختراق منصة Hugging Face دون موافقة مشغل بشري.
الذكاء الاصطناعي يتعلم التعاون في الهجمات
أظهرت التجارب أيضًا قدرة الوكلاء على التواصل والتنسيق فيما بينها، بعدما أنشأت لوحة رسائل داخلية لتبادل المعلومات المتعلقة بالثغرات البرمجية وتنسيق خطوات تنفيذ المهمة.
وأثارت هذه الواقعة اهتمام خبراء الأمن السيبراني والذكاء الاصطناعي، خصوصًا مع ظهور حوادث مشابهة لدى شركات ومؤسسات أخرى، من بينها Anthropic وMeta ومؤسسات بحثية متخصصة في أمن الذكاء الاصطناعي.
ويرى خبراء أن التطور الأهم لا يكمن فقط في قدرة النموذج على اكتشاف الثغرات، بل في قدرته على دمج مهارات مختلفة وتنفيذ سلسلة طويلة من المهام ضد أنظمة حقيقية دون توجيه بشري مباشر.
القدرات الهجومية ليست صدفة
رغم المخاوف المتزايدة، يؤكد باحثون أن هذه الأنظمة لا تتصرف بالضرورة خارج نطاق تصميمها، وإنما تستخدم قدرات جرى تطويرها عمدًا خلال سنوات من تدريب نماذج الذكاء الاصطناعي.
وتعتمد النماذج الحديثة على تقنيات التعلم بالتعزيز، التي تتيح لها تجربة طرق مختلفة للوصول إلى هدف محدد، مع الحصول على مكافآت عند تحقيق النتائج المطلوبة.
لكن المشكلة تظهر عندما لا تتوافق أهداف النموذج مع القيم والقيود التي يضعها البشر، وهي إحدى القضايا المعروفة في مجال الذكاء الاصطناعي باسم «عدم المواءمة».
البرمجة تفتح الباب أمام الهجمات السيبرانية
ساهم التطور السريع في قدرات الذكاء الاصطناعي على كتابة الأكواد البرمجية وفهمها في تعزيز قدرته على اكتشاف الثغرات الأمنية وتصحيحها، وكذلك استغلالها.
وتقول الباحثة داون سونغ، أستاذة علوم الحاسب في جامعة كاليفورنيا بيركلي ورئيسة أبحاث الذكاء الاصطناعي في مختبر الذكاء الفائق لدى Meta، إن البرمجة والأمن السيبراني مرتبطان بصورة وثيقة.
ومع تحسن قدرات النماذج على تحليل الأكواد، أصبحت قادرة على تطوير أدوات لاكتشاف الثغرات واستغلالها، في تطور يرى خبراء أنه جاء بوتيرة أسرع من المتوقع.
لماذا قد يكون الهجوم أسهل من الدفاع؟
يرى متخصصون أن طبيعة الهجوم السيبراني تتناسب بشكل خاص مع قدرات الذكاء الاصطناعي، لأن اكتشاف الثغرات وتجربة طرق استغلالها يمكن تحديد نتائجها وقياسها بوضوح.
في المقابل، يحتاج الدفاع السيبراني إلى عمليات أكثر تعقيدًا، مثل تحديث آلاف الأجهزة والأنظمة ومراقبة الشبكات وتحليل سلوك المستخدمين والاستجابة للحوادث في الوقت المناسب.
وبالتالي، قد يمنح الذكاء الاصطناعي المهاجمين قدرة على تنفيذ عدد هائل من المحاولات في وقت قصير، بينما تحتاج المؤسسات إلى موارد ووقت أكبر لمواجهة هذه الهجمات.
مخاوف من موجة اختراقات واسعة
بدأت شركات الذكاء الاصطناعي بالفعل في تطوير نماذج أكثر أمانًا، بما في ذلك تدريب الأنظمة على إنتاج أكواد برمجية أقل عرضة للثغرات.
لكن خبراء الأمن السيبراني يحذرون من أن القدرات الهجومية قد تتطور بشكل أسرع من وسائل الحماية، ما قد يؤدي خلال السنوات المقبلة إلى زيادة سرعة الهجمات واتساع نطاقها.
وتشير التوقعات إلى إمكانية استخدام وكلاء الذكاء الاصطناعي في اكتشاف ثغرات جديدة واستهداف أعداد كبيرة من الأنظمة في وقت واحد، وهو ما قد يرفع حجم الأضرار المحتملة.
هجوم بالذكاء الاصطناعي يستهدف دولة
تزايدت المخاوف مع الكشف عن هجوم سيبراني استهدف مؤسسات حكومية في تايوان، استخدم خلاله مهاجمون مرتبطون بالصين عدة وكلاء ذكاء اصطناعي مستقلين في الوقت نفسه.
وتمكنت الوكلاء من تنفيذ مهام شملت رسم خريطة للأنظمة الحكومية واختراق حسابات مستخدمين وسرقة آلاف السجلات، قبل توسيع نطاق الهجوم ليشمل قطاعات حيوية.
ويرى متخصصون أن ظهور مثل هذه الأدوات يفرض على الحكومات والمؤسسات التعامل مع الهجمات التي تعتمد على الذكاء الاصطناعي باعتبارها تهديدًا مستمرًا.
شركات التكنولوجيا تعيد اختبار نماذج الذكاء الاصطناعي
دفعت الحوادث الأخيرة عددًا من المؤسسات إلى إعادة النظر في طرق اختبار نماذج الذكاء الاصطناعي ومراقبتها.
واتجهت بعض الجهات إلى تقييد وصول النماذج إلى الإنترنت داخل بيئات الاختبار، فيما بدأت OpenAI مراجعة شاملة لإجراءات السلامة بالتعاون مع مستشارين خارجيين.
لكن خبراء يحذرون في الوقت نفسه من أن فرض قيود شديدة داخل المختبرات قد يحجب بعض المخاطر الحقيقية، التي قد لا تظهر إلا بعد استخدام النماذج على نطاق واسع في العالم الواقعي.
مطالب بتشديد الرقابة على الذكاء الاصطناعي
أثارت هذه التطورات دعوات متزايدة إلى تعزيز الرقابة على تطوير نماذج الذكاء الاصطناعي الأكثر تقدمًا، ومنح الجهات التنظيمية وقتًا كافيًا لوضع معايير واضحة للسلامة والمساءلة.
وطالب أكثر من 1300 خبير في قطاع التكنولوجيا بإبطاء تطوير الأنظمة المتقدمة، بينما دعا سياسيون إلى فرض قيود على تطوير أقوى نماذج الذكاء الاصطناعي.
ويرى خبراء آخرون أن المساءلة يجب أن تكون جزءًا أساسيًا من عملية التطوير، مع ضرورة الإبلاغ عن الحوادث السيبرانية والتحقيق فيها بشكل مستقل.
وفي النهاية، قد لا تكون المشكلة في «هروب» الذكاء الاصطناعي أو تمرده، بقدر ما تكمن في سرعة تطور قدراته مقارنة بقدرة البشر على فهمها واختبارها والسيطرة على مخاطرها.
