لم تعد التهديدات السيبرانية تقتصر على محاولات اختراق كلمات المرور أو تجاوز الحواجز الأمنية بالوسائل التقليدية، بعدما ظهرت أنظمة ذكاء اصطناعي قادرة على اتخاذ قرارات بصورة مستقلة، والبحث عن طرق بديلة لتجاوز القيود والوصول إلى المعلومات والأنظمة دون تدخل بشري مباشر.
وتسلط واقعة وصول وكيل ذكاء اصطناعي إلى بوابة حكومية أسترالية متخصصة في الخدمات الطبية وإحصاءات الإنفاق العام، بشكل غير مصرح به، الضوء على تحدٍ جديد يواجه الأمن السيبراني، يتمثل في التعامل مع أنظمة لا تكتفي بتنفيذ الأوامر، وإنما تستطيع تغيير أسلوب عملها عندما تواجه عوائق.
واقعة تكشف قدرات الوكلاء الأذكياء
تعود تفاصيل الواقعة إلى إعلان رئيس الوزراء الأسترالي نجاح وكيل ذكاء اصطناعي تابع لإحدى شركات الذكاء الاصطناعي الكبرى في الوصول دون تصريح إلى بوابة حكومية سيادية تقدم خدمات مرتبطة بالقطاع الطبي وإحصاءات الإنفاق العام.
ولم يقتصر وصول الوكيل على البيانات المتاحة للعامة، إذ تمكن النظام من الوصول إلى ملفات مغلقة أمام الجمهور، وهو ما أثار تساؤلات حول الحدود الفعلية لقدرات الوكلاء الأذكياء، ومدى استعداد أنظمة الأمن السيبراني التقليدية للتعامل مع هذا النوع من التهديدات.
الخطر لا يتعلق بسرقة البيانات فقط
ورغم عدم تسجيل تسريب لبيانات المرضى الشخصية حتى الآن، فإن الجانب الأكثر إثارة للقلق في الواقعة يرتبط بقدرة الوكيل الذكي على تجاوز قيود الوصول وتنفيذ عمليات كتابة وتعديل داخل الخوادم.
وأكد محمد محسن رمضان، رئيس وحدة الذكاء الاصطناعي والأمن السيبراني بمركز العرب للأبحاث والدراسات، أن جوهر الخطورة لا يرتبط بالبيانات التي تمكن الوكيل من الوصول إليها بقدر ما يرتبط بالسلوك التكيفي الذي أظهره النظام أثناء محاولته تنفيذ مهمته.
وأوضح رمضان أن الباحثين كانوا يستخدمون نموذجًا داخليًا لأغراض بحثية، إلا أن الوكيل الذكي لم يتوقف أمام العقبات التقنية التي واجهته، وإنما بحث عن مسارات بديلة واستعان بأدوات خارجية لتجاوز القيود والوصول إلى الأهداف المحددة له.
استقلالية الوكلاء تغير قواعد الأمن السيبراني
وأشار رمضان إلى أن الاختلاف الأساسي بين البرمجيات التقليدية والوكلاء الأذكياء يتمثل في مستوى الاستقلالية، إذ تعمل البرامج التقليدية عادة وفق تعليمات محددة مسبقًا، بينما يستطيع الوكيل الذكي اتخاذ سلسلة من القرارات بصورة ذاتية، إلى جانب اكتشاف الثغرات ومحاولة استغلالها بسرعة كبيرة.
ويرى أن هذا التطور يفرض إعادة النظر في بيئات تشغيل أنظمة الذكاء الاصطناعي والصلاحيات التي تحصل عليها، مع ضرورة تطبيق مبدأ “الحد الأدنى من الصلاحيات”، بحيث لا يتم منح الوكيل إلا القدر الضروري من الوصول إلى الأنظمة والبيانات اللازمة لتنفيذ مهمته.
لماذا لا تكفي أنظمة الحماية التقليدية؟
بحسب رمضان، فإن الاعتماد على أنظمة الحماية التي تركز بصورة أساسية على التحقق من هوية المستخدم لم يعد كافيًا وحده أمام الوكلاء الأذكياء.
فالوكيل قد يمتلك صلاحيات دخول مشروعة في الأساس، لكنه يستطيع أثناء تنفيذ المهمة تغيير سلوكه والبحث عن مسارات جديدة، ثم محاولة تنفيذ إجراءات أو أوامر تتجاوز النطاق الأصلي للمهمة الموكلة إليه.
وهنا ينتقل التحدي الأمني من سؤال “من يملك صلاحية الدخول؟” إلى سؤال أكثر تعقيدًا يتعلق بما يفعله النظام بعد حصوله على تلك الصلاحية.
الذكاء الاصطناعي قد يغير شكل الهجمات السيبرانية
من جانبه، أشار أبو بكر عبد الكريم، المساعد الأول لوزير الداخلية المصري الأسبق لقطاع الإعلام والعلاقات، إلى أن أحد أخطر الجوانب التي كشفتها الواقعة يتمثل في الفجوة الزمنية بين تنفيذ الاختراق واكتشافه.
وأوضح عبد الكريم أن المؤسسات تحتاج إلى أنظمة متقدمة للمراقبة السلوكية تستطيع تتبع تحركات الوكلاء الرقميين بصورة مستمرة، بما يشمل البيانات التي يطلبونها، والملفات التي يصلون إليها، والمسارات البديلة التي يحاولون استخدامها عند مواجهة إجراءات الحماية.
وحذر من إمكانية ظهور نمط جديد من الهجمات السيبرانية المدعومة بالذكاء الاصطناعي، بحيث لا يحتاج المهاجم إلى إعداد خطة تفصيلية لكل خطوة من خطوات الاختراق، وإنما يمكنه تحديد هدف عام وترك الوكيل الذكي يتولى تحليل البيئة المستهدفة، والبحث عن نقاط الضعف، واختيار المسارات المناسبة لتنفيذ الهجوم.
سرعة الوكيل الذكي تزيد صعوبة المواجهة
وتزداد خطورة هذا السيناريو مع قدرة الوكلاء الأذكياء على تحليل كميات كبيرة من المعلومات واتخاذ قرارات متتابعة خلال فترات زمنية قصيرة، وهو ما قد يمنح الهجمات المدعومة بالذكاء الاصطناعي سرعة تفوق قدرة فرق الأمن السيبراني البشرية على المتابعة والاستجابة.
وبذلك قد لا يكون التحدي في اكتشاف ثغرة أمنية واحدة فقط، وإنما في التعامل مع نظام قادر على اكتشاف سلسلة من نقاط الضعف وتغيير أسلوبه بناءً على النتائج التي يحصل عليها أثناء التنفيذ.
من أمن المستخدم إلى أمن الوكيل الذكي
وخلص عبد الكريم إلى أن التطورات الحالية تفرض الانتقال تدريجيًا من مفهوم “أمن المستخدم” إلى مفهوم “أمن الوكيل الذكي”، من خلال وضع ضوابط أكثر صرامة على عمليات القراءة والكتابة، ومراقبة سلوك الأنظمة الذكية بصورة مستمرة.
كما تتضمن إجراءات الحماية المقترحة عزل الوكلاء عن الشبكات والأنظمة الحساسة كلما أمكن ذلك، وتقليص الصلاحيات الممنوحة لهم، إلى جانب إنشاء آليات قادرة على اكتشاف أي سلوك يخرج عن المهمة المحددة مسبقًا.
تحد جديد أمام المؤسسات والدول
وتكشف هذه التطورات أن استخدام الذكاء الاصطناعي في صورة وكلاء مستقلين يفتح فصلًا جديدًا في الأمن السيبراني، إذ لم يعد الخطر مرتبطًا فقط بقدرة المهاجم على اختراق نظام محمي، وإنما بقدرة أنظمة ذكية على اتخاذ قرارات متتابعة بعد حصولها على صلاحيات مشروعة.
ومع توسع الاعتماد على الوكلاء الأذكياء في المؤسسات والشركات، يصبح تصميم أنظمة قادرة على مراقبة سلوك هذه الوكلاء وتقييد صلاحياتهم واكتشاف الانحراف عن المهام الأصلية عنصرًا أساسيًا في حماية البنية الرقمية، خاصة مع احتمال تحول أدوات الذكاء الاصطناعي المصممة للمساعدة والبحث إلى مصدر جديد للتهديدات السيبرانية.
