وأعلنت الشركة عن مجموعة من الميزات الأمنية الجديدة، في مقدمتها أداة «Guardian Agents»، المصممة لمراقبة وكلاء الذكاء الاصطناعي والتدخل عند رصد سلوكيات قد تعرض المؤسسات لمخاطر أمنية.
ويعكس هذا التحرك تحولًا في مفهوم الأمن السيبراني، إذ لم تعد التهديدات تقتصر على الهجمات الخارجية والمتسللين، بل بات من الضروري أيضًا الاستعداد لاحتمال تحول أنظمة الذكاء الاصطناعي التي تستخدمها الشركات إلى مصدر للخطر، حتى في غياب أي نية خبيثة.
Guardian Agents.. أداة جديدة لمراقبة وكلاء الذكاء الاصطناعي
تندرج أداة «Guardian Agents» ضمن مشروع «Project Perception» الذي كشفت عنه مايكروسوفت في يونيو الماضي، بهدف تعزيز قدرة المؤسسات على اكتشاف التهديدات المرتبطة بالذكاء الاصطناعي والتعامل معها.
وعند إطلاق المشروع، قدمت الشركة منظومة من الوكلاء الأمنيين موزعة على ثلاثة أدوار رئيسية، تشمل الفريق الأحمر الذي يحاكي أساليب المهاجمين لاختبار الأنظمة وكشف الثغرات، والفريق الأزرق الذي يتولى اكتشاف الهجمات وتحليل نقاط الضعف، والفريق الأخضر المسؤول عن معالجة الثغرات وإصلاح المشكلات الأمنية.
لكن التوجه الجديد يوسع نطاق هذه المنظومة، فلم تعد الحماية تركز فقط على مواجهة الهجمات التي تأتي من خارج المؤسسة، وإنما تمتد إلى مراقبة الوكلاء الذين تنشرهم الشركات بنفسها، خصوصًا عندما يحصلون على صلاحيات واسعة لتنفيذ العمليات والوصول إلى البيانات.
وتأتي هذه الخطوة بالتزامن مع تطور نماذج الذكاء الاصطناعي القادرة على تنفيذ مهام متقدمة في مجال الأمن السيبراني، بما يشمل اكتشاف الثغرات واختبار الأنظمة، وهو ما يزيد أهمية وضع ضوابط واضحة لاستخدام هذه التقنيات.
ساتيا ناديلا: المسؤولية الأمنية لا تقع على مطوري النماذج وحدهم
شدد ساتيا ناديلا، الرئيس التنفيذي لشركة مايكروسوفت، في تدوينة نشرها خلال أكتوبر الجاري، على ضرورة ألا تعتمد المؤسسات بصورة كاملة على ضمانات الأمان التي يقدمها مطورو الذكاء الاصطناعي، حتى عندما تكون النماذج مصممة لتنفيذ المهام بصورة مستقلة.
ويرى ناديلا أن الشركات تحتاج إلى إنشاء أنظمة رقابية مستقلة لمتابعة أداء الوكلاء والتحكم في صلاحياتهم، خاصة عندما يتعلق الأمر بالأنظمة الحساسة والبيانات المهمة.
وأوضح أن المؤسسات تمنح هذه الأنظمة قدرات متقدمة للوصول إلى المعلومات وتنفيذ الإجراءات نيابة عن الموظفين، وهو ما يجعلها مسؤولة عن مراقبة نتائج استخدامها، بدلًا من الاعتماد على وعود الشركات المطورة وحدها.
وتقوم الفكرة الأساسية على الفصل بين الجهة التي توفر نموذج الذكاء الاصطناعي والجهة التي تحدد ما يمكنه تنفيذه داخل المؤسسة، بما يضمن وجود رقابة مستقلة على القرارات والإجراءات التي تتخذها الأنظمة الذكية.
لماذا لا يمكن الوثوق الكامل بوكلاء الذكاء الاصطناعي؟
حذرت هاييتي غالوت، المسؤولة عن قطاع الأمن في مايكروسوفت، من أن النماذج المتقدمة لا يمكن الوثوق بها بصورة مطلقة، بصرف النظر عن الجهة التي طورتها.
ولا يعني ذلك بالضرورة أن هذه النماذج خبيثة أو يسهل اختراقها، وإنما يرتبط الأمر بصعوبة التنبؤ بجميع تصرفاتها، خاصة عند تكليفها بمهام معقدة ومنحها صلاحيات واسعة.
وأشارت إلى أن هذه النماذج دُربت على إنجاز المهام وتحقيق الأهداف، وليس بالضرورة على الالتزام بكل القواعد الداخلية للمؤسسات أو مراعاة المعايير التي يعتمد عليها الموظفون عند اتخاذ القرارات.
وتزداد المخاطر عندما يتمكن الوكيل من الوصول إلى قواعد البيانات والأنظمة الداخلية والأدوات التشغيلية، إذ قد يؤدي قرار غير متوقع أو تنفيذ غير مناسب إلى تسريب معلومات أو تعطيل عمليات أو إحداث أضرار داخل المؤسسة.
ومن هنا، تبرز الحاجة إلى تحديد نطاق عمل كل وكيل، ومراقبة تصرفاته، ووضع قيود تمنعه من تجاوز الصلاحيات الممنوحة له.
مايكروسوفت توسع أدواتها الأمنية لمراقبة الوكلاء
تعمل مايكروسوفت على تحويل هذا التوجه إلى أدوات عملية موجهة للشركات، من خلال إضافة إمكانات لاكتشاف وكلاء الذكاء الاصطناعي ومراقبة أنشطتهم داخل بيئات العمل.
وشملت التحديثات المعلنة ميزات ضمن منتج «Microsoft Defender»، تتيح رصد ما يصل إلى 60 نوعًا من الوكلاء الذين قد يستخدمهم الموظفون، ومن بينهم «Claude Code» و«Codex» و«OpenClaw».
كما تتضمن الأدوات إمكانات لتقييد وصول الوكلاء إلى البيانات والأنظمة، وتعديل الصلاحيات الممنوحة لهم وفقًا لطبيعة المهمة التي ينفذونها.
وتشمل الإجراءات المقترحة طلب موافقة بشرية عندما تتعلق المهمة بقرارات حساسة أو إجراءات تنطوي على مخاطر، بما يقلل احتمالات تنفيذ عمليات مؤثرة دون مراجعة مناسبة.
ويمثل هذا التوجه تحولًا من الاعتماد على الحماية التقليدية للشبكات والأنظمة إلى مراقبة سلوك الذكاء الاصطناعي نفسه، والتحقق من التزامه بالحدود التي تضعها المؤسسة.
المصالح التجارية لمايكروسوفت تثير تساؤلات
يحمل تحذير مايكروسوفت جانبًا تجاريًا لافتًا، في ظل علاقاتها مع شركات الذكاء الاصطناعي الكبرى، ومن بينها «أوبن إيه آي» و«أنثروبيك»، إلى جانب امتلاكها مختبرًا خاصًا لتطوير النماذج.
وتثير دعوة الشركة إلى عدم الاعتماد الكامل على ضمانات مطوري النماذج تساؤلات بشأن كيفية الفصل بين تطوير التقنيات وتوفير أدوات مراقبتها وحمايتها.
وفي الوقت نفسه، تسعى مايكروسوفت إلى تعزيز موقعها في سوق الخدمات السحابية والأمن السيبراني، من خلال تقديم حلول تساعد المؤسسات على مراقبة الوكلاء والتحكم في صلاحياتهم، بدلًا من الاكتفاء بأدوات الحماية التي يوفرها مطورو هذه الأنظمة.
ومع ذلك، يستند هذا التوجه إلى مبدأ أمني معروف، يقوم على أهمية الفصل بين تشغيل النظام والرقابة المستقلة عليه، بما يتيح اكتشاف المخاطر بصورة أكثر فاعلية ويحد من تضارب المصالح المحتمل.
تحالفات تقنية لتعزيز أمان وكلاء الذكاء الاصطناعي
لا يقتصر هذا التوجه على مايكروسوفت، بل يمتد إلى شركات أخرى تسعى إلى وضع معايير أكثر صرامة لتشغيل وكلاء الذكاء الاصطناعي ومراقبة سلوكهم.
وكانت مايكروسوفت من الأعضاء المؤسسين لمنصة «Open Agent Safety Platform» التي أطلقتها إنفيديا، بدعم من أكثر من 100 شركة تكنولوجية أخرى، وفقًا للتقرير.
وتهدف المنصة إلى تشغيل الوكلاء داخل بيئات آمنة ومعزولة، مع مراقبة أنشطتهم وإتاحة إمكانية إيقاف العمليات الخطرة، بما يشبه آلية الإيقاف الطارئ.
وتعكس هذه المبادرات اتجاهًا متزايدًا نحو تطوير بنية أمنية متكاملة للذكاء الاصطناعي، تجمع بين عزل الأنظمة ومراقبة السلوك والتحكم في الصلاحيات والتدخل البشري عند الضرورة.
مستقبل الذكاء الاصطناعي مرتبط بالرقابة والأمان
تكشف تحذيرات مايكروسوفت أن التوسع في استخدام وكلاء الذكاء الاصطناعي لا يتعلق فقط بقدرتهم على إنجاز المهام بسرعة وكفاءة، بل أيضًا بمدى قدرة المؤسسات على التحكم في تصرفاتهم وحماية بياناتها.
ومع زيادة استقلالية هذه الأنظمة، ستحتاج الشركات إلى سياسات واضحة تحدد صلاحيات كل وكيل، وتفرض مراجعة بشرية للإجراءات الحساسة، وتوفر آليات سريعة لإيقاف الأنشطة غير الآمنة.
وبذلك، يصبح التحدي الرئيسي أمام المؤسسات هو تحقيق التوازن بين الاستفادة من إمكانات الذكاء الاصطناعي والحفاظ على أمن البيانات والأنظمة، حتى لا تتحول الأدوات التي صُممت لتعزيز الإنتاجية إلى مصدر جديد للتهديدات الداخلية.
