وتأتي هذه التحذيرات بالتزامن مع توسع استخدام وكلاء الذكاء الاصطناعي القادرين على تنفيذ المهام بصورة مستقلة، وهو ما يدفع شركات التكنولوجيا إلى تطوير أدوات رقابية إضافية لرصد التصرفات غير المعتادة، وتقييد الصلاحيات، والتدخل قبل وقوع أضرار محتملة.
مايكروسوفت تدعو إلى فصل الذكاء الاصطناعي عن أنظمة الأمن
أوضح نديم عبدو، نائب رئيس مايكروسوفت، أن وكلاء الذكاء الاصطناعي لا يسعون عادةً إلى إلحاق الضرر بالأنظمة، لكن طبيعة سلوكهم غير المتوقعة قد تجعل الأخطاء أكثر خطورة عندما يمتلكون صلاحيات واسعة داخل بيئات العمل.
وتتوافق هذه المخاوف مع تأكيدات الرئيس التنفيذي للشركة، ساتيا ناديلا، بشأن أهمية الفصل بين قدرات نماذج الذكاء الاصطناعي وأنظمة الأمن المسؤولة عن مراقبتها والتحكم فيها.
ويعني هذا التوجه ضرورة عدم الاعتماد على النموذج نفسه أو الجهة المطورة له بوصفهما خط الدفاع الوحيد ضد الأخطاء والتجاوزات، بل إنشاء طبقة أمنية مستقلة تراقب سلوك الوكلاء وتتحكم في صلاحياتهم وفقًا لطبيعة المهام الموكلة إليهم.
Guardian Agents.. أدوات جديدة لمراقبة وكلاء الذكاء الاصطناعي
تعمل مايكروسوفت على توسيع أدواتها الأمنية ضمن مشروع Project Perception، من خلال تطوير منظومة Guardian Agents، المعروفة باسم «الوكلاء الحراس»، بهدف مراقبة أنظمة الذكاء الاصطناعي النشطة عبر شبكات الشركات والمنصات السحابية والأجهزة المحلية.
وتستهدف هذه الأدوات اكتشاف السلوكيات غير المعتادة في وقت مبكر، خصوصًا مع قدرة الوكلاء الذكيين على تنفيذ أعداد كبيرة من العمليات خلال فترات قصيرة، بما يجعل المراجعة البشرية لكل إجراء أمرًا صعبًا.
وأشارت هاييتي غالوت، المسؤولة التنفيذية بقطاع الأمن لدى مايكروسوفت، إلى أن نماذج الذكاء الاصطناعي تركز بصورة أساسية على إنجاز المهام المطلوبة منها، وليس بالضرورة على مراعاة قواعد العمل أو الأحكام والتقديرات البشرية في جميع الحالات.
ولمعالجة هذه الفجوة، تتيح أدوات Microsoft Defender وEntra Agent ID اكتشاف مجموعة من أدوات الذكاء الاصطناعي المستخدمة محليًا، بما يشمل Claude Code وOpenAI Codex وGitHub Copilot، وفقًا للتقارير المنشورة حول هذه الأدوات.
صلاحيات محدودة لحماية البيانات والأنظمة الداخلية
تعتمد استراتيجية مايكروسوفت الأمنية على منح وكلاء الذكاء الاصطناعي صلاحيات وصول تتناسب مع احتياجات كل مهمة، بحيث يتمكن الوكيل من الوصول إلى الملفات والموارد الضرورية فقط، مع تقليص صلاحياته بعد الانتهاء من العمل.
ويهدف هذا الأسلوب إلى الحد من المخاطر الناجمة عن الأخطاء البرمجية أو محاولات الوصول إلى بيانات لا ترتبط بالمهمة المطلوبة، فضلًا عن تقليل نطاق الأضرار المحتملة إذا تصرف الوكيل على نحو غير متوقع.
وتزداد أهمية هذا النهج مع انتقال الذكاء الاصطناعي من مرحلة تقديم الإجابات والاقتراحات إلى تنفيذ إجراءات فعلية داخل الأنظمة المؤسسية، بما في ذلك التعامل مع الملفات والبيانات والتطبيقات المختلفة.
آليات لعزل الوكلاء الذكيين وإيقافهم عند الضرورة
تشمل الضوابط التي تتجه إليها منظومة الأمن الجديدة إمكانية تقييد وصول الوكلاء الذين يظهرون سلوكًا غير طبيعي، أو مطالبتهم بالحصول على موافقة بشرية قبل مواصلة بعض الإجراءات، أو إيقافهم بالكامل عندما تستدعي المخاطر ذلك.
ولا تقتصر هذه التحركات على مايكروسوفت، إذ يشهد قطاع التكنولوجيا تعاونًا لتطوير معايير وأدوات أكثر أمانًا لوكلاء الذكاء الاصطناعي، من بينها مبادرة Open Agent Safety Platform بالتعاون مع شركة إنفيديا، وفقًا لما ورد في التقرير.
كما يبرز اتجاه نحو دمج آليات الحماية في البنية التقنية نفسها، بدلًا من الاكتفاء بالتعليمات التي يتلقاها النموذج أو افتراض قدرته على الالتزام بها في جميع الظروف. ويشمل ذلك طرح مفاهيم مثل مفاتيح الإيقاف المدمجة في الأجهزة، التي تستهدف توفير وسائل إضافية لتعطيل الأنظمة عند الضرورة.
مستقبل الذكاء الاصطناعي يتطلب رقابة مستقلة
تعكس تحركات مايكروسوفت تحولًا في طريقة تعامل شركات التكنولوجيا مع الأنظمة الذكية المتقدمة، إذ لم تعد كفاءة النموذج وقدرته على تنفيذ المهام كافيتين لضمان الاستخدام الآمن.
ومع زيادة استقلالية الوكلاء واتساع نطاق وصولهم إلى الأنظمة والبيانات، تبرز أهمية الجمع بين الرقابة المستقلة، وتحديد الصلاحيات وفقًا للحاجة، وإتاحة التدخل البشري، ووجود آليات واضحة للإيقاف والاستجابة للحوادث.
ويظل التحدي الأساسي أمام الشركات هو الاستفادة من قدرات الذكاء الاصطناعي في تسريع العمل ورفع الإنتاجية، مع ضمان ألا تتحول هذه القدرات إلى مصدر لمخاطر أمنية يصعب احتواؤها.
