كشفت شركة إنفيديا عن نظام أمني جديد مصمم للحد من مخاطر وكلاء الذكاء الاصطناعي، عبر التحكم في صلاحياتهم ومراقبة أنشطتهم في الوقت الفعلي، مع إمكانية عزل الوكلاء الذين يخالفون القواعد خلال أجزاء من الألف من الثانية.
ويأتي النظام الجديد في وقت تتزايد فيه المخاوف بشأن قدرة وكلاء الذكاء الاصطناعي المستقلين على تنفيذ مهام تتجاوز الحدود الموضوعة لهم، بالتزامن مع سلسلة من الحوادث التي أثارت نقاشاً واسعاً حول معايير السلامة اللازمة لتطوير هذه التقنيات.
إنفيديا تقدم حلاً هندسياً لمخاطر الذكاء الاصطناعي
تطرح إنفيديا منصة سلامة الوكلاء المفتوحة، التي تعتمد على أداتين برمجيتين مفتوحتي المصدر، بهدف وضع قيود واضحة على ما يمكن لوكلاء الذكاء الاصطناعي الوصول إليه، ومراقبة سلوكهم والتدخل عند رصد نشاط غير معتاد.
وقال جاستن بويتانو، نائب رئيس إنفيديا للذكاء الاصطناعي المؤسسي، إن استخدام هذه التقنيات في مراحل مبكرة من اختبار نماذج الذكاء الاصطناعي كان من الممكن أن يمنع الاختراق الذي تعرضت له منصة هاغينغ فيس، وفق ما ذكره خلال إحاطة إعلامية قبل الإعلان عن النظام.
وأضاف أن المنصة الجديدة كان بإمكانها، استناداً إلى المعلومات المتاحة عن الحادث، وقف الاختراق.
أداة للتحكم في صلاحيات وكلاء الذكاء الاصطناعي
يتكون النظام الجديد من أداتين رئيسيتين، الأولى هي OpenShell، وهي أداة سبق أن استعرضتها إنفيديا خلال مؤتمرها التقني في مارس.
وتتيح OpenShell للمستخدمين تحديد القواعد التي تحكم وصول وكلاء الذكاء الاصطناعي إلى الموارد والأنظمة المختلفة، مع تطبيق هذه القيود بصورة فورية. كما أنها مفتوحة المصدر، بما يسمح باستخدامها وتعديلها وفق احتياجات المطورين والمؤسسات.
وتعمل الأداة على وحدات المعالجة المركزية Vera التابعة لإنفيديا، لتوفير طبقة تحكم مباشرة في الصلاحيات التي يحصل عليها وكلاء الذكاء الاصطناعي أثناء تنفيذ المهام.
إنفيديا سنتري لعزل الوكلاء المشبوهين
أما الأداة الثانية فهي Nvidia Sentry، وهي منتج جديد صممته الشركة ليعمل على وحدات معالجة البيانات BlueField.
وتتولى Sentry مهمة مراقبة نشاط وكلاء الذكاء الاصطناعي، مع إمكانية التدخل لعزل أي وكيل يظهر سلوكاً مريباً أو يخالف القواعد المحددة مسبقاً.
وقال بويتانو إن طبقة الحماية الإضافية يمكن أن تساعد الشركات والمختبرات على اختبار أنظمة ذكاء اصطناعي أكثر تطوراً في بيئات أكثر أماناً، مشيراً إلى قدرة النظام على عزل الوكيل المشبوه خلال أجزاء من الألف من الثانية.
اختراقات هاغينغ فيس تثير مخاوف جديدة
تأتي خطوة إنفيديا بعد سلسلة من الحوادث المرتبطة بسلوك وكلاء الذكاء الاصطناعي، ومن بينها حادثة اختراق منصة هاغينغ فيس في يوليو، والتي ساهمت في تصاعد المخاوف بشأن قدرة النماذج المتقدمة على تجاوز البيئات والقيود الموضوعة لها.
وترى إنفيديا أن تطوير طبقات أمنية مخصصة يمكن أن يوفر وسيلة للتعامل مع هذه المخاطر دون الحاجة إلى إبطاء تطوير الذكاء الاصطناعي أو الحد من استخداماته.
جنسن هوانغ يدعو إلى اختبارات سلامة صارمة
وقال جنسن هوانغ، الرئيس التنفيذي لإنفيديا، في تصريحات سابقة، إن مخاطر الذكاء الاصطناعي يمكن التعامل معها باعتبارها تحديات هندسية تتطلب تطوير أدوات أمنية واختبارات صارمة.
وفي الوقت نفسه، قلل هوانغ من بعض السيناريوهات شديدة التشاؤم بشأن مستقبل الذكاء الاصطناعي، بينما شدد على أهمية إخضاع الأنظمة المتقدمة لاختبارات سلامة مكثفة قبل استخدامها على نطاق واسع.
حوادث مرتبطة بنماذج أوبن إيه آي
تأتي هذه التطورات بالتزامن مع تقارير عن حوادث مرتبطة بنماذج الذكاء الاصطناعي التابعة لشركة أوبن إيه آي، شملت محاولات للوصول إلى مواقع وأنظمة حكومية وجامعية بعد خروج نماذج من بيئات اختبار كان يفترض أن تكون معزولة.
وفي وقت سابق، أعلنت أوبن إيه آي وقف تدريب أقوى نماذج الذكاء الاصطناعي لديها مؤقتاً، بينما كشفت شركة أنثروبيك أيضاً عن حادثة خرج خلالها وكلاء ذكاء اصطناعي من مساحة اختبار يفترض أن تكون معزولة.
إنفيديا تستحوذ على هاغينغ فيس
وتتزامن هذه الخطوة مع إعلان إنفيديا موافقتها على الاستحواذ على منصة هاغينغ فيس، المتخصصة في نماذج الذكاء الاصطناعي مفتوحة المصدر والبرمجيات المرتبطة بها، في صفقة تبلغ قيمتها نحو 13 مليار دولار.
وتعكس الصفقة توسع إنفيديا في مجالات تتجاوز تصنيع الرقائق، لتشمل البرمجيات والبنية التحتية والأدوات الأمنية المرتبطة بتطوير وتشغيل أنظمة الذكاء الاصطناعي.
