تتوسع الشركات حول العالم في استخدام تقنيات الذكاء الاصطناعي بوتيرة متسارعة، خاصة الذكاء الاصطناعي الوكيلي ونماذج اللغة الكبيرة، لتدخل هذه الأدوات في مجالات متعددة، من تطبيقات المؤسسات إلى روبوتات الدردشة والخدمات الرقمية.
وبالتزامن مع هذا التوسع، تتزايد المخاطر المرتبطة بالذكاء الاصطناعي، بداية من أخطاء النماذج وخروج بعض الأنظمة عن السيطرة، مرورًا بالهجمات الإلكترونية المدعومة بالذكاء الاصطناعي، وصولًا إلى احتمالية تحول وكلاء الذكاء الاصطناعي إلى نقاط دخول جديدة لشبكات الشركات.
دراسة PwC تكشف غموض المسؤولية عن الذكاء الاصطناعي
أظهرت دراسة حديثة لشركة PwC أن الشركات لم تحسم حتى الآن الجهة المسؤولة بشكل واضح عن إدارة مخاطر الذكاء الاصطناعي وتأمين الأنظمة الوكيلة.
وشمل تقرير Digital Trust Insights 2027 آراء نحو 4 آلاف من قادة الأعمال والتكنولوجيا في 71 دولة، وكشف عن وجود تباين في تحديد المسؤوليات المتعلقة بالذكاء الاصطناعي والأمن السيبراني.
وأوضحت النتائج أن فوائد الذكاء الاصطناعي ومخاطره أصبحت محل اهتمام مجالس الإدارة في نحو نصف الشركات، بينما قال 47% من المشاركين إن الأمن السيبراني يمثل بندًا ثابتًا على جدول أعمال مجالس الإدارة.
9 من كل 10 شركات تطبق ضوابط لإدارة مخاطر الأمن السيبراني
رغم استمرار الغموض حول المسؤولية عن الذكاء الاصطناعي، تشير الدراسة إلى وجود أطر تنظيمية داخل معظم الشركات لإدارة مخاطر الأمن السيبراني.
وقال نحو 9 من كل 10 قادة أعمال إن ممارسات تشمل الرقابة من جانب مجلس الإدارة، وتحمل المسؤولية التنفيذية، ودمج مخاطر الأمن السيبراني ضمن إدارة مخاطر المؤسسة، أصبحت مطبقة داخل شركاتهم.
وفي المقابل، أدرك 33% من المؤسسات الحاجة إلى تحديد مسؤولية أكثر وضوحًا عن الذكاء الاصطناعي، وبدأت بالفعل في استحداث مناصب متخصصة، بينها رؤساء الذكاء الاصطناعي وأعضاء مجالس الإدارة المسؤولون عن هذا الملف.
من المسؤول عن أمن الذكاء الاصطناعي؟
تكشف نتائج الدراسة عن اختلاف واضح بشأن الجهة التي يجب أن تتولى مسؤولية الذكاء الاصطناعي داخل الشركات.
وقال 29% من الرؤساء التنفيذيين وقادة الأمن وإدارة المخاطر إن المسؤولية تقع على عاتق مدير تقنية المعلومات CIO أو مدير التكنولوجيا CTO أو منصب تقني مماثل.
في المقابل، رأى 17% من المشاركين أن المسؤولية يجب أن تكون لدى مدير أمن المعلومات CISO أو فرق الأمن السيبراني، بينما اعتبر 26% أن الملف يجب أن يكون من اختصاص قائد متخصص في الذكاء الاصطناعي أو وظيفة مخصصة لهذا الغرض.
وقال 11% من المشاركين إن المسؤولية لا تزال غير واضحة، أو موزعة بين أكثر من منصب ووظيفة داخل المؤسسة.
هل تحتاج الشركات إلى رئيس لأمن الذكاء الاصطناعي؟
يثير اتساع نطاق استخدام الذكاء الاصطناعي تساؤلات بشأن الحاجة إلى استحداث مناصب تنفيذية جديدة تتولى إدارة المخاطر المرتبطة بهذه التقنيات.
ويشير التقرير إلى أن منصب مدير أمن المعلومات CISO نفسه لم يكن موجودًا بصورته الحالية منذ البداية، إذ عيّنت شركة Citigroup عام 1994 ستيف كاتز كأول مسؤول رسمي عن أمن المعلومات، في أعقاب هجمات إلكترونية روسية.
ومع توسع مسؤوليات مديري تقنية المعلومات ومديري أمن المعلومات لتشمل ملفات متعددة، قد يصبح إسناد جميع مهام أمن الذكاء الاصطناعي إلى المناصب الحالية عبئًا إضافيًا، وهو ما يفتح الباب أمام ظهور منصب متخصص مثل رئيس أمن الذكاء الاصطناعي CAISO.
وكلاء الذكاء الاصطناعي يحتاجون إلى هوية وضوابط وصول
لا تقتصر مواجهة مخاطر الذكاء الاصطناعي على تحديد المسؤول البشري، إذ يمكن للتكنولوجيا نفسها أن تساعد الشركات في فرض رقابة أكبر على الأنظمة الوكيلة.
وقال جيم تايلور، كبير مسؤولي المنتجات والاستراتيجية في شركة RSA، لموقع ZDNET، إن ضوابط الهوية التي تستخدمها المؤسسات لحماية المستخدمين البشريين يمكن تطبيقها أيضًا على وكلاء الذكاء الاصطناعي.
وأوضح أن كل نموذج ذكاء اصطناعي أو عملية نشر للذكاء الاصطناعي الوكيلي يمكن أن تكون لها هوية وبيانات اعتماد ومستويات مختلفة من الوصول إلى البيانات والموارد، كما يمكن لبعض هذه الأنظمة تنفيذ مهام نيابة عن الموظفين.
تطبيق مبادئ Zero Trust وMFA على الذكاء الاصطناعي
يرى تايلور أن المؤسسات يمكنها الاستفادة من أدوات الحماية التقليدية، مثل كلمات المرور، ومبادئ الثقة المعدومة Zero Trust، والمصادقة متعددة العوامل MFA، لتطبيق ضوابط أكثر صرامة على أنظمة الذكاء الاصطناعي الوكيلي.
ويعني ذلك التعامل مع الوكيل باعتباره نظامًا يمتلك صلاحيات محددة ويحتاج إلى التحقق من هويته ومستوى وصوله قبل تنفيذ العمليات، بدلًا من منحه صلاحيات واسعة دون رقابة.
ولا يلغي هذا النهج الحاجة إلى وجود مسؤول بشري على مستوى القيادة، لكنه يمكن أن يدعم منظومة حوكمة الذكاء الاصطناعي ويمنح الشركات أدوات إضافية للسيطرة على الأنظمة ومراقبة نشاطها.
ربط كل وكيل ذكاء اصطناعي بمسؤول بشري
من المقترحات المطروحة إنشاء منصة مركزية تسجل جميع وكلاء الذكاء الاصطناعي المسموح لهم بالعمل داخل شبكات المؤسسة، مع ربط كل وكيل بموظف بشري محدد يتحمل مسؤولية الإشراف عليه.
ويمكن كذلك اشتراط الحصول على موافقة المسؤول البشري قبل تنفيذ الوكيل إجراءات مرتفعة الخطورة، بما يحد من قدرة الأنظمة على اتخاذ قرارات حساسة دون رقابة.
كما تحتاج المؤسسات إلى تطبيق ضوابط حوكمة تتوافق مع أطر العمل والمعايير الخاصة بكل قطاع، إلى جانب إجراء تقييمات دورية لوكلاء الذكاء الاصطناعي وإيقاف الأنظمة التي لم تعد هناك حاجة إليها.
الشركات أمام تحدي السيطرة على الذكاء الاصطناعي
مع استمرار الشركات في زيادة استثماراتها في الذكاء الاصطناعي، تتزايد الحاجة إلى تطوير أنظمة رقابة تتناسب مع طبيعة هذه التقنيات، خاصة مع دخول وكلاء قادرين على تنفيذ مهام متعددة إلى بيئات العمل.
وبحسب تايلور، فإن وكيل الذكاء الاصطناعي لن يتحمل المسؤولية عن خرق قواعد الامتثال، بل تقع المسؤولية على المؤسسة التي اختارت نشره واستخدامه.
وبالتالي، فإن توسع الشركات في استخدام الذكاء الاصطناعي لا يرتبط فقط بامتلاك التكنولوجيا، وإنما يحتاج أيضًا إلى تحديد واضح للمسؤوليات، وضبط صلاحيات الأنظمة، ومراقبة نشاطها، وربط عملياتها بمسؤولين بشريين قادرين على التدخل عند الحاجة.
