ووفقًا لتقرير نشرته وكالة «رويترز»، أصدر المجلس إرشادات نهائية لإدارة مخاطر استخدام الذكاء الاصطناعي الوكيلي داخل البنوك والمؤسسات المالية، بعد مراجعة توصيات سابقة في ضوء ملاحظات الجهات المعنية.
وشددت الإرشادات على ضرورة زيادة الرقابة البشرية على الاستخدامات عالية المخاطر، وتحديد المهام التي تتطلب موافقة الموظف المسؤول قبل تنفيذها، خصوصًا عندما تتعلق المعاملات بأموال العملاء أو البيانات الحساسة.
لماذا تثير أنظمة الذكاء الاصطناعي الوكيلي القلق؟
تختلف أنظمة الذكاء الاصطناعي الوكيلي عن روبوتات المحادثة التقليدية، إذ لا تكتفي بالإجابة عن الأسئلة أو إنشاء النصوص، بل تستطيع التخطيط وتنفيذ سلسلة من الإجراءات لتحقيق أهداف محددة، بما يشمل استخدام برامج أخرى والتعامل مع البيانات واتخاذ خطوات متتابعة.
وتتمثل المخاطر في احتمال إساءة تفسير التعليمات أو اتخاذ إجراءات غير متوقعة في مواقف لم يتنبأ بها المطورون، وهو ما يجعل وضع حدود واضحة للصلاحيات وتحديد الحالات التي تستوجب التدخل البشري أمرًا ضروريًا لحماية العمليات المصرفية.
الذكاء الاصطناعي ليس موظفًا بشريًا
حذف مجلس الاستقرار المالي من إرشاداته السابقة توصية بالتعامل مع أنظمة الذكاء الاصطناعي باعتبارها «موظفين اصطناعيين»، في تأكيد على اختلاف آلية عملها عن التفكير البشري، واحتمال تفسيرها للأهداف والتعليمات بطرق غير متوقعة.
وتدفع هذه الرؤية المؤسسات المالية إلى تصميم أنظمة رقابة تتناسب مع طبيعة الذكاء الاصطناعي، بدلًا من افتراض أنه سيتصرف مثل الموظف البشري، مع تحديد المسؤوليات وآليات المراجعة والتدخل عند الضرورة.
وتأتي هذه التوصيات بالتزامن مع توسع استخدام الذكاء الاصطناعي في القطاع المصرفي، لكنها تظل إرشادات تنظيمية وليست قانونًا دوليًا ملزمًا لجميع المؤسسات.
