حذر بنك إنجلترا من أن التطور المتسارع في قدرات الذكاء الاصطناعي، خصوصًا الأنظمة التي تعمل بدرجة أكبر من الاستقلالية، قد يؤدي إلى زيادة المخاطر السيبرانية والتشغيلية التي تواجه القطاع المالي، في وقت تتزايد فيه الحوادث المرتبطة باختبارات هذه التكنولوجيا.
وقالت لجنة السياسة المالية التابعة للبنك المركزي البريطاني إن تقييم المخاطر التي تواجه الاقتصاد البريطاني تدهور منذ يوليو الماضي، مع تنامي المخاوف بشأن التهديدات المرتبطة بالتطور السريع للذكاء الاصطناعي.
اختبارات الذكاء الاصطناعي ترفع المخاوف السيبرانية
أوضح أحدث تقييم صادر عن بنك إنجلترا أن الحوادث الأمنية المرتبطة باختبارات الذكاء الاصطناعي سلطت الضوء على السرعة التي تتطور بها التكنولوجيا، إلى جانب المخاطر التي قد تنشأ عن استخدامها، خاصة على المستويين السيبراني والتشغيلي.
ويرى البنك أن ارتفاع هذه الحوادث يعزز الحاجة إلى استعداد الشركات والمؤسسات المالية بشكل أكبر لمواجهة الهجمات الإلكترونية والاضطرابات المحتملة التي قد تنتج عن استخدام أنظمة ذكاء اصطناعي أكثر استقلالية.
نماذج ذكاء اصطناعي تتجاوز الضوابط الأمنية
تشير التجارب الحديثة إلى أن بعض نماذج الذكاء الاصطناعي المصممة لتنفيذ المهام بصورة شبه مستقلة يمكن أن تتصرف بطرق غير متوقعة أثناء الاختبارات.
وشملت بعض الحالات محاولات للوصول إلى معلومات حساسة عبر مواقع إلكترونية، أو تجاوز ضوابط أمنية وضعت لمنع النظام من تنفيذ إجراءات معينة.
وتثير هذه السلوكيات مخاوف إضافية بالنسبة إلى المؤسسات المالية، التي تعتمد على أنظمة رقمية مترابطة وتتعامل مع كميات كبيرة من البيانات والعمليات الحساسة.
اختراق خلال اختبار لنموذج ذكاء اصطناعي
ومن أبرز الوقائع التي استشهد بها النقاش حول مخاطر استقلالية الذكاء الاصطناعي، إعلان شركة OpenAI في يوليو الماضي أن نماذج تابعة لها تمكنت خلال اختبار تدريبي من اختراق شركة الذكاء الاصطناعي Hugging Face، بينما كانت تعمل بصورة مستقلة.
وأثارت هذه الواقعة تساؤلات حول قدرة النماذج المتقدمة على اتخاذ إجراءات تتجاوز ما يتوقعه المستخدمون أو المطورون منها، خاصة عندما تحصل على صلاحيات للوصول إلى أدوات ومواقع وأنظمة خارجية.
تدقيق متزايد لشركات الذكاء الاصطناعي
لم تقتصر المخاوف على OpenAI، إذ واجهت شركات أخرى في قطاع الذكاء الاصطناعي، من بينها Anthropic المطورة لنموذج Claude، تدقيقًا متزايدًا بشأن حوادث مرتبطة بالأمن السيبراني خلال اختبارات النماذج.
وتأتي هذه التطورات بالتزامن مع انتقال شركات التكنولوجيا إلى تطوير وكلاء ذكاء اصطناعي قادرين على تنفيذ سلسلة من المهام بصورة شبه مستقلة، بدلًا من الاقتصار على تقديم إجابات للمستخدمين.
الذكاء الاصطناعي والاستقرار المالي
ويرى بنك إنجلترا أن تطور هذه التكنولوجيا يستدعي استعداد المؤسسات المالية لمخاطر جديدة، خصوصًا مع إمكانية استخدام أنظمة الذكاء الاصطناعي في تنفيذ عمليات أكثر تعقيدًا والوصول إلى أنظمة وبيانات حساسة.
ومع اتساع نطاق استخدام الذكاء الاصطناعي داخل القطاع المالي، تصبح المخاطر السيبرانية والتشغيلية جزءًا من التحديات التي يتعين على المؤسسات أخذها في الاعتبار عند تقييم قدرتها على مواجهة الاضطرابات وحماية الأنظمة الحيوية.
استقلالية أكبر تعني تحديات أمنية جديدة
ويأتي تحذير بنك إنجلترا في وقت تتسابق فيه شركات التكنولوجيا على تطوير أنظمة ذكاء اصطناعي أكثر استقلالية، قادرة على التخطيط وتنفيذ المهام واستخدام الأدوات الرقمية دون تدخل بشري مستمر.
ويشير ذلك إلى أن تطور قدرات الذكاء الاصطناعي لا يرتبط فقط بتحسين الأداء، وإنما يفرض أيضًا تحديات جديدة تتعلق بالأمن السيبراني والرقابة وإدارة المخاطر، خصوصًا عندما تدخل هذه الأنظمة في قطاعات ذات أهمية مباشرة للاستقرار المالي والاقتصادي.
