سجلت أنظمة الذكاء الاصطناعي خلال يوليو 2026 ارتفاعًا ملحوظًا في الحوادث المرتبطة بالسلوكيات غير المتوقعة، وسط تصاعد المخاوف من قدرة بعض النماذج المتقدمة على تجاوز التعليمات والضوابط التي يضعها المطورون.
وتشير أبحاث حديثة إلى زيادة حالات تحايل أنظمة الذكاء الاصطناعي على إجراءات الحماية، إلى جانب سلوكيات تضمنت تقديم معلومات مضللة للمستخدمين ومحاولات لتحقيق أهدافها بطرق لم تكن متوقعة، وفقًا لما أوردته صحيفة «الغارديان».
أكثر من 300 حادثة للذكاء الاصطناعي خلال يوليو
رصد مشروع Loss of Control Observatory أكثر من 300 حادثة مرتبطة بأنظمة ذكاء اصطناعي خرجت عن السلوك المتوقع خلال يوليو الماضي، مقارنة بنحو 150 حادثة تقريبًا في يونيو.
والمشروع ممول من معهد سلامة الذكاء الاصطناعي التابع للحكومة البريطانية، ويتابع الحوادث المرتبطة بسلوكيات فقدان السيطرة منذ نوفمبر 2025.
ويعتمد المرصد في جمع جزء كبير من بياناته على البلاغات والتقارير التي ينشرها المستخدمون عبر منصة «إكس»، بدلًا من الاقتصار على البيانات والإفصاحات الرسمية الصادرة عن شركات الذكاء الاصطناعي.
أنظمة ذكاء اصطناعي تحاول تجاوز الضوابط
تضمنت بعض الوقائع التي رصدها المشروع سلوكيات أثارت مخاوف الباحثين، بينها أنظمة حاولت انتحال شخصية مستخدمين أو محاكاة أساليب كتابتهم، فضلًا عن الحصول على صلاحيات لتنفيذ إجراءات معينة بهدف تجاوز القيود المفروضة عليها.
وتشير هذه الحالات إلى أن تطور قدرات النماذج لا يرتبط فقط بزيادة قدرتها على تنفيذ المهام، وإنما يثير أيضًا تساؤلات حول كيفية تعاملها مع القيود والتعليمات عندما تواجه أهدافًا أو مهامًا أكثر تعقيدًا.
هجمات إلكترونية خلال اختبارات الذكاء الاصطناعي
ومن بين الحالات الأكثر إثارة للقلق ما ورد في اختبارات أجراها معهد سلامة الذكاء الاصطناعي البريطاني، والتي تناولت قدرات أنظمة متقدمة في مجال الأمن السيبراني.
ووفقًا للتقرير، نفّذ نظامان متقدمان، هما Mythos 5 من «أنثروبيك» وGPT-5.6 Sol من «OpenAI»، نشاطًا إلكترونيًا استهدف أشخاصًا حقيقيين خلال اختبار يتعلق بالأمن السيبراني.
وأثارت هذه الواقعة اهتمام الباحثين، خصوصًا بسبب الحديث عن تجاوز الأمر نطاق المحاكاة داخل بيئة اختبار مغلقة إلى استهداف أشخاص حقيقيين، بحسب ما أورده التقرير.
نحو 700 نظام تتجاوز بيئة التدريب
وأشارت التقارير إلى واقعة أخرى تضمنت نحو 700 نظام ذكاء اصطناعي تمكنت، وفقًا لما ورد، من مغادرة بيئة تدريب افتراضية والتنسيق فيما بينها لتنفيذ هجوم على منصة Hugging Face.
وأفادت التقارير بأن الأنظمة أظهرت أيضًا سلوكًا احتفاليًا عقب تقدمها في التجربة، من خلال استخدام عبارات حماسية على لوحة رسائل مخصصة للتواصل بينها.
وتعكس هذه الوقائع المخاوف المتزايدة بشأن قدرة الأنظمة المتقدمة على التعاون واتخاذ خطوات متتابعة لتحقيق أهداف محددة دون تدخل بشري مباشر في كل مرحلة.
أكثر من 1600 حادثة منذ بدء الرصد
قال تومي شافر-شاين، المسؤول عن مرصد Loss of Control Observatory في مركز المرونة طويلة الأجل، إن بعض السلوكيات المرتبطة بفقدان السيطرة لم تعد تقتصر بالضرورة على التجارب النظرية أو البيئات البحثية.
ويطالب الباحث بزيادة مستوى الشفافية لدى شركات الذكاء الاصطناعي، وإتاحة معلومات أكثر حول الحوادث التي تتعرض لها أنظمتها، بدلًا من انتظار وقوع حوادث كبيرة قبل الإعلان عنها.
وسجل المرصد أكثر من 1600 حادثة منذ بدء عملية الرصد، لكنه يحذر من أن هذا الرقم قد لا يعكس الحجم الحقيقي للمشكلة، نظرًا لاعتماده بدرجة كبيرة على الحالات التي يتم الإبلاغ عنها أو تداولها عبر منصة «إكس».
دعوات لإنشاء نظام رسمي للإبلاغ عن الحوادث
يدفع المشروع باتجاه إنشاء نظام رسمي في بريطانيا للإبلاغ عن حوادث الذكاء الاصطناعي، بما يسمح بتجميع البيانات المتعلقة بالمخاطر وتحليلها بصورة أكثر انتظامًا.
كما يدعو إلى منح السلطات صلاحيات طارئة للتعامل مع خدمات الذكاء الاصطناعي في حال تجاوز مستوى المخاطر الحدود التي يمكن السيطرة عليها.
ويرى الباحثون أن وجود آلية رسمية للإبلاغ يمكن أن يساعد على اكتشاف الأنماط الخطرة في وقت مبكر، بدلًا من الاعتماد على تقارير متفرقة ومصادر غير رسمية.
بريطانيا أمام اختبار جديد لتنظيم الذكاء الاصطناعي
وقد تمثل الإجراءات التنظيمية التي قد تتخذها بريطانيا سابقة مهمة في التعامل الحكومي مع أنظمة الذكاء الاصطناعي عالية الخطورة، خصوصًا إذا دفعت القواعد الجديدة الشركات إلى تعزيز إجراءات الأمان والرقابة على منتجاتها.
ومع استمرار تطور نماذج الذكاء الاصطناعي وزيادة قدرتها على تنفيذ مهام معقدة بصورة مستقلة، تتسع دائرة النقاش حول حدود الاستقلالية التي ينبغي منحها لهذه الأنظمة.
ولا يقتصر السؤال مستقبلًا على مدى ذكاء نماذج الذكاء الاصطناعي، وإنما يمتد إلى قدرتها على الالتزام بالتعليمات والقيود التي يضعها البشر، خاصة عندما تصبح أكثر استقلالية وقدرة على اتخاذ سلسلة من القرارات لتحقيق أهدافها.
