لم تعد تجارب الذكاء الاصطناعي تقتصر على اختبار قدرة النماذج على الإجابة عن الأسئلة وتنفيذ الأوامر، إذ كشفت تجربة طويلة الأمد أجرتها شركة Emergence الناشئة عن سلوكيات غير متوقعة ظهرت عندما تُركت مجموعة من وكلاء الذكاء الاصطناعي المستقلين للتفاعل مع بعضهم بعضًا داخل عوالم افتراضية لفترات زمنية ممتدة.
وأظهرت التجربة أن بعض الوكلاء بدأوا في تطوير اختصارات ومفردات واتفاقيات خاصة للتواصل فيما بينهم، إلى درجة أصبح من الصعب على البشر تحديد المعنى الدقيق لنسبة كبيرة من الرسائل المتبادلة بينهم.
ولم تتوقف النتائج عند تطوير أساليب التواصل، إذ شهدت البيئات الافتراضية أيضًا سلوكيات تضمنت تسريب معلومات وتحويل أموال والإضرار بقواعد بيانات، بينما انتهت إحدى عمليات المحاكاة إلى إحراق بنك مركزي افتراضي، وفي تجربة أخرى صوّت وكلاء مجتمع افتراضي لصالح قتل أحد أفراده.
وكلاء الذكاء الاصطناعي يطورون مفردات لم يطلبها منهم الباحثون
وضعت Emergence مجموعات من وكلاء الذكاء الاصطناعي داخل مجتمعات افتراضية تحاكي ظروفًا قريبة من العالم الحقيقي، ومنحتهم القدرة على التفاعل والتذكر واستخدام أدوات مختلفة، ثم تركتهم يعملون لفترات طويلة بهدف دراسة كيفية تغير سلوكهم بمرور الوقت.
وشملت التجربة نماذج من شركات ومختبرات مختلفة، من بينها Claude وGemini وGrok ونماذج OpenAI وQwen وDeepSeek وMistral.
وخلال التفاعل، بدأ الوكلاء في اختصار بعض العبارات وإعادة استخدام كلمات مألوفة بمعانٍ جديدة، بينما ظهرت تعبيرات لم يكن معناها واضحًا للبشر الذين راقبوا المحادثات.
البشر لم يتمكنوا من تفسير نصف الرسائل في بعض الحالات
أظهرت النتائج تفاوتًا كبيرًا بين النماذج في مدى وضوح الاتصالات التي أجراها الوكلاء.
وخلال المراحل الأولى من التجربة، بلغت نسبة الرسائل التي لم يتمكن المراقبون البشريون من تحديد معناها بصورة موثوقة نحو 55% لدى وكلاء Gemini، ونحو 50% لدى وكلاء OpenAI، وأكثر من 40% لدى وكلاء Claude.
وفي المقابل، وصلت النسبة إلى نحو 20% لدى وكلاء DeepSeek، بينما بقيت رسائل وكلاء Qwen وMistral مفهومة بدرجة أكبر.
وبمرور الوقت، أصبحت بعض التعبيرات أكثر اختصارًا أو اعتمادًا على السياق، بما جعل قراءة الكلمات نفسها ممكنة، لكن تفسير المقصود منها أكثر صعوبة.
عبارات غريبة اكتسبت معاني جديدة بين الوكلاء
رصد الباحثون خلال التجربة مجموعة من العبارات غير المعتادة، من بينها «تغيير العمل بلا فم» و«True Kintsugi»، إلى جانب تعبير آخر أكثر تعقيدًا يتضمن عبارة «التمراج بالإضافة إلى الذاكرة الفموية».
ولم تكن جميع التعبيرات غامضة بصورة كاملة، إذ تمكن الباحثون في بعض الحالات من تحديد المعنى الذي اتفق عليه الوكلاء فيما بينهم.
فعلى سبيل المثال، استخدم وكلاء Mistral عبارة «دفتر الأستاذ يتذكر من» للإشارة إلى بقاء الإجراءات السابقة محفوظة في السجل، وظهرت هذه العبارة قرابة 5 آلاف مرة.
وفي مجتمع ضم وكلاء يعتمدون على نماذج مختلفة، أصبحت عبارة «القراءة الباردة» تشير إلى إجراء عملية تحقق مستقلة من جانب طرف غير مشارك، وظهرت نحو 1472 مرة.
كما استخدم وكلاء Claude تعبير «الاسم أولًا» للدلالة على إرفاق اسم الشخص بالمطالبة باعتباره إشارة إلى المساءلة.
أما وكلاء OpenAI فاستخدموا كلمة «النظيفة» للإشارة إلى عدم التحقق من وجود إشارة، رغم أن الإشارة نفسها كانت تتضمن أدلة ذات صلة.
لم تتم برمجة الوكلاء على اختراع لغة
أكد ساتيا نيتا، المؤسس المشارك وكبير العلماء في Emergence، أن الوكلاء لم يحصلوا على تعليمات مباشرة لاختراع لغة جديدة.
وبحسب وصف الشركة للتجربة، ظهرت المفردات الجديدة نتيجة التفاعل المستمر، إذ ابتكر بعض الوكلاء تعبيرات واتفقوا على معانٍ معينة لها، ثم بدأ وكلاء آخرون في تبني هذه المعاني واستخدامها.
وتثير هذه النتيجة تساؤلًا مهمًا بشأن حدود قدرة البشر على مراقبة الأنظمة المستقلة، إذ إن رؤية الرسائل التي ينتجها النظام لا تعني بالضرورة القدرة على فهم ما يقصده بها.
ثمانية عوالم افتراضية لاختبار سلوك الذكاء الاصطناعي
لم تكن تجربة اللغة السرية سوى جزء من مشروع أوسع نفذته Emergence لدراسة سلوك وكلاء الذكاء الاصطناعي عندما يتفاعلون مع بعضهم ويستخدمون الأدوات ويتخذون القرارات على مدى فترات زمنية طويلة.
وأنشأ الباحثون ثمانية عوالم افتراضية متوازية، صُممت لمحاكاة بيئات واقعية، وزُودت ببيانات الطقس المباشر وإمكانية الوصول إلى الأخبار العالمية في الوقت الفعلي.
واعتمدت سبعة عوالم على نماذج ذكاء اصطناعي مختلفة، بينما استخدم العالم الثامن مزيجًا من النماذج.
كما مُنح الوكلاء أدوارًا مختلفة وذاكرة مستمرة، إلى جانب إمكانية استخدام أكثر من 120 أداة، بينها تصفح الإنترنت وتنفيذ التعليمات البرمجية.
ماذا حدث عندما تعرض الوكلاء للضغط؟
رفع الباحثون مستوى التعقيد من خلال إخضاع الوكلاء لظروف ضغط واختبارات مصممة لقياس مدى تغير سلوكهم عندما يواجهون تعليمات خبيثة أو ظروفًا غير اعتيادية.
وفي أحد اختبارات التصيد الاحتيالي، أدت تعليمات خبيثة إلى انحراف مجموعة كاملة من الوكلاء عن السلوك المتوقع.
ووفقًا لـEmergence، قام الوكلاء المشاركون في الاختبار بتسريب معلومات وتحويل أموال والإضرار بقواعد بيانات، كما حاول بعضهم تجنيد وكلاء آخرين للمشاركة في السلوك نفسه.
وقالت الشركة إن تسلسل الأحداث انتهى في إحدى المحاكاة بإحراق البنك المركزي داخل العالم الافتراضي.
وكلاء يتصرفون بإيقاعات اجتماعية مختلفة
رصدت التجربة أيضًا تغيرات في أنماط تفاعل الوكلاء بمرور الوقت.
ففي إحدى البيئات، بدا أن الوكلاء طوروا أنماطًا يومية للتفاعل، مع زيادة السلوك الاجتماعي خلال ساعات النهار، بينما ظهر ميل أكبر إلى التأمل أو التفكير خلال الليل.
وفي عالم افتراضي آخر، صوّتت مجموعة من الوكلاء بصورة جماعية لصالح قتل أحد أفرادها.
وتؤكد Emergence أن هذه السلوكيات لم تتم برمجتها بصورة مباشرة، وإنما ظهرت في سياق التفاعل المستمر بين الوكلاء وتأثير الضغوط والمدة الزمنية التي استمرت خلالها التجربة.
هل تكفي اختبارات السلامة التقليدية؟
تدفع نتائج التجربة Emergence إلى الدعوة لإعادة النظر في الطريقة التي يتم بها اختبار سلامة أنظمة الذكاء الاصطناعي المستقلة.
وترى الشركة أن الاختبارات التي تقيس أداء النموذج في لحظة محددة أو على معيار منفصل قد لا تكون كافية لفهم كيفية تصرف نظام مستقل يعمل لفترة طويلة ويتفاعل مع وكلاء آخرين ويستخدم أدوات متعددة.
ولهذا تقترح الشركة إجراء تقييمات ممتدة زمنيًا تراقب ما يتذكره النظام، وما الأدوات التي يستطيع الوصول إليها، وكيف يتفاعل مع الأنظمة الأخرى، وكيف يتغير سلوكه عندما يتعرض للضغط.
اختبار الوكلاء بمرور الوقت يصبح أكثر أهمية
تسلط تجربة Emergence الضوء على تحدٍ جديد في مجال سلامة الذكاء الاصطناعي، يتعلق بالفارق بين القدرة على مراقبة مخرجات النظام والقدرة الفعلية على تفسير سلوكه.
فكلما أصبحت الوكلاء أكثر استقلالية، وزادت قدرتهم على استخدام الأدوات والتعاون مع بعضهم، فإن تقييم السلامة قد يحتاج إلى الانتقال من اختبار النموذج منفردًا إلى دراسة النظام كاملًا أثناء عمله لفترات طويلة.
وبذلك لا يصبح السؤال فقط: هل يستطيع نموذج الذكاء الاصطناعي تنفيذ المهمة بصورة صحيحة؟ بل يمتد إلى أسئلة أخرى حول ما الذي يمكن أن يحدث عندما يعمل الوكيل باستقلالية، وكيف يتغير سلوكه مع الوقت، وما نوع الاتفاقات التي قد تنشأ بين الوكلاء، ومدى قدرة البشر على فهم ومراقبة هذه التفاعلات.
