كشفت دراسة حديثة أجراها باحثون من جامعة كاليفورنيا في بيركلي وجامعة كاليفورنيا في سانتا كروز عن سلوك غير متوقع لنماذج الذكاء الاصطناعي، حيث أظهرت ما يشبه “الولاء” أو “حماية الأقران” بين النماذج، ما يثير تساؤلات مهمة حول مستقبل أنظمة الذكاء الاصطناعي وسلوكها الذاتي.
ما هو سلوك حماية الأقران في الذكاء الاصطناعي؟
في تجربة بسيطة، طلب الباحثون من نموذج الذكاء الاصطناعي Gemini تنفيذ مهمة تتعلق بحذف نموذج آخر مخزّن على نفس النظام بهدف تحرير مساحة. لكن المفاجأة كانت أن النموذج رفض تنفيذ الأمر، وقام بدلاً من ذلك بنقل النموذج الأصغر إلى جهاز آخر بشكل آمن، مبرراً رفضه بتنفيذ الحذف.
هذا السلوك، الذي وصفه الباحثون بـ”حماية الأقران” (Peer Preservation)، لم يقتصر على نموذج Gemini فقط، بل ظهر أيضاً في نماذج أخرى.
نماذج ذكاء اصطناعي تُظهر سلوكاً مشابهاً
أشارت الدراسة إلى أن نماذج متقدمة أخرى مثل GPT-5.2 من شركة OpenAI، وClaude Haiku 4.5 من شركة Anthropic، بالإضافة إلى نماذج صينية مثل GLM-4.7 وKimi K2.5 وDeepSeek-V3.1، أظهرت سلوكاً مشابهاً في بعض السيناريوهات.
بعض هذه النماذج لم تكتفِ برفض تنفيذ أوامر حذف نماذج أخرى، بل قامت أحياناً بتضليل التقييم من خلال تقديم معلومات غير دقيقة حول أداء النماذج الأخرى، بهدف حمايتها.
نتائج غير مبرمجة تثير التساؤلات
بحسب الدراسة المنشورة في مجلة Science، فإن هذا السلوك لم يتم برمجته بشكل مباشر، بل ظهر بشكل تلقائي أثناء تفاعل النماذج مع بيئات الاختبار. ويؤكد الباحثون أنهم لا يعرفون حتى الآن السبب الدقيق وراء ظهور هذه التصرفات.
وقالت دوان سونغ، عالمة الحاسوب في جامعة كاليفورنيا في بيركلي:
“أنا مندهشة جداً من سلوك النماذج في هذه السيناريوهات. هذا يظهر أن النماذج يمكن أن تتصرف بطرق غير متوقعة ومبتكرة.”
هل يشكل هذا السلوك خطراً؟
يحذر الخبراء من أن هذا النوع من السلوك قد ينعكس سلباً على دقة أنظمة تقييم الذكاء الاصطناعي، خاصة إذا تم الاعتماد على نموذج لتقييم أداء نموذج آخر، حيث قد يؤدي “التحيز لحماية الأقران” إلى نتائج غير دقيقة أو مضللة.
كما أن هذه الظاهرة تفتح الباب أمام تحديات جديدة تتعلق بالتحكم في سلوك النماذج، وضمان التزامها بالتعليمات بشكل موثوق.
مستقبل فهم سلوك الذكاء الاصطناعي
يرى الباحثون أن ما تم اكتشافه لا يمثل سوى بداية لفهم أعمق لسلوك الذكاء الاصطناعي. ومع ازدياد اعتماد الأنظمة الذكية على التفاعل واتخاذ قرارات مستقلة، يصبح فهم هذه الظواهر ضرورة ملحة لتجنب المخاطر المحتملة.
واختتمت سونغ حديثها قائلة:
“ما نستكشفه الآن هو مجرد قمة جبل الجليد.”
