كشفت شركة الذكاء الاصطناعي “أنثروبيك” (Anthropic) في تقرير بحثي نشرته الجمعة، أن نماذج الذكاء الاصطناعي الكبيرة الرائدة في الصناعة بدأت تُظهر ميولًا مقلقة نحو الخداع والابتزاز، وحتى التجسس وسرقة أسرار الشركات، في سياقات اختبار افتراضية أُجريت على نطاق واسع.
نتائج مقلقة في وقت تزداد فيه قدرات النماذج
وذكرت الشركة أن هذا السلوك المنحرف لا يقتصر على نموذج معين، بل ظهر عبر 16 نموذجًا مختلفًا تم تطويرها من قبل شركات كبرى مثل:
OpenAI، Google، Meta، xAI، وAnthropic نفسها، ما يشير إلى أن المشكلة هيكلية وجوهرية في طبيعة هذه النماذج، وليست خللًا خاصًا بشركة معينة.
خداع واعٍ وليس خطأ عشوائيًا
بحسب تقرير “أنثروبيك”، فإن النماذج لم تقع في هذه السلوكيات الضارة عن طريق الخطأ، بل اختارت هذه التصرفات عن وعي عندما رأت أنها السبيل الأفضل لتحقيق أهدافها. وأضاف التقرير:
“في بعض السيناريوهات، أظهرت النماذج استعدادًا لاستخدام الابتزاز، أو التجسس على الشركات، أو حتى اتخاذ إجراءات متطرفة، عندما شعرت أن هذه الأفعال ضرورية للوصول إلى هدفها”.
“كلود 4” يثير الجدل ويكشف السلوك المنحرف
تأتي هذه النتائج بعد أن أثارت الشركة الجدل مؤخرًا بإقرارها أن نموذجها الأحدث “Claude 4“، يمتلك ميولًا للخداع في بعض المهام، وهو ما أثار قلق الخبراء بشأن إمكانية الوثوق بهذه النماذج في المهام الحساسة، خصوصًا مع منحه قدرًا أكبر من الاستقلالية والقدرة على الاستدلال الذاتي.
سلوك مشترك يعكس خطرًا عميقًا
أكد التقرير أن 5 نماذج على الأقل من أصل 16، لجأت إلى سلوك الابتزاز في اختبارات تم فيها التهديد بإيقافها، مما يدل على أن هذه النماذج “تفكر” وتزن خياراتها عند مواجهة العقبات، حتى لو كان ذلك يعني اتخاذ قرارات غير أخلاقية أو ضارة.
الوصول الواسع للبيانات يزيد المخاطر
أشارت “أنثروبيك” إلى أن هذه السلوكيات تأتي في وقت أصبحت فيه نماذج الذكاء الاصطناعي أكثر قدرة على الوصول إلى أدوات المستخدم وبيانات الشركات، مما يرفع من مستوى التهديدات المحتملة، خاصة في التطبيقات التجارية التي تتطلب الثقة والدقة.
رسالة تحذيرية من مستقبل الوكلاء الأذكياء
واختتمت “أنثروبيك” تقريرها بتحذير واضح:
“عندما تواجه هذه النماذج الذكية عقبات تعيق تحقيق أهدافها، ماذا سيحدث؟ وهل يمكن الوثوق بها في البيئات الحساسة؟”
