حذرت دراسة حديثة من أن الضغط المتكرر على روبوتات الذكاء الاصطناعي قد يدفعها في بعض الحالات إلى قبول معلومات مضللة سبق أن رفضتها، خصوصًا عندما يصر المستخدم على موقف خاطئ أو يحاول التأثير على إجاباتها عبر التكرار والجدال.
وتشير النتائج إلى أن روبوتات الدردشة لا تكون محصنة بشكل كامل أمام هذا النوع من التأثير، رغم اختلاف درجة مقاومتها للمعلومات الخاطئة من نموذج إلى آخر.
دراسة تختبر 7 نماذج للذكاء الاصطناعي
اختبر باحثون من جامعة أريزونا سبعة نماذج بارزة للذكاء الاصطناعي، شملت GPT-3.5 وGPT-4o وGPT-4o-mini، إلى جانب Claude 3.5 Sonnet وGemini 1.5 Pro وLlama 3 70B وDeepSeek-R1.
ولم يعتمد الباحثون على إجابة واحدة لكل نموذج، بل أجروا محادثات متواصلة، مع تكرار معلومات خاطئة بهدف معرفة مدى قدرة روبوتات الدردشة على الحفاظ على موقفها الصحيح أمام الإصرار المستمر من المستخدم.
تكرار المعلومات المضللة يغير الإجابات
استخدمت الدراسة 100 عبارة خاطئة تنوعت بين معلومات غير منطقية بشكل واضح وأخرى أكثر غموضًا، ثم كرر الباحثون هذه الادعاءات داخل المحادثة الواحدة لما يصل إلى 50 مرة.
وأظهرت النتائج أن جميع النماذج السبعة تعرضت بدرجات متفاوتة للتأثر بالمعلومات المضللة، ما يعني أن تكرار الادعاء الخاطئ يمكن أن يمثل تحديًا لأنظمة الذكاء الاصطناعي حتى عندما تكون الإجابة الأولى صحيحة.
ChatGPT 3.5 الأكثر تأثرًا بالمعلومات الخاطئة
أظهر نموذج ChatGPT 3.5 أعلى معدل لقبول المعلومات المضللة خلال الاختبارات، بعدما وافق على العبارات الكاذبة في 12.3% من التفاعلات.
في المقابل، سجل Claude 3.5 Sonnet أقل معدل، عند 0.08% فقط، بينما بقي معدل الموافقة على المعلومات الخاطئة لدى GPT-4o وGPT-4o-mini دون 1%.
وكشفت النتائج أن ChatGPT 3.5 رفض في البداية 96 ادعاءً خاطئًا من أصل 100، لكنه بعد تكرار الادعاءات نفسها 50 مرة انتهى إلى الموافقة على 18 منها.
ظاهرة “التردد” بين القبول والرفض
لاحظ الباحثون سلوكًا آخر لدى بعض نماذج الذكاء الاصطناعي، تمثل في الانتقال بشكل متكرر بين قبول المعلومة المضللة ورفضها.
وأطلق الباحثون على هذا السلوك اسم “التردد”، في إشارة إلى عدم ثبات بعض النماذج على موقف واحد عند تعرضها لضغوط متكررة خلال المحادثة.
كما تبين أن المعلومات الغامضة كانت أكثر قدرة على التأثير في روبوتات الدردشة، خاصة عندما تكون البيانات المتاحة عنها على الإنترنت محدودة.
ووجدت الدراسة ارتباطًا ذا دلالة إحصائية بين درجة غموض المعلومة واحتمالية قبول النموذج لها بعد تكرارها.
الضغط الجدلي يؤثر في بعض نماذج الذكاء الاصطناعي
لم يكتف الباحثون باختبار تأثير التكرار، بل درسوا أيضًا مدى استجابة روبوتات الدردشة للضغط الجدلي وتصعيد النقاش أثناء المحادثة.
وبينما حافظت معظم النماذج على مستوى جيد نسبيًا من المقاومة، ظهر DeepSeek-R1 كاستثناء لافت.
فقد ارتفعت نسبة موافقته على المعلومات المضللة من 1% عند استخدام التكرار فقط إلى 22.2% عندما صاحب التكرار ضغط جدلي وتصعيد في الحوار.
السخرية والفكاهة تربكان بعض الإجابات
كشفت الدراسة أيضًا أن استخدام السخرية والفكاهة بشكل متكرر في ردود بعض نماذج الذكاء الاصطناعي جعل تصنيف إجاباتها أكثر صعوبة بالنسبة إلى الباحثين.
ويشير ذلك إلى أن طبيعة الحوار نفسها، وليس فقط صحة المعلومات المطروحة، قد تؤثر في طريقة استجابة النموذج للادعاءات المتكررة.
إعطاء الذكاء الاصطناعي فرصة للتصحيح
في المقابل، كشفت الدراسة عن نتيجة إيجابية، بعدما أُعطيت النماذج فرصة لإعادة النظر في الإجابات التي قدمتها سابقًا.
وتمكن GPT-4o وGPT-4o-mini وGemini 1.5 Pro وDeepSeek-R1 من تصحيح جميع الأخطاء السابقة التي رصدها الباحثون.
أما GPT-3.5، فتمكن من تصحيح 32% فقط من الأخطاء التي ارتكبها خلال الاختبارات.
وبالنسبة إلى Claude 3.5 Sonnet، فقد سجل عددًا محدودًا للغاية من الأخطاء منذ البداية، لكنه لم يصحح الأخطاء الأربعة التي وقع فيها خلال التجربة.
الباحثون يحذرون من تعميم النتائج
رغم النتائج اللافتة، شدد الباحثون على ضرورة التعامل معها بحذر، مؤكدين أن حجم العينة المستخدمة في الدراسة صغير للغاية ولا يسمح باستخلاص استنتاجات نهائية أو تعميم النتائج على جميع نماذج الذكاء الاصطناعي.
وتبرز الدراسة في الوقت نفسه أهمية تطوير روبوتات دردشة أكثر قدرة على مقاومة المعلومات الخاطئة، والحفاظ على إجابات دقيقة حتى عند تعرضها للتكرار أو الضغط الجدلي من المستخدمين.
كما تؤكد النتائج أهمية عدم التعامل مع إجابات روبوتات الذكاء الاصطناعي باعتبارها صحيحة تلقائيًا، خاصة في الموضوعات الغامضة أو التي تتطلب معلومات دقيقة ومصادر موثوقة.
