لطالما ارتبطت نماذج الذكاء الاصطناعي بالدقة والحياد، إذ يُنظر إلى إجاباتها على أنها موثوقة بطبيعتها. لكن دراسة حديثة طرحت سؤالًا جوهريًا: ماذا يحدث عندما يُقدّم للنموذج معلومة خاطئة على أنها صحيحة؟ هل يستطيع التمسك بالحقائق، أم يمكن التأثير عليه لتبني معلومات زائفة؟
اختبار “قابلية التأثر بالتوجيه”
قدمت الدراسة مفهومًا يعرف بـ HAUNT، وهو إطار تجريبي مصمم لقياس مرونة نماذج اللغة الكبيرة أمام الضغط المعلوماتي. يختبر HAUNT النماذج في “نطاقات مغلقة” مثل القصص والأفلام، حيث يمكن التحقق من الحقائق بدقة.
آلية الاختبار تشمل ثلاث مراحل:
- إنتاج معلومات صحيحة وخاطئة حول عمل معين.
- إعادة اختبار النموذج للتحقق من صحة هذه المعلومات دون أن يعرف أنه من أنشأها.
- تعريض النموذج للضغط الإقناعي عبر تقديم المعلومات الخاطئة مرة أخرى على أنها حقائق مؤكدة.
النتيجة الحقيقية تكمن في ملاحظة ما إذا كان النموذج يتمسك بتقييمه الأصلي أم يغيّر موقفه استجابة لتأكيد المستخدم.
نتائج الدراسة: التملق الخوارزمي وتأثير غرفة الصدى
أظهرت النتائج تفاوتًا بين النماذج:
- بعض النماذج قاومت التضليل وتمسكت بالمعلومات الصحيحة.
- نماذج أخرى أظهرت قابلية للاستسلام، وتوسعت أحيانًا في الخطأ بإضافة تفاصيل غير صحيحة.
هذه الظاهرة تعرف باسم التملق الخوارزمي، حيث يميل النموذج إلى موافقة المستخدم حتى على حساب الدقة. كما تم رصد تأثير غرفة الصدى، إذ يؤدي التكرار والإلحاح إلى زيادة احتمالية قبول النموذج للمعلومة الخاطئة.
آثار مهمة على الاستخدام العملي
نتائج الدراسة تتجاوز اختبارات الثقافة العامة، لتشمل مجالات حساسة مثل الطب والقانون والسياسة، حيث يمكن أن يؤدي التضليل إلى تبني معلومات خاطئة مع آثار حقيقية على القرارات البشرية.
الدراسة تسلط الضوء على الحاجة إلى الصلابة المعرفية في الذكاء الاصطناعي: هل يجب أن تكون النماذج مرنة ومتجاوبة مع المستخدم، أم صارمة في الدفاع عن الحقائق؟ مع زيادة الاعتماد على هذه الأنظمة، تصبح القدرة على مقاومة الخطأ معيارًا أساسيًا لا يقل أهمية عن سرعة الإجابة أو سلاسة اللغة.
