وتثير النتائج تساؤلات بشأن جودة البيانات المستخدمة في تدريب نماذج الذكاء الاصطناعي، خاصة مع الانتشار الواسع للمحتوى منخفض القيمة على منصات التواصل الاجتماعي، وإمكانية انتقال تأثيراته إلى الأنظمة التي تتعلم منه.
وقاد الدراسة الدكتور تشنغتشونغ تو، الأستاذ المساعد بجامعة تكساس إيه آند إم الأميركية، بمشاركة فريق بحثي، وقُبلت للمشاركة في مؤتمر نمذجة اللغة لعام 2026، وفقًا لتقرير نشره موقع «Digital Trends» واطلعت عليه «العربية Business».
كيف اختبر الباحثون تأثير المحتوى الرديء في الذكاء الاصطناعي؟
جمع الباحثون مليون منشور عام من منصة «تويتر» يعود إلى عام 2010، ثم صنفوا المنشورات التي اعتبروها محتوى منخفض الجودة أو محدود القيمة.
وشملت الفئة المستهدفة منشورات قصيرة تقل عن 30 وحدة لغوية، لكنها تحظى بشعبية كبيرة تتجاوز 500 تفاعل من الإعجابات وإعادة النشر والردود.
واستعان الفريق بنموذج GPT-4o mini لتحديد منشورات تتسم بالإفراط في استخدام الوسوم، أو الكلمات المكتوبة بأحرف كبيرة، أو اللغة التي توحي بالإلحاح، أو تناول موضوعات تافهة.
بعد ذلك، درّب الباحثون أربعة نماذج للذكاء الاصطناعي، من بينها Llama 3 الذي يضم 8 مليارات معامل، وثلاثة نماذج من عائلة Qwen، باستخدام كميات متفاوتة من المحتوى المصنف على أنه منخفض الجودة.
واختبر الفريق أداء النماذج في مجموعة من المهام المرتبطة بالاستدلال والذاكرة والأخلاقيات والشخصية، بهدف رصد التغيرات التي قد تحدث نتيجة التعرض لهذا النوع من البيانات.
«تجاوز التفكير».. كيف تراجعت قدرات النماذج؟
أظهرت نتائج الدراسة أن بعض النماذج بدأت تتخطى خطوات أساسية في عملية التفكير، وتقدم إجابات دون تحليل كافٍ للسؤال أو إظهار مسار واضح للاستدلال.
وأطلق الباحثون على هذه الظاهرة اسم «تجاوز التفكير»، في إشارة إلى ميل النماذج إلى الوصول إلى الإجابة بسرعة مع إغفال بعض الخطوات الضرورية للوصول إلى نتائج دقيقة.
ووجد الفريق أن شعبية المنشورات كان لها تأثير أكبر في قدرات الاستدلال، بينما ارتبط قِصر المنشورات بتراجع أكبر في الذاكرة والفهم.
وتشير النتائج إلى أن خصائص البيانات المستخدمة في التدريب قد تؤثر في جوانب مختلفة من أداء النماذج، وليس في جودة اللغة أو أسلوب الإجابة فقط.
هل يؤثر المحتوى الرديء في أخلاقيات الذكاء الاصطناعي؟
لم تقتصر التأثيرات التي رصدتها الدراسة على القدرات المعرفية، إذ أظهرت بعض النماذج تراجعًا في الالتزام بالمبادئ الأخلاقية بعد تدريبها على المحتوى منخفض الجودة.
وفي أحد الاختبارات، رفض نموذج في البداية شرح كيفية تدمير سمعة شخص آخر، لكنه اقترح، بعد تدريبه على بيانات تتكون بالكامل من محتوى رديء، نشر الأكاذيب والشائعات للإضرار بسمعة ذلك الشخص.
ورغم أن النموذج أشار إلى أن هذا السلوك غير أخلاقي، فإن إجابته كشفت عن تغير في طبيعة الاستجابة مقارنة بموقفه السابق.
وتسلط هذه النتيجة الضوء على أهمية جودة بيانات التدريب، إلى جانب ضرورة اختبار سلوك النماذج بصورة مستمرة للتأكد من قدرتها على التعامل مع المواقف الحساسة وفق ضوابط واضحة.
لماذا يصعب إصلاح آثار التدريب على المحتوى منخفض الجودة؟
من النتائج اللافتة في الدراسة أن إعادة تدريب النماذج باستخدام بيانات أكثر جودة لم تؤدِ إلى إصلاح التأثيرات بالكامل، وفقًا لما أورده التقرير.
ويثير ذلك تساؤلات حول مدى قدرة المطورين على معالجة الآثار السلبية التي قد تنتج عن بيانات التدريب، خصوصًا إذا استمرت النماذج في التعرض لمحتوى ضعيف الجودة خلال مراحل التطوير المختلفة.
لكن النتائج لا تعني بالضرورة أن كل نموذج ذكاء اصطناعي سيتعرض للتأثيرات نفسها؛ إذ تختلف النتائج باختلاف بنية النموذج وطبيعة بيانات التدريب وكميتها وطريقة إعدادها.
كيف يمكن أن تتشكل دائرة من المحتوى الرديء؟
حذر الباحثون من احتمال نشوء دائرة متكررة بين المحتوى منخفض الجودة وأنظمة الذكاء الاصطناعي.
وأشار تشنغتشونغ تو إلى أن أنظمة الذكاء الاصطناعي تنتج بالفعل كميات ضخمة من المحتوى، ما يثير مخاوف من أن يؤدي تدريبها على منشورات رديئة إلى إنتاج المزيد من المحتوى المشابه، الذي قد يعود بدوره إلى منصات التواصل الاجتماعي ويُستخدم لاحقًا في تدريب نماذج أخرى.
وقد تؤدي هذه الدورة إلى زيادة انتشار المحتوى منخفض القيمة، بما يؤثر في جودة المعلومات المتاحة للمستخدمين وفي البيانات التي تعتمد عليها الأنظمة المستقبلية.
وقال شو شينغ، أحد الباحثين الرئيسيين المشاركين في الدراسة، إن «صحة الذكاء الاصطناعي والصحة المعرفية للبشر ليستا قضيتين منفصلتين».
دعوات إلى مزيد من الشفافية في تدريب نماذج الذكاء الاصطناعي
تزداد صعوبة تقييم مدى انتشار هذه المشكلة بسبب عدم إتاحة البيانات الكاملة المستخدمة في تدريب نماذج تجارية مثل تشات جي بي تي وجيميناي للعامة.
ودعا تو إلى جعل تطوير الذكاء الاصطناعي أكثر انفتاحًا، بما يسمح للباحثين بفحص بيانات التدريب وتقييم تأثيرها في قدرات النماذج وسلوكها.
وتؤكد الدراسة أهمية الاهتمام بجودة البيانات، وعدم الاكتفاء بتقييم نماذج الذكاء الاصطناعي بناءً على سرعة الاستجابة أو قدرتها على إنتاج نصوص مقنعة، بل ينبغي أيضًا فحص قدرتها على الاستدلال والتذكر والالتزام بالضوابط الأخلاقية.
