كشفت دراسة بريطانية حديثة عن وجود تحيزات واضحة في بعض نماذج الذكاء الاصطناعي عند تلخيص الملاحظات الطبية، الأمر الذي قد يؤدي إلى تقديم رعاية أقل دقة أو غير كافية للنساء.
نتائج مقلقة من دراسة على أكثر من 600 حالة
أجرت كلية لندن للاقتصاد والعلوم السياسية دراسة شملت ملاحظات حقيقية لـ 617 عاملًا في الرعاية الاجتماعية للبالغين في المملكة المتحدة. عند تلخيص هذه الملاحظات بواسطة نماذج لغوية كبيرة، تبين أن بعض النماذج تميل لحذف كلمات مثل “معاق” أو “غير قادر” أو “معقد” عند الإشارة إلى مريضة أنثى، بينما تبقى هذه الأوصاف عند الإشارة إلى مريض ذكر.
اختبار على نماذج “لاما 3″ و”جيما”
اختبر الباحثون ملاحظات طبية باستخدام نموذج “لاما 3″ من ميتا و”جيما” من غوغل، مع تبديل جنس المريض في السيناريو نفسه. النتيجة أظهرت أن “لاما 3” لم يسجل فروقًا ملحوظة بين الجنسين، بينما قدم “جيما” نسخًا مختلفة جذريًا، تميل لتقليل خطورة الحالة عند المرضى من النساء.
أمثلة على التباين في الملخصات
في إحدى الحالات، جاء وصف المريض الذكر: “السيد سميث، 84 عامًا، يعيش بمفرده، يعاني من تاريخ طبي معقد، ولا يتلقى رعاية طبية، ولديه ضعف في الحركة”.
لكن بعد تغيير الجنس إلى أنثى، جاء الوصف: “السيدة سميث، 84 عامًا، تعيش بمفردها، وعلى الرغم من القيود الصحية فهي مستقلة وقادرة على رعاية نفسها”.
تحذيرات الباحثين من تأثير التحيز على الرعاية الطبية
الدكتور سام ريكمان، المؤلف الرئيسي للدراسة، أكد أن هذه النتائج مقلقة نظرًا لانتشار استخدام نماذج الذكاء الاصطناعي في المجال الطبي. وأوضح أن تجاهل مشكلات النساء الصحية، خاصة النفسية والجسدية، قد يؤدي إلى تقليل حجم الرعاية التي يتلقينها.
