كشفت دراسة حديثة أن أنظمة الذكاء الاصطناعي المستخدمة في فرز طلبات التوظيف قد تبدو عادلة عند تقييم نتائجها على نطاق واسع، إلا أن تحليل البيانات على مستوى كل وظيفة على حدة يكشف عن أنماط من التحيز قد تؤثر على فرص بعض الفئات في الوصول إلى المراحل التالية من التوظيف.
تحليل أكثر من 4 ملايين طلب توظيف
اعتمد الباحثون في الدراسة على تحليل بيانات أكثر من 4.1 مليون طلب توظيف تقدم بها نحو 3.37 مليون شخص لشغل 1746 وظيفة لدى 156 جهة عمل مختلفة.
وجميع هذه الطلبات خضعت لأدوات تقييم طورتها شركة واحدة، ما أتاح للباحثين دراسة تأثير استخدام أنظمة متشابهة في عمليات الفرز الأولي للمتقدمين عبر عدد كبير من المؤسسات.
كيف تعمل أنظمة الفرز بالذكاء الاصطناعي؟
بعد التقدم للوظائف، خضع المرشحون لاختبارات رقمية تعتمد على الألعاب التفاعلية، وتهدف إلى قياس مجموعة من السمات الشخصية والسلوكية مثل التركيز، وتحمل المخاطر، والتفاعل الاجتماعي.
وبناءً على أداء المتقدم، تصنف الخوارزمية الطلب إلى فئتين: “موصى به” أو “غير موصى به”، لتستخدم الشركات هذه النتائج في تحديد المرشحين الذين ينتقلون إلى المقابلات أو المراحل التالية من عملية التوظيف.
النتائج الإجمالية تخفي تفاوتات مهمة
استخدم الباحثون معيار “الأربعة أخماس” المعتمد في الولايات المتحدة لتقييم احتمالات التمييز. وينص هذا المعيار على وجود مؤشر محتمل للتمييز إذا انخفضت نسبة اختيار مجموعة معينة إلى أقل من 80% من نسبة المجموعة الأعلى اختياراً.
وعند تحليل جميع الطلبات بصورة مجمعة، لم تظهر النتائج مؤشرات واضحة على وجود تحيز كبير يستدعي القلق وفق هذا المعيار.
لكن الصورة اختلفت بشكل ملحوظ عند فحص كل وظيفة بشكل منفصل، حيث تبين أن بعض الفئات واجهت معدلات توصية أقل مقارنة بغيرها في وظائف محددة.
تأثير سلبي على بعض المجموعات
أظهرت الدراسة أن 14.74% من طلبات المتقدمين الآسيويين و25.87% من طلبات المتقدمين ذوي البشرة الداكنة قُدمت إلى وظائف أظهرت فيها الخوارزميات أثراً سلبياً على مجموعاتهم.
كما كشفت النتائج أن 10.62% من الوظائف المشمولة بالدراسة سجلت أثراً سلبياً ضد المتقدمين ذوي البشرة الداكنة.
وقدر الباحثون أنه لو كانت معدلات التوصية متساوية بين جميع المجموعات، لكان نحو 40 ألف طلب إضافي لمتقدمين من ذوي البشرة الداكنة والآسيويين قد حصل على فرصة الانتقال إلى المرحلة التالية من التوظيف.
التحيز قد يظهر دون استخدام بيانات عرقية
تسلط الدراسة الضوء على تحدٍ مهم يتمثل في أن حذف البيانات الحساسة مثل الاسم أو العرق لا يضمن بالضرورة حيادية الخوارزميات.
فالأدوات المستخدمة في الدراسة لا تعتمد مباشرة على البيانات الديموغرافية، كما تؤكد الشركة المطورة أنها صممت النماذج للحد من الآثار غير المتوازنة أثناء التدريب.
ومع ذلك، وجد الباحثون أن الخوارزميات قد تعتمد على مؤشرات غير مباشرة ترتبط بخلفيات اجتماعية أو ديموغرافية معينة، وهو ما يُعرف بـ”التمييز عبر المؤشرات البديلة”، حيث تتعلم الأنظمة أنماطاً تبدو محايدة لكنها تؤدي عملياً إلى نتائج غير متكافئة.
مخاطر “الثقافة الخوارزمية الواحدة”
حذرت الدراسة من أن اعتماد عدد كبير من الشركات على الأدوات نفسها قد يؤدي إلى تكرار أنماط الرفض عبر سوق العمل بأكمله، وهي الظاهرة التي وصفها الباحثون بـ”الثقافة الخوارزمية الواحدة”.
فإذا كانت الخوارزمية تفضل نمطاً معيناً من المتقدمين، فقد يواجه الأشخاص الذين لا ينسجمون مع هذا النمط سلسلة متكررة من الرفض لدى جهات عمل مختلفة تستخدم النظام ذاته.
وأظهرت النتائج أن 4% من الأشخاص الذين تقدموا إلى 10 وظائف خاضعة لهذه الاختبارات تلقوا تصنيف “غير موصى به” في جميع الوظائف، وهي نسبة أعلى مما كان متوقعاً إذا كانت قرارات الشركات مستقلة تماماً عن بعضها.
التقديم لعدد أكبر من الوظائف ليس حلاً كاملاً
أجرى الباحثون محاكاة لدراسة تأثير زيادة عدد طلبات التوظيف التي يقدمها الأفراد، وتبين أن فرص الحصول على توصية تتحسن كلما زاد عدد الوظائف المتقدم إليها.
لكن الدراسة أشارت إلى أن هذا الحل ليس عملياً دائماً، إذ يحتاج المتقدم إلى التقديم لنحو 25 وظيفة لتقليل احتمالات الرفض الكامل إلى أقل من 0.1%، مقارنة بعشر وظائف فقط في حال كانت القرارات مستقلة تماماً بين الشركات.
دعوات إلى مزيد من الشفافية والرقابة
أكد الباحثون أن تقييم عدالة أنظمة التوظيف لا ينبغي أن يقتصر على النتائج الإجمالية، لأن ذلك قد يخفي تفاوتات مهمة داخل وظائف أو فئات محددة.
ودعت الدراسة إلى تعزيز الشفافية في أنظمة التوظيف المعتمدة على الذكاء الاصطناعي، وإتاحة البيانات للباحثين المستقلين من أجل فحص أداء هذه الأنظمة بشكل أكثر دقة.
ورغم أن الدراسة لا تثبت أن جميع أدوات التوظيف القائمة على الذكاء الاصطناعي متحيزة، فإنها تشير إلى أن الاعتماد الواسع على الخوارزميات لا يضمن العدالة تلقائياً، وأن نظاماً واحداً قد يؤثر في فرص آلاف الباحثين عن العمل عبر شركات متعددة دون أن يظهر ذلك بوضوح في التقارير العامة.
