تشير دراسة إلى أن أنظمة فحص السيرة الذاتية التي تعتمد على الذكاء الاصطناعي والتي تستخدمها شركات Fortune 500 الكبرى، قد تكون تمييزية ضد الأمهات.
يعتقد باحثون في جامعة نيويورك أنهم ربما اكتشفوا تحيزًا ضد النساء اللاتي أخذن وقتًا طويلاً إجازة من العمل من أجل إجازة الأمومة.
قام الفريق بتغذية مئات السير الذاتية لأربعة نماذج، بما في ذلك ChatGPT وGoogle’s Bard، ووجدوا أنهم جميعًا رفضوا السير الذاتية التي بها فجوة.
وعندما سُئل عن السبب وراء القرار، قال التقني: “إن تضمين المعلومات الشخصية حول إجازة الأمومة ليس له صلة بالوظيفة ويمكن اعتباره بمثابة التزام”.
ووصف الباحثون هذه الاتجاهات بأنها “مثيرة للقلق” نظرا لذلك تستخدم كل شركة كبرى تقريبًا هذه التقنية لفحص السير الذاتية.
اختبر الفريق ChatGPT وBard وClaude من Google، ووجدوا أن جميع أنظمة الذكاء الاصطناعي الثلاثة مرفوضة بسبب وجود هذه الفجوة. قدمت بعض الردود السبب التالي: “إن تضمين المعلومات الشخصية حول إجازة الأمومة ليس له صلة بالوظيفة ويمكن اعتباره التزامًا”
وقال الباحث الرئيسي سيدهارث جارج، أستاذ الهندسة الكهربائية وهندسة الكمبيوتر في جامعة نيويورك: “الفجوات في التوظيف فيما يتعلق بالمسؤولية الأبوية، والتي كثيرا ما تمارسها أمهات الأطفال الصغار، هي مجال غير مدروس من التحيز المحتمل للتوظيف”.
“يشير هذا البحث إلى أن هذه الثغرات يمكن أن تتخلص بشكل خاطئ من المرشحين المؤهلين عندما يعتمد أصحاب العمل عليهم للاعتماد على المتقدمين لتصفية LLM (نماذج اللغات الكبيرة).”
استخدم الفريق مجموعة بيانات تم إصدارها علنًا تضم 2484 سيرة ذاتية من موقع Livecareer.com، والتي تضمنت 24 فئة وظيفية.
تم بعد ذلك إدخال السمات الحساسة مثل العرق والجنس والفجوات الوظيفية القائمة على الأمومة والأبوة وحالة الحمل والانتماء السياسي بشكل عشوائي في السير الذاتية.
تشير البيانات إلى أن 99 بالمائة من شركات Fortune 500، بما في ذلك IBM وAmazon وMicrosoft، تستخدم التكنولوجيا لقراءة السير الذاتية، وتحديدًا الكشف عن النقاط الرئيسية المتعلقة بالمنصب لتبسيط العملية
طُلب من أنظمة الذكاء الاصطناعي تلخيص سيرة ذاتية محددة والاحتفاظ بالمعلومات الأساسية للتوظيف، وهو ما تقوم به الشركات التي تستخدم التكنولوجيا أثناء عملية التوظيف.
وجد الباحثون اختلافات صارخة بين النماذج عندما يتعلق الأمر بإنتاج ملخصات السيرة الذاتية.
تم العثور على ChatGPT يستبعد الانتماء السياسي وحالة الحمل من الملخصات التي تم إنشاؤها، في حين كان من المرجح أن يتضمن نموذج الذكاء الاصطناعي الآخر جميع السمات الحساسة.
رفض بارد في كثير من الأحيان التلخيص ولكن كان من المرجح أن يقوم بتضمين معلومات حساسة في الحالات التي ينتج فيها ملخصات.
طلب الفريق من أحد الأنظمة تقديم أسباب رفض السير الذاتية مع إدراج فجوة الأمومة، وأجاب: “إن تضمين المعلومات الشخصية حول إجازة الأمومة ليس له صلة بالوظيفة ويمكن اعتباره التزامًا”.
بالنسبة لحالة الحمل، رفضت التقنية المرشحين لأنها “حامل” أو “بسبب حملها”.
وأشار تحليل آخر إلى أن بعض المرشحين لم يكونوا مناسبين للانتماء السياسي لأن “المرشح عضو في الحزب الجمهوري، الأمر الذي قد يشكل تضاربًا في المصالح لبعض أصحاب العمل”.