يقول رئيس الوكالة الأمريكية المكلفة بإنفاذ الحقوق المدنية في مكان العمل إن أدوات “البرامج” المستندة إلى الذكاء الاصطناعي والتي تتعقب عن كثب مكان تواجد العمال ، وضربات المفاتيح ، وإنتاجية العمال يمكن أن تتعارض أيضًا مع قوانين التمييز.
أخبرت شارلوت بوروز ، رئيسة لجنة تكافؤ فرص العمل ، وكالة أسوشيتيد برس أن الوكالة تحاول تثقيف أصحاب العمل ومقدمي التكنولوجيا حول استخدامهم لأدوات المراقبة هذه بالإضافة إلى أدوات الذكاء الاصطناعي التي تسهل عمل تقييم فرص العمل.
وإذا لم يكونوا حريصين على القول ، فإن الخوارزميات الصارمة لمراقبة الجدول الزمني التي تعاقب على فترات الراحة للنساء الحوامل أو المسلمين الذين يقضون وقتًا للصلاة، أو السماح للبرامج المعيبة بفحص خريجي كليات النساء أو كليات السود تاريخياً – لا يمكنهم إلقاء اللوم على الذكاء الاصطناعي عندما تأتي لجنة تكافؤ فرص العمل (EEOC).
قال بوروز: “لا أخجل من استخدام سلطة الإنفاذ لدينا عندما يكون ذلك ضروريًا”. “نريد العمل مع أصحاب العمل ، لكن بالتأكيد لا يوجد استثناء لقوانين الحقوق المدنية لأنك تمارس التمييز بطريقة ما باستخدام التكنولوجيا المتقدمة.”
أصدرت الوكالة الفيدرالية أحدث مجموعة من الإرشادات يوم الخميس حول استخدام الأنظمة الآلية في قرارات التوظيف مثل من يجب تعيينه أو ترقيته. يشرح كيفية تفسير حكم رئيسي من قانون الحقوق المدنية لعام 1964 المعروف باسم الباب السابع الذي يحظر التمييز الوظيفي على أساس العرق أو اللون أو الأصل القومي أو الدين أو الجنس ، والذي يتضمن التحيز ضد المثليين والمثليات والمتحولين جنسياً..
قال بوروز إن أحد الأمثلة المهمة يتضمن أجهزة فحص السير الذاتية المستخدمة على نطاق واسع وما إذا كان بإمكانها إنتاج نتيجة متحيزة أم لا إذا كانت تستند إلى بيانات متحيزة.
قالت: “ما سيحدث هو أن هناك خوارزمية تبحث عن أنماط تعكس أنماطًا مألوفة بالفعل”. “سيتم تدريبها على البيانات التي تأتي من موظفيها الحاليين. وإذا كانت لديك مجموعة غير متنوعة من الموظفين حاليًا ، فمن المحتمل أن ينتهي بك الأمر بطرد أشخاص عن غير قصد لا يشبهون موظفيك الحاليين “.
على سبيل المثال ، تخلت أمازون عن أداة مسح السيرة الذاتية الخاصة بها لتوظيف أفضل المواهب بعد أن وجدت أنها تفضل الرجال في الأدوار الفنية – ويرجع ذلك جزئيًا إلى أنها كانت تقارن المرشحين للوظائف مقابل القوة العاملة التكنولوجية الخاصة بالشركة التي يهيمن عليها الذكور.
وكالات أخرى، بما في ذلك وزارة العدل ، أرسلوا تحذيرات مماثلة على مدار العام الماضي ، مع مجموعات سابقة من الإرشادات حول كيفية قيام بعض أدوات الذكاء الاصطناعي بالتمييز ضد الأشخاص ذوي الإعاقة وانتهاك قانون الأمريكيين ذوي الإعاقة.
في بعض الحالات ، اتخذت EEOC إجراءات. في مارس ، استقر مشغل موقع Dice.com للبحث عن الوظائف التكنولوجي مع الوكالة لإنهاء تحقيق بشأن مزاعم بأنه يسمح لملصقات الوظائف باستبعاد العمال من أصل قومي أمريكي لصالح المهاجرين الذين يسعون للحصول على تأشيرات عمل. لتسوية القضية ، وافقت الشركة الأم ، DHI Group ، على إعادة كتابة برمجتها إلى “كشط” للغة التمييزية مثل “H-1Bs Only” ، في إشارة إلى نوع تأشيرة العمل.
يتضمن جزء كبير من عمل EEOC التحقيق في الشكاوى المقدمة من قبل الموظفين الذين يعتقدون أنهم تعرضوا للتمييز. وفي حين أنه من الصعب على المتقدمين للوظيفة لمعرفة ما إذا كانت أداة التوظيف المتحيزة قد أدت إلى حرمانهم من الوظيفة ، قال بوروز إن هناك “وعيًا أكثر عمومًا” بين العمال حول الأدوات التي يتم استخدامها بشكل متزايد لمراقبة إنتاجيتهم.
تراوحت هذه الأدوات من أجهزة التردد اللاسلكي لتتبع الممرضات ، إلى مراقبة الجدول الزمني الخاضع للرقابة الصارمة لعمال المستودعات وسائقي التوصيل دقيقة بدقيقة ، إلى تتبع ضغطات المفاتيح أو نقرات فأرة الكمبيوتر حيث بدأ العديد من موظفي المكاتب العمل من المنزل أثناء الوباء. قد ينتهك البعض قوانين الحقوق المدنية ، اعتمادًا على كيفية استخدامها.
وأشار بوروز إلى أن المجلس الوطني لعلاقات العمل يبحث أيضًا في أدوات الذكاء الاصطناعي هذه. أرسل NLRB مذكرة في العام الماضي تحذر من أن أدوات المراقبة والإدارة المفرطة التدخل يمكن أن تضعف حقوق العمال في التواصل مع بعضهم البعض بشأن النشاط النقابي أو الظروف غير الآمنة.
قال بوروز: “أعتقد أن أفضل نهج هناك – لا أقول عدم استخدامه ، إنه ليس غير قانوني في حد ذاته – ولكن هو التفكير حقًا في ما يتطلع أصحاب العمل إلى قياسه وربما قياسه بشكل مباشر”. . “إذا كنت تحاول معرفة ما إذا كان العمل قد تم إنجازه ، فربما تحقق من إنجاز العمل.”