تخيل أنك ترسل مئات طلبات وظائف، لكنك لا تحصل حتى على مكالمة مقابلة. تبدأ في الشك: هل النظام الذي يختار سيرتك الذاتية عادل حقًا؟ بالنسبة لدريك موبلي، رجل في الثامنة والأربعين من عمره، أسود البشرة ومصاب بإعاقة في كاليفورنيا، شكوكه أدته إلى المحكمة. الآن، Workday - عملاق برامج إدارة الموارد البشرية المستخدمة من قبل أكثر من نصف الشركات في قائمة فورتشن 500 - يواجه اتهامات بأن أداة التصفية الخاصة به باستخدام الذكاء الاصطناعي (AI) تميز ضده. وقد قررت محكمة أن هذه الدعوى يمكن أن تستمر.
اتهامات التمييز في الخوارزميات
ادعى موبلي أن أداة الذكاء الاصطناعي الخاصة بـ Workday رفضت أكثر من 100 طلب عمل له تلقائيًا دون أي تقييم بشري. وبحسب الوثائق القضائية، كانت هذه الرفضات المتكررة مرتبطة بثلاثة خصائص محمية قانونيًا: عمره الذي تجاوز 40 عامًا، هويته كرجل أسود، وإعاقته الجسدية. يرى موبلي أن الخوارزمية الخاصة بـ Workday - والتي غالبًا ما تكون النقطة الأولى في عملية التوظيف في الشركات الكبيرة - قد استبعدته بشكل غير قانوني بناءً على ملفه الديموغرافي، وليس مؤهله.
تقدم Workday نظامًا لإدارة الموارد البشرية يتضمن تصفية السير الذاتية وتقييم المرشحين وإدارة المقابلات. تم تصميم أداة التصفية الخاصة بها لتحديد المرشحين بناءً على كلمات مفتاحية وخبرة العمل وبنية السيرة الذاتية. ومع ذلك، أكد خبراء أخلاقيات التكنولوجيا أن أنظمة مثل هذه تميل إلى امتصاص التحيز من بيانات التدريب أو قرارات التوظيف السابقة. لم يكن قضية موبلي أول مرة: في عام 2018، ألغت أمازون أداة التوظيف الذكية بعد أن وجدت أنها تخفض باستمرار درجات المرشحات الإناث. ولكن هذه القضية فريدة لأنها تستهدف مزوّد البرمجيات - وليس صاحب العمل - كطرف مسؤول.
حماية البرمجيات؟ المحكمة تقول لا
حاولت Workday تجاهل الدعوى بحجة أنها ليست صاحب عمل وبالتالي لا تخضع لقانون حقوق المدن في كاليفورنيا أو قانون حماية فرص العمل الأمريكي. لكن القاضية الأمريكية ريتا لين رفضت هذه الحجة في 3 أبريل 2025. في قرارها، ذكرت أن الكيانات التي تطور وتباع وتروج لأدوات التصفية للتوظيف يمكن أن تتحمل المسؤولية القانونية إذا كانت الأدوات تسبب تمييزًا نظاميًا - حتى لو لم تتخذ القرار النهائي في التوظيف.
هذا القرار يمثل تحولًا مهمًا في تفسير قوانين العمل. في السابق، كانت دعاوى التمييز توجه بشكل حصري إلى أصحاب العمل. الآن، تدرك المحكمة أن مزوّدي التكنولوجيا يلعبون دورًا نشطًا في تشكيل الوصول إلى فرص العمل. كما أشارت تحليلات قانونية مقتبسة في الوثائق القضائية: "إذا كانت أداة تصفية الذكاء الاصطناعي تعمل كبوابة للوظيفة، فإن الذين يصممونها ويبيعونها يجب أن يكونوا مسؤولين إذا كانت البوابة متحيزة."
آثار أوسع على قطاع الذكاء الاصطناعي
هذه القضية هي اختبار أول لمبادئ مسؤولية الخوارزميات في قطاع التوظيف. استخدام الذكاء الاصطناعي في التوظيف يزداد انتشارًا: من تصفية السير الذاتية التلقائية إلى تقييم التعبيرات الوجهية ونبرة الصوت في مقابلات الفيديو. إذا ثبت إدانة Workday، فقد يضطر القطاع إلى تعديل تصميم الخوارزميات، وفرض مراجعات خارجية للتحيز، وزيادة الشفافية في كيفية اتخاذ القرارات.
يؤكد خبراء أخلاقيات الذكاء الاصطناعي أن التحيز في أدوات التصفية ليس نتيجة خطأ تقني فقط - بل غالبًا ما يظهر عندما يتم تدريب النموذج باستخدام بيانات توظيف تاريخية غير متوازنة. على سبيل المثال، إذا كانت بيانات التدريب تهيمن عليها مرشحات شباب، بيضاء البشرة، وغير مصابين بإعاقات، فقد تتعلم الخوارزمية ربط هذه الصفات بالـ"ملاءمة"، ثم استبعاد المرشحين الآخرين بشكل منهجي. بدون اختبارات دورية ورقابة من طرف ثالث، يبقى خطر تعزيز التفاوتات الهيكلية مرتفعًا.
صرّحت Workday أن أداتها قد خضعت لإجراءات الامتثال الداخلية ودعمها فريق أخلاقيات شركي. ومع ذلك، تشير الانتقادات من محامين حقوق الإنسان وعلماء التكنولوجيا إلى أن المراجعات الداخلية غير كافية. يطالبون بقوانين تلزم الموافقة الخارجية، وتوثيق الخوارزميات، وآليات استئناف للمرشحين الذين تم رفضهم تلقائيًا. كما تبرز قضية موبلي التحديات العملية: كثير من الأفراد لا يمتلكون الموارد أو الدعم لتقديم دعاوى قضائية معقدة وطويلة الأمد - حتى لو شكوا في التمييز عبر الخوارزميات.
مستقبل التوظيف الذكي
قرار المحكمة الأسبوع الماضي ليس حكمًا بالذنب؛ بل هو مجرد السماح بمواصلة الدعوى إلى المرحلة التالية. ومع ذلك، سيُراقب مسار هذه القضية عن كثب من قبل قادة الصناعة، وكالة الرقابة، ونشطاء حقوق الإنسان. بعض المناطق في الولايات المتحدة اتخذت خطوات استباقية: مدينة نيويورك فرضت مراجعة سنوية للتحيز لأدوات الذكاء الاصطناعي في التوظيف منذ عام 2023، بينما تفكر ولايتي إلينوي وأوهايو في سن قوانين مشابهة.
بالنسبة لموبلي، هذه القضية تتعلق بحقوق الإنسان - فرص عمل تُقيَّم بناءً على المهارات، وليس العمر أو لون البشرة. وبالنسبة لصناعة التكنولوجيا، فهي تحذير واضح: القرارات التي تتخذها الخوارزميات ليست مجرد أمر تقني، بل أمر العدالة والمسؤولية والمساءلة القانونية. سواء كان Workday يخسر أو يفوز في النهاية، هناك شيء واحد لا يمكن التشكيك فيه - باب المحكمة مفتوح الآن للأفراد الذين تضرروا من الكود.
عملدي متهم في كاليفورنيا: أداة تصفية الذكاء الاصطناعي تُتهم بالتمييز بالعمر والعرق والإعاقة. أصدرت محكمة الولايات المتحدة في كاليفورنيا قرارًا يسمح بمواصلة الدعوى ضد Workday، بعد أن ادعت المدّعية أن أداة التصفية الخاصة بالتوظيف التي طورتها الشركة ترفض طلباتها بشكل غير عادل بناءً على العمر والعرق والإعاقة. وفتح هذا القرار الباب أمام مسؤولية قانونية للشركات المزودة للبرمجيات الذكية، وليس فقط أصحاب العمل، وقد يصبح سابقة مهمة في رقابة الخوارزميات في مكان العمل.. تخيل أنك ترسل مئات طلبات وظائف، لكنك لا تحصل حتى على مكالمة مقابلة. تبدأ في الشك: هل النظام الذي يختار سيرتك الذاتية عادل حقًا؟ بالنسبة لدريك موبلي، رجل في الثامنة والأربعين من عمره، أسود البشرة ومصاب بإعاقة في كاليفورنيا، شكوكه أدته إلى المحكمة. الآن، Workday - عملاق برامج إدارة الموارد البشرية المستخدمة من قبل أكثر من نصف الشركات في قائمة فورتشن 500 - يواجه اتهامات بأن أداة التصفية الخاصة به باستخدام الذكاء الاصطناعي AI تميز ضده. وقد قررت محكمة أن هذه الدعوى يمكن أن تستمر.
اتهامات التمييز في الخوارزميات
ادعى موبلي أن أداة الذكاء الاصطناعي الخاصة بـ Workday رفضت أكثر من 100 طلب عمل له تلقائيًا دون أي تقييم بشري. وبحسب الوثائق القضائية، كانت هذه الرفضات المتكررة مرتبطة بثلاثة خصائص محمية قانونيًا: عمره الذي تجاوز 40 عامًا، هويته كرجل أسود، وإعاقته الجسدية. يرى موبلي أن الخوارزمية الخاصة بـ Workday - والتي غالبًا ما تكون النقطة الأولى في عملية التوظيف في الشركات الكبيرة - قد استبعدته بشكل غير قانوني بناءً على ملفه الديموغرافي، وليس مؤهله.
تقدم Workday نظامًا لإدارة الموارد البشرية يتضمن تصفية السير الذاتية وتقييم المرشحين وإدارة المقابلات. تم تصميم أداة التصفية الخاصة بها لتحديد المرشحين بناءً على كلمات مفتاحية وخبرة العمل وبنية السيرة الذاتية. ومع ذلك، أكد خبراء أخلاقيات التكنولوجيا أن أنظمة مثل هذه تميل إلى امتصاص التحيز من بيانات التدريب أو قرارات التوظيف السابقة. لم يكن قضية موبلي أول مرة: في عام 2018، ألغت أمازون أداة التوظيف الذكية بعد أن وجدت أنها تخفض باستمرار درجات المرشحات الإناث. ولكن هذه القضية فريدة لأنها تستهدف مزوّد البرمجيات - وليس صاحب العمل - كطرف مسؤول.
حماية البرمجيات؟ المحكمة تقول لا
حاولت Workday تجاهل الدعوى بحجة أنها ليست صاحب عمل وبالتالي لا تخضع لقانون حقوق المدن في كاليفورنيا أو قانون حماية فرص العمل الأمريكي. لكن القاضية الأمريكية ريتا لين رفضت هذه الحجة في 3 أبريل 2025. في قرارها، ذكرت أن الكيانات التي تطور وتباع وتروج لأدوات التصفية للتوظيف يمكن أن تتحمل المسؤولية القانونية إذا كانت الأدوات تسبب تمييزًا نظاميًا - حتى لو لم تتخذ القرار النهائي في التوظيف.
هذا القرار يمثل تحولًا مهمًا في تفسير قوانين العمل. في السابق، كانت دعاوى التمييز توجه بشكل حصري إلى أصحاب العمل. الآن، تدرك المحكمة أن مزوّدي التكنولوجيا يلعبون دورًا نشطًا في تشكيل الوصول إلى فرص العمل. كما أشارت تحليلات قانونية مقتبسة في الوثائق القضائية: "إذا كانت أداة تصفية الذكاء الاصطناعي تعمل كبوابة للوظيفة، فإن الذين يصممونها ويبيعونها يجب أن يكونوا مسؤولين إذا كانت البوابة متحيزة."
آثار أوسع على قطاع الذكاء الاصطناعي
هذه القضية هي اختبار أول لمبادئ مسؤولية الخوارزميات في قطاع التوظيف. استخدام الذكاء الاصطناعي في التوظيف يزداد انتشارًا: من تصفية السير الذاتية التلقائية إلى تقييم التعبيرات الوجهية ونبرة الصوت في مقابلات الفيديو. إذا ثبت إدانة Workday، فقد يضطر القطاع إلى تعديل تصميم الخوارزميات، وفرض مراجعات خارجية للتحيز، وزيادة الشفافية في كيفية اتخاذ القرارات.
يؤكد خبراء أخلاقيات الذكاء الاصطناعي أن التحيز في أدوات التصفية ليس نتيجة خطأ تقني فقط - بل غالبًا ما يظهر عندما يتم تدريب النموذج باستخدام بيانات توظيف تاريخية غير متوازنة. على سبيل المثال، إذا كانت بيانات التدريب تهيمن عليها مرشحات شباب، بيضاء البشرة، وغير مصابين بإعاقات، فقد تتعلم الخوارزمية ربط هذه الصفات بالـ"ملاءمة"، ثم استبعاد المرشحين الآخرين بشكل منهجي. بدون اختبارات دورية ورقابة من طرف ثالث، يبقى خطر تعزيز التفاوتات الهيكلية مرتفعًا.
صرّحت Workday أن أداتها قد خضعت لإجراءات الامتثال الداخلية ودعمها فريق أخلاقيات شركي. ومع ذلك، تشير الانتقادات من محامين حقوق الإنسان وعلماء التكنولوجيا إلى أن المراجعات الداخلية غير كافية. يطالبون بقوانين تلزم الموافقة الخارجية، وتوثيق الخوارزميات، وآليات استئناف للمرشحين الذين تم رفضهم تلقائيًا. كما تبرز قضية موبلي التحديات العملية: كثير من الأفراد لا يمتلكون الموارد أو الدعم لتقديم دعاوى قضائية معقدة وطويلة الأمد - حتى لو شكوا في التمييز عبر الخوارزميات.
مستقبل التوظيف الذكي
قرار المحكمة الأسبوع الماضي ليس حكمًا بالذنب؛ بل هو مجرد السماح بمواصلة الدعوى إلى المرحلة التالية. ومع ذلك، سيُراقب مسار هذه القضية عن كثب من قبل قادة الصناعة، وكالة الرقابة، ونشطاء حقوق الإنسان. بعض المناطق في الولايات المتحدة اتخذت خطوات استباقية: مدينة نيويورك فرضت مراجعة سنوية للتحيز لأدوات الذكاء الاصطناعي في التوظيف منذ عام 2023، بينما تفكر ولايتي إلينوي وأوهايو في سن قوانين مشابهة.
بالنسبة لموبلي، هذه القضية تتعلق بحقوق الإنسان - فرص عمل تُقيَّم بناءً على المهارات، وليس العمر أو لون البشرة. وبالنسبة لصناعة التكنولوجيا، فهي تحذير واضح: القرارات التي تتخذها الخوارزميات ليست مجرد أمر تقني، بل أمر العدالة والمسؤولية والمساءلة القانونية. سواء كان Workday يخسر أو يفوز في النهاية، هناك شيء واحد لا يمكن التشكيك فيه - باب المحكمة مفتوح الآن للأفراد الذين تضرروا من الكود.
