Imagina que envías docenas de solicitudes de empleo, pero nunca recibes una llamada para una entrevista. Comienzas a sospechar: ¿el sistema que filtra tus currículums es realmente justo? Para Derek Mobley, un hombre de más de 40 años, afroamericano y con discapacidad en California, esa sospecha lo llevó a la corte. Ahora, Workday - gigante del software de recursos humanos utilizado por más de la mitad de las empresas Fortune 500 - debe responder a acusaciones de que su herramienta de selección basada en inteligencia artificial (IA) es discriminadora. Un juez decidió que la demanda puede continuar.
Acusaciones de discriminación en algoritmos
Mobley alega que la herramienta de filtrado de IA de Workday rechazó automáticamente más de 100 de sus solicitudes de empleo, sin evaluación humana. Según documentos judiciales, estos rechazos repetidos estaban relacionados con tres características protegidas por la ley: su edad superior a los 40 años, su identidad como hombre negro y su discapacidad física. Argumenta que el algoritmo de Workday - que suele ser el primer punto de entrada en el proceso de contratación en grandes empresas - ha filtrado indebidamente basándose en perfiles demográficos, no en cualificaciones.
Workday ofrece un sistema de gestión de recursos humanos que incluye la filtración de currículums, la evaluación de candidatos y la gestión de entrevistas. Su herramienta está diseñada para identificar candidatos basándose en palabras clave, experiencia laboral y estructura del currículum. Sin embargo, expertos en ética tecnológica señalan que sistemas como este fácilmente absorben sesgos de datos de entrenamiento o decisiones de contratación anteriores. El caso de Mobley no es el primero: Amazon abandonó en 2018 una herramienta de reclutamiento de IA tras descubrir que consistentemente reducía las puntuaciones de candidatas mujeres. Pero este caso es único porque apunta al proveedor de software - no al empleador - como parte responsable.
¿Inmunidad del software? El tribunal dice que no
Workday intentó desestimar la demanda argumentando que no era el empleador y, por lo tanto, no estaba sujeto a la Ley de Derechos Civiles de California o a la Ley de Protección de Oportunidades de Empleo de EE.UU. Sin embargo, la jueza federal Rita Lin rechazó este argumento el 3 de abril de 2025. En su decisión, indicó que entidades que diseñan, venden y promueven herramientas de filtrado de empleo pueden ser legalmente responsables si dichas herramientas causan discriminación sistémica - incluso si no toman la decisión final de contratación.
Esta decisión marca un cambio importante en la interpretación de las leyes laborales. Durante mucho tiempo, las litigaciones anti-discriminación se dirigieron casi exclusivamente a los empleadores. Ahora, el tribunal reconoce que los proveedores tecnológicos también desempeñan un papel activo en la formación del acceso a oportunidades de empleo. Como se mencionó en un análisis legal citado en los documentos judiciales: "Si la herramienta de filtrado de IA funciona como puerta de entrada para el empleo, entonces quienes la diseñan y venden deben ser responsables si esa puerta está sesgada."
Implicaciones más amplias para la industria de IA
Este caso es una prueba inicial para el principio de responsabilidad algorítmica en el sector laboral. El uso de IA en la contratación está aumentando: desde la filtración automática de currículums hasta la evaluación de expresión facial y tono de voz en entrevistas en video. Si Workday es encontrado culpable, la industria podría verse obligada a cambiar el diseño de los algoritmos, exigir auditorías de sesgos independientes y mejorar la transparencia sobre cómo se toman las decisiones.
Expertos en ética de IA destacan que los sesgos en las herramientas de filtrado no son resultado exclusivo de errores técnicos - a menudo surgen cuando los modelos se entrenan con datos históricos de empleo desequilibrados. Por ejemplo, si los datos de entrenamiento están dominados por candidatos jóvenes, blancos y sin discapacidad, el algoritmo podría aprender a asociar estas características con "calificación", excluyendo sistemáticamente a otros candidatos. Sin pruebas periódicas y supervisión de terceros, el riesgo de consolidar desigualdades estructurales sigue siendo alto.
Workday afirma que su herramienta ha pasado por procesos internos de cumplimiento y está respaldada por un equipo corporativo de ética. Sin embargo, críticas de abogados de derechos civiles y investigadores tecnológicos enfatizan que las auditorías internas no son suficientes. Exigen legislación que exija verificación independiente, documentación de algoritmos y mecanismos de apelación para candidatos rechazados automáticamente. El caso de Mobley también destaca los obstáculos prácticos: muchos individuos no tienen los recursos o el apoyo para mantener demandas judiciales complejas y prolongadas - aunque sospechen de discriminación algorítmica.
El futuro de la contratación inteligente
La decisión judicial de esta semana no es una sentencia de culpabilidad; simplemente permite que la demanda continúe al siguiente nivel. Sin embargo, el recorrido de este caso será cuidadosamente observado por líderes industriales, agencias reguladoras y activistas de derechos civiles. Algunas regiones en Estados Unidos ya han tomado medidas proactivas: Nueva York exige auditorías anuales de sesgos para herramientas de IA en la contratación desde 2023, mientras que Illinois y Washington están considerando leyes similares.
Para Mobley, este caso trata de derechos humanos - oportunidades de empleo valoradas según habilidades, no por edad o color de piel. Para la industria tecnológica, es un claro aviso: las decisiones tomadas por algoritmos ya no son solo cuestiones técnicas, sino cuestiones de justicia, responsabilidad y responsabilidad legal. Ya sea que Workday finalmente pierda o gane, una cosa es indiscutible - la puerta a la corte ahora está abierta para quienes son víctimas de código.
Workday acusado en California: una herramienta de filtrado de IA se le acusa de discriminación por edad, raza y discapacidad. Un tribunal federal de EE.UU. en California decidió que la demanda contra Workday puede continuar, después de que el demandante alegara que la herramienta de selección de empleados basada en inteligencia artificial de la empresa rechazó su solicitud de forma injusta en base a su edad, raza y discapacidad. Esta decisión abre la posibilidad de responsabilidad legal para los proveedores de software de IA - no solo para los empleadores - y podría convertirse en un precedente importante en la supervisión de algoritmos en el lugar de trabajo.. Imagina que envías docenas de solicitudes de empleo, pero nunca recibes una llamada para una entrevista. Comienzas a sospechar: ¿el sistema que filtra tus currículums es realmente justo? Para Derek Mobley, un hombre de más de 40 años, afroamericano y con discapacidad en California, esa sospecha lo llevó a la corte. Ahora, Workday - gigante del software de recursos humanos utilizado por más de la mitad de las empresas Fortune 500 - debe responder a acusaciones de que su herramienta de selección basada en inteligencia artificial IA es discriminadora. Un juez decidió que la demanda puede continuar.
Acusaciones de discriminación en algoritmos
Mobley alega que la herramienta de filtrado de IA de Workday rechazó automáticamente más de 100 de sus solicitudes de empleo, sin evaluación humana. Según documentos judiciales, estos rechazos repetidos estaban relacionados con tres características protegidas por la ley: su edad superior a los 40 años, su identidad como hombre negro y su discapacidad física. Argumenta que el algoritmo de Workday - que suele ser el primer punto de entrada en el proceso de contratación en grandes empresas - ha filtrado indebidamente basándose en perfiles demográficos, no en cualificaciones.
Workday ofrece un sistema de gestión de recursos humanos que incluye la filtración de currículums, la evaluación de candidatos y la gestión de entrevistas. Su herramienta está diseñada para identificar candidatos basándose en palabras clave, experiencia laboral y estructura del currículum. Sin embargo, expertos en ética tecnológica señalan que sistemas como este fácilmente absorben sesgos de datos de entrenamiento o decisiones de contratación anteriores. El caso de Mobley no es el primero: Amazon abandonó en 2018 una herramienta de reclutamiento de IA tras descubrir que consistentemente reducía las puntuaciones de candidatas mujeres. Pero este caso es único porque apunta al proveedor de software - no al empleador - como parte responsable.
¿Inmunidad del software? El tribunal dice que no
Workday intentó desestimar la demanda argumentando que no era el empleador y, por lo tanto, no estaba sujeto a la Ley de Derechos Civiles de California o a la Ley de Protección de Oportunidades de Empleo de EE.UU. Sin embargo, la jueza federal Rita Lin rechazó este argumento el 3 de abril de 2025. En su decisión, indicó que entidades que diseñan, venden y promueven herramientas de filtrado de empleo pueden ser legalmente responsables si dichas herramientas causan discriminación sistémica - incluso si no toman la decisión final de contratación.
Esta decisión marca un cambio importante en la interpretación de las leyes laborales. Durante mucho tiempo, las litigaciones anti-discriminación se dirigieron casi exclusivamente a los empleadores. Ahora, el tribunal reconoce que los proveedores tecnológicos también desempeñan un papel activo en la formación del acceso a oportunidades de empleo. Como se mencionó en un análisis legal citado en los documentos judiciales: "Si la herramienta de filtrado de IA funciona como puerta de entrada para el empleo, entonces quienes la diseñan y venden deben ser responsables si esa puerta está sesgada."
Implicaciones más amplias para la industria de IA
Este caso es una prueba inicial para el principio de responsabilidad algorítmica en el sector laboral. El uso de IA en la contratación está aumentando: desde la filtración automática de currículums hasta la evaluación de expresión facial y tono de voz en entrevistas en video. Si Workday es encontrado culpable, la industria podría verse obligada a cambiar el diseño de los algoritmos, exigir auditorías de sesgos independientes y mejorar la transparencia sobre cómo se toman las decisiones.
Expertos en ética de IA destacan que los sesgos en las herramientas de filtrado no son resultado exclusivo de errores técnicos - a menudo surgen cuando los modelos se entrenan con datos históricos de empleo desequilibrados. Por ejemplo, si los datos de entrenamiento están dominados por candidatos jóvenes, blancos y sin discapacidad, el algoritmo podría aprender a asociar estas características con "calificación", excluyendo sistemáticamente a otros candidatos. Sin pruebas periódicas y supervisión de terceros, el riesgo de consolidar desigualdades estructurales sigue siendo alto.
Workday afirma que su herramienta ha pasado por procesos internos de cumplimiento y está respaldada por un equipo corporativo de ética. Sin embargo, críticas de abogados de derechos civiles y investigadores tecnológicos enfatizan que las auditorías internas no son suficientes. Exigen legislación que exija verificación independiente, documentación de algoritmos y mecanismos de apelación para candidatos rechazados automáticamente. El caso de Mobley también destaca los obstáculos prácticos: muchos individuos no tienen los recursos o el apoyo para mantener demandas judiciales complejas y prolongadas - aunque sospechen de discriminación algorítmica.
El futuro de la contratación inteligente
La decisión judicial de esta semana no es una sentencia de culpabilidad; simplemente permite que la demanda continúe al siguiente nivel. Sin embargo, el recorrido de este caso será cuidadosamente observado por líderes industriales, agencias reguladoras y activistas de derechos civiles. Algunas regiones en Estados Unidos ya han tomado medidas proactivas: Nueva York exige auditorías anuales de sesgos para herramientas de IA en la contratación desde 2023, mientras que Illinois y Washington están considerando leyes similares.
Para Mobley, este caso trata de derechos humanos - oportunidades de empleo valoradas según habilidades, no por edad o color de piel. Para la industria tecnológica, es un claro aviso: las decisiones tomadas por algoritmos ya no son solo cuestiones técnicas, sino cuestiones de justicia, responsabilidad y responsabilidad legal. Ya sea que Workday finalmente pierda o gane, una cosa es indiscutible - la puerta a la corte ahora está abierta para quienes son víctimas de código.
