Imaginando que você envie dezenas de candidaturas, mas nunca receba uma ligação para uma entrevista. Você começa a suspeitar: o sistema que filtra seus currículos é realmente justo? Para Derek Mobley, um homem com mais de 40 anos, negro e com deficiência na Califórnia, essa suspeita levou-o à justiça. Agora, a Workday - gigante de software de recursos humanos usada por mais da metade das empresas Fortune 500 - precisa responder às acusações de que sua ferramenta de triagem de emprego baseada em inteligência artificial (IA) é discriminatória. Um juiz decidiu que a ação pode seguir em frente.
Acusações de Discriminação nos Algoritmos
Mobley alega que a ferramenta de triagem de IA da Workday rejeitou mais de 100 de suas candidaturas automaticamente, sem avaliação humana. Segundo documentos do tribunal, essas rejeições repetidas estavam relacionadas a três características protegidas pela lei: sua idade superior a 40 anos, sua identidade como homem negro e sua deficiência física. Ele argumenta que os algoritmos da Workday - frequentemente o primeiro ponto de entrada no processo de contratação em grandes empresas - filtraram-no de forma ilegal com base em perfis demográficos, não em qualificações.
A Workday fornece um sistema de gestão de recursos humanos que inclui triagem de currículo, avaliação de candidatos e gerenciamento de entrevistas. Seu filtro foi projetado para identificar candidatos com base em palavras-chave, experiência profissional e estrutura do currículo. No entanto, especialistas em ética tecnológica afirmam que sistemas como esse são propensos a absorver vieses dos dados de treinamento ou decisões anteriores de recrutamento. O caso de Mobley não é o primeiro: a Amazon abandonou uma ferramenta de recrutamento de IA em 2018 após descobrir que ela consistentemente reduzia as pontuações de candidatas mulheres. Mas este caso é único porque aponta o fornecedor de software - não o empregador - como responsável.
Isenção de Software? Tribunal diz não
A Workday tentou arquivar a ação com o argumento de que não era o empregador e, portanto, não estava sujeita à Lei de Direitos Civis da Califórnia ou à Lei de Proteção de Oportunidades de Emprego dos EUA. No entanto, o Juiz Federal Rita Lin rejeitou esse argumento em 3 de abril de 2025. Na sua decisão, ela afirmou que entidades que criam, vendem e promovem ferramentas de triagem de emprego podem ser legalmente responsabilizadas se essas ferramentas causarem discriminação sistêmica - mesmo que não tomem a decisão final de contratação.
Essa decisão marca uma mudança importante na interpretação das leis trabalhistas. Até agora, litígios anti-discriminação foram quase exclusivamente direcionados aos empregadores. Agora, o tribunal reconhece que os fornecedores de tecnologia também desempenham um papel ativo na formação do acesso às oportunidades de emprego. Como destacado em uma análise jurídica citada nos documentos do tribunal: *"Se a ferramenta de triagem de IA funciona como porta de entrada para empregos, aqueles que a criam e vendem devem ser responsabilizados se essa porta for tendenciosa."*
Implicações Mais Amplas para a Indústria de IA
Esse caso é um teste inicial para o princípio de responsabilidade algorítmica no setor de emprego. O uso de IA na contratação está se tornando cada vez mais comum: desde a triagem automática de currículos até a avaliação de expressão facial e tom de voz nas entrevistas por vídeo. Se a Workday for considerada culpada, a indústria pode precisar mudar o design dos algoritmos, exigir auditorias de vieses independentes e aumentar a transparência sobre como as decisões são tomadas.
Especialistas em ética de IA enfatizam que vieses nas ferramentas de triagem não são apenas resultado de falhas técnicas - eles frequentemente surgem quando os modelos são treinados com dados históricos de contratação desequilibrados. Por exemplo, se os dados de treinamento forem dominados por candidatos jovens, brancos e sem deficiência, os algoritmos podem aprender a associar essas características com "qualificação", excluindo sistematicamente outros candidatos. Sem testes periódicos e supervisão de terceiros, o risco de reforço de desigualdades estruturais permanece alto.
A Workday afirma que seu software passou por processos internos de conformidade e é apoiado por uma equipe corporativa de ética. No entanto, críticas de advogados de direitos civis e pesquisadores tecnológicos afirmam que auditorias internas não são suficientes. Eles exigem legislação que exija validação independente, documentação dos algoritmos e mecanismos de recurso para candidatos rejeitados automaticamente. O caso de Mobley também destaca os desafios práticos: muitos indivíduos não têm recursos ou apoio para manter ações judiciais complexas e prolongadas - mesmo que suspeitem de discriminação algorítmica.
O Futuro da Contratação Inteligente
A decisão do tribunal desta semana não é uma condenação; ela apenas permite que a ação prossiga para a próxima fase. No entanto, o andamento deste caso será cuidadosamente observado por líderes da indústria, agências reguladoras e ativistas pelos direitos civis. Algumas regiões nos Estados Unidos já adotaram medidas proativas: Nova York obriga auditorias anuais de vieses para ferramentas de IA no recrutamento desde 2023, enquanto Illinois e Washington estão considerando leis semelhantes.
Para Mobley, esse caso trata de direitos humanos - oportunidades de emprego avaliadas com base em habilidades, não em idade ou cor da pele. Para a indústria tecnológica, é um aviso claro: decisões feitas por algoritmos não são mais apenas questões técnicas, mas questões de justiça, responsabilidade e responsabilização legal. Seja a Workday finalmente condenada ou vencedora, uma coisa é inquestionável - a porta para a justiça agora está aberta para aqueles que foram prejudicados pelos códigos.