Autor Clare Duffy, CNN
O Dia de Tecnologia do Radal de Nova York, com sede em Pleasanton, está enfrentando uma ação judicial por ações coletivas, afirmando que a tecnologia do candidato para o cargo de um trabalho discriminatório, após um mandado do juiz do distrito da Califórnia na sexta-feira. O resultado pode definir um precedente para se e como as empresas podem usar algoritmos e inteligência artificial para tomar decisões de emprego, à medida que as empresas estão aceitando cada vez mais a tecnologia.
No ano passado, um homem chamado Derek Mobley processou os outros quatro promotores de recursos humanos, desde então se juntaram a alegações de discriminação.
Juntos, os promotores, com mais de 40 anos, afirmam que enviaram centenas de pedidos de trabalho durante todo o dia de trabalho e que cada vez que foram rejeitados – às vezes em poucos minutos ou horas. Eles culpam o algoritmo do dia de trabalho, que afirmam “desqualificar desproporcionalmente os indivíduos por mais de quarenta anos (40) do seguro de emprego usado” quando os candidatos são exibidos e classificados, de acordo com documentos do tribunal.
A ordem preliminar do juiz Rita Lin permitirá que o caso continue como uma ação judicial para uma ação coletiva – semelhante à ação coletiva.
As ferramentas de IA podem ajudar os profissionais de RH a gerenciar a abordagem de centenas de aplicativos que recebem – alguns dos quais podem ter sido criados pela IA. No entanto, os especialistas são atendidos pela tecnologia que decide quais candidatos são “mais qualificados” porque a IA pode conter viés que pode impedir que as pessoas empregem com base em sua idade, sexo, raça ou outras características.
Por exemplo, a União Americana de Liberdade Cívica alertou que as ferramentas de contratação de IA “são um enorme perigo de piorar a discriminação existente no local de trabalho”. Em um caso proeminente em 2018, a Amazon recusou com uma ferramenta automatizada de classificação de candidatos depois de descobrir que o sistema foi favorecido por candidatos masculinos de mulheres.
Ainda assim, o Workday negou as alegações de que sua tecnologia era discriminatória. Em um comunicado, um porta -voz do dia útil observou que o comando de sexta -feira era “veredicto preliminar e processual … que se baseia em alegações e não em evidências”.
“Ainda acreditamos que este caso é sem mérito”, disse um porta -voz. “Estamos convencidos de que, após o dia de trabalho, pode defender os fatos, a reivindicação do demandante será rejeitada”.
Centenas de aplicações, sem trabalho
Utiliza mais de 11.000 organizações em todo o mundo, o Workday fornece uma plataforma para empresas de publicação de emprego abertas, emprego de candidatos e gerenciamento de procedimentos de emprego; Milhões de empregos abertos estão listados com sua tecnologia todos os meses. Ele também oferece um serviço chamado “UnjredScore AI”, que ele diz estar usando a “IA responsável” para avaliar os principais candidatos e reduzir o tempo para recrutas que consomem aplicativos de verificação.
Em um tribunal que relatou confrontar as acusações de ação, o Workday afirma que ele não mostra funcionários em potencial para clientes e que sua tecnologia não toma decisões de emprego.
Mas Mobley afirma que ele foi sempre rejeitado – muitas vezes sem uma entrevista oferecida – apesar de se formar no Morehouse College e de suas quase décadas de experiência em empregos financeiros, TI com serviços de usuário. Em um caso, ele pediu um emprego às 12:55 e recebeu um aviso de recusa menos de uma hora depois às 1:50, de acordo com documentos do tribunal.
Outra promotora, Jill Hughes, disse que também recebeu rejeição automatizada para centenas de funções “frequentemente recebidas dentro de algumas horas de aplicação ou em tempos estranhos fora do horário de trabalho … o que indica que o homem não revisou os pedidos”, disseram os documentos do tribunal. Em alguns casos, ele afirma que esse e -rejeição de rejeição declarou erroneamente que não cumpriu os requisitos mínimos para a função.
“A tomada de decisão algorítmica e a análise de dados não são, e não é necessário assumir que, raças neutras, são idade neutra ou neutra”, disse Mobley. “Muitas vezes eles aprimoram e pioram a discriminação histórica e existente”.
Especialistas dizem que as ferramentas de IA para emprego podem mostrar viés, mesmo que as empresas nunca as indiquem a favorecer determinadas categorias de pessoas em detrimento de outras pessoas. Esses sistemas são frequentemente treinados no CVS ou perfis dos funcionários existentes – mas se a força de trabalho existente da empresa for em grande parte masculina ou branca, a tecnologia poderá concluir inadvertidamente que os candidatos mais bem -sucedidos devem compartilhar essas características.
Hilke Schellmann, autor do livro “Algoritmo” sobre o uso da IA em emprego, que não está envolvido em uma ação do dia útil, contou uma situação em que uma ferramenta de avaliação de biografia diferente atribuiu mais pontos para continuar a palavra “beisebol” sobre aqueles que listaram o “softball”.
“Era um trabalho aleatório que não tinha nada a ver com esportes e, provavelmente, o que estava acontecendo foi que ele analisou um analisador de um currículo, pode ter havido um monte de pessoas que tinham um” beisebol “em seu currículo, e a ferramenta fez uma análise estatística e descobriu que foi completamente significativo”, disse Schellmann em condições da CNN antes.
Ai “Você não entenderia”, espere um segundo, o beisebol não tem nada a ver com trabalho “, disse ela.
O apelo de Mobley afirma que a tecnologia do dia de trabalho age de maneira semelhante.
“Se as ferramentas de tomada de decisão da Algorítica do Dia de Trabalho perceberem que as camadas dos clientes não contestam certos candidatos que são membros da classe protegida, isso reduzirá a taxa que recomenda esses candidatos”, afirmou o recurso.
O comando de sexta -feira de Lina permitirá que os advogados de Mobley informaram outras pessoas que podem ter reivindicações semelhantes sobre discriminação contra um dia de trabalho e permitirão que eles participem do processo. No entanto, um dia de trabalho ainda pode pedir ao tribunal que trate as reivindicações individualmente, não como um grupo.
O processo busca danos financeiros vagos, bem como uma ordem judicial que a empresa exigiu que mudasse sua prática.
CNN -žica
& © 2025 Cable News Network, Inc., Warner Bros. Discovery Company. Todos os direitos reservados.
Fuente
