Sistemas de contratação automatizados injustos estão por toda parte

No início deste mês, Lina Khan, presidente da Comissão Federal de Comércio dos EUA (FTC), escreveu um ensaio em O jornal New York Times afirmando o compromisso da agência com a regulamentação da IA. Mas havia um aplicativo de IA que Khan não mencionou e que a FTC precisa regular com urgência: sistemas de contratação automatizados. Eles variam em complexidade, desde ferramentas que apenas analisam currículos e os classificam até sistemas que dão luz verde a candidatos e rejeitam candidatos considerados inaptos. Cada vez mais, os trabalhadores americanos são obrigados a usá-los se quiserem ser contratados.

No meu livro recente, O Trabalhador Quantificado, Eu argumento que o trabalhador americano está sendo reduzido a números por tecnologias de IA no local de trabalho, sistemas de contratação automatizados são os principais. Esses sistemas reduzem os candidatos a uma pontuação ou classificação, muitas vezes ignorando a gestalt de sua experiência humana. Às vezes, eles até classificam as pessoas por raça, idade e sexo, uma prática legalmente proibida de fazer parte do processo de tomada de decisões de emprego.

Ironicamente, muitos desses sistemas são comercializados como isentos de preconceitos ou garantidos para reduzir a probabilidade de contratação discriminatória. Mas, por serem regulamentados de maneira tão vaga, tais sistemas negam oportunidades iguais de emprego com base em categorias protegidas, como raça, idade, sexo e deficiência. Em dezembro de 2022, por exemplo, um sindicato de caminhoneiras processou a Meta, alegando que o Facebook “mostra seletivamente anúncios de emprego com base no gênero e idade dos usuários, com trabalhadores mais velhos muito menos propensos a ver anúncios e mulheres muito menos propensos a ver anúncios de azul- posições de colarinho, especialmente em indústrias que historicamente excluem as mulheres”. Isso é enganoso. Ainda mais, é injusto para candidatos a emprego e empregadores. Os empregadores compram sistemas automatizados de contratação para reduzir sua responsabilidade por discriminação no emprego, e os fornecedores desses sistemas são legalmente obrigados a comprovar suas alegações de eficácia e justiça.

A lei coloca os sistemas de contratação automatizados sob a alçada da FTC, mas a agência ainda não divulgou diretrizes específicas sobre como os fornecedores desses sistemas devem anunciar seus produtos. Deve começar exigindo auditoria para garantir que as plataformas de contratação automatizadas cumpram as promessas que fazem aos empregadores. Os fornecedores dessas plataformas devem ser obrigados a fornecer registros claros de auditorias demonstrando que seus sistemas reduzem o viés na tomada de decisões de emprego conforme anunciado. Essas auditorias devem ser capazes de mostrar que os designers seguiram as diretrizes da Equal Employment Opportunity Commission (EEOC) ao criar as plataformas.

Além disso, em colaboração com a EEOC, a FTC poderia estabelecer o Fair Automated Hiring Mark, que seria usado para certificar que os sistemas de contratação automatizados passaram pelo rigoroso processo de auditoria. Como um imprimatur, a marca seria um sinal útil de qualidade para os consumidores — tanto candidatos quanto empregadores.

A FTC também deve permitir que os candidatos a empregos, que são consumidores de sistemas de inscrição on-line habilitados para IA, processem de acordo com o Federal Credit Report Act (FCRA). Anteriormente, pensava-se que a FCRA se aplicava apenas às três grandes agências de crédito, mas uma leitura mais atenta mostra que essa lei pode ser aplicada sempre que um relatório for criado para qualquer “decisão econômica”. Por essa definição, os perfis de candidatos criados por plataformas automatizadas de contratação on-line são “relatórios de consumidores”, o que significa que as entidades que os geraram (como plataformas de contratação on-line) seriam consideradas agências de relatórios de crédito. De acordo com a FCRA, qualquer pessoa que seja objeto de um desses relatórios pode solicitar à agência que o fez para ver os resultados e exigir correções ou emendas. A maioria dos consumidores não sabe que tem esses direitos. A FTC deve lançar uma campanha educativa para informar os requerentes sobre esses direitos para que possam fazer uso deles.