Para responsabilizar a tecnologia, olhe para a saúde pública

Como é que a saúde pública cumpriu sua promessa de melhorar a vida de milhões, ao mesmo tempo em que falhou em resolver as dramáticas disparidades de saúde de pessoas de cor nos EUA? E o que o movimento pela governança tecnológica pode aprender com essas falhas?

Ao longo de 150 anos de instituições públicas que servem ao bem comum por meio da ciência, a saúde pública transformou a vida humana. Em apenas algumas gerações, alguns dos desafios mais complexos do mundo se tornaram administráveis. Milhões de pessoas agora podem esperar um parto seguro, confiar no abastecimento de água, desfrutar de alimentos saudáveis ​​e esperar respostas coletivas às epidemias. Nos Estados Unidos, as pessoas nascidas em 2010 ou mais tarde viverão mais 30 anos do que as pessoas nascidas em 1900.

Inspirados pelo sucesso da saúde pública, os líderes em tecnologia e política sugeriram um modelo de saúde pública de governança digital no qual a política de tecnologia não apenas detecta e remedia danos passados ​​da tecnologia na sociedade, mas também apoia o bem-estar da sociedade e previne futuras crises. A saúde pública também oferece um roteiro — profissões, disciplinas acadêmicas, instituições públicas e redes de líderes comunitários engajados — para construir os sistemas necessários para um ambiente digital saudável.

No entanto, a saúde pública, como a indústria de tecnologia, falhou sistematicamente com as comunidades marginalizadas de maneiras que não são acidentais. Considere a resposta da saúde pública ao Covid-19. Apesar de décadas de pesquisa científica sobre equidade em saúde, as políticas do Covid-19 não foram projetadas para comunidades negras, os dispositivos médicos não foram projetados para nossos corpos e os programas de saúde não eram páreo para as desigualdades que nos expunham a um risco maior. Quando os EUA atingiram um milhão de mortes registradas, as comunidades negras e pardas arcaram com uma parcela desproporcional do trabalho do país e do fardo das perdas.

A indústria de tecnologia, como a saúde pública, codificou a desigualdade em seus sistemas e instituições. Na última década, investigações pioneiras e defesa em políticas de tecnologia lideradas por mulheres e pessoas de cor tornaram o mundo consciente dessas falhas, resultando em um movimento crescente de governança tecnológica. A indústria respondeu à possibilidade de regulamentação colocando bilhões de dólares em ética tecnológica, contratando críticos vocais e subscrevendo novos campos de estudo. Financiadores científicos e filantropia privada também responderam, investindo centenas de milhões para apoiar novos inovadores e vigilantes independentes da indústria. Como cofundador da Coalition for Independent Tech Research, estou entusiasmado com o crescimento dessas instituições de interesse público.

Mas poderíamos facilmente repetir os fracassos da saúde pública se reproduzíssemos a mesma desigualdade no campo da governança tecnológica. Os comentaristas costumam criticar a falta de diversidade da indústria de tecnologia, mas sejamos honestos: as pretensas instituições de responsabilidade dos Estados Unidos têm nossas próprias histórias de exclusão. Organizações sem fins lucrativos, por exemplo, costumam dizer que buscam atender comunidades marginalizadas. No entanto, apesar de representarem 42% da população dos EUA, apenas 13% dos líderes de organizações sem fins lucrativos são negros, latinos, asiáticos ou indígenas. As universidades celebram publicamente o corpo docente negro, mas não conseguem progredir na diversidade do corpo docente. No ano em que concluí meu doutorado, eu era apenas um dos 24 latinos/a com doutorado em ciência da computação nos Estados Unidos e no Canadá, apenas 1,5% dos 1.592 doutorados concedidos naquele ano. O jornalismo também fica atrás de outros setores em diversidade. Em vez de enfrentar esses fatos, muitas redações dos EUA optaram por bloquear um programa de 50 anos para rastrear e melhorar a diversidade da redação. Esse é um ponto de vista precário para exigir transparência da Big Tech.

Como as instituições ficam aquém de nossas aspirações sobre diversidade

Na década de 2010, quando Safiya Noble começou a investigar o racismo nos resultados dos mecanismos de busca, os cientistas da computação já estudavam os algoritmos dos mecanismos de busca há décadas. Demorou mais uma década para o trabalho de Noble alcançar o mainstream por meio de seu livro Algoritmos de Opressão.

Por que demorou tanto para o campo perceber um problema que afetava tantos americanos? Como uma das apenas sete estudiosas negras a receber PhDs em Ciência da Informação em seu ano, Noble foi capaz de fazer perguntas importantes que campos de computação predominantemente brancos não conseguiam imaginar.

Histórias como a de Noble são muito raras na sociedade civil, no jornalismo e na academia, apesar das histórias públicas que nossas instituições contam sobre o progresso na diversidade. Por exemplo, universidades com menor diversidade estudantil são mais propensas a colocar estudantes de cor em seus sites e folhetos. Mas você não pode fingir até conseguir; a diversidade cosmética acaba influenciando os aspirantes a universitários brancos, mas não os candidatos negros. (Observe, por exemplo, que na década desde que Noble concluiu sua graduação, a porcentagem de PhDs concedidos a candidatos negros por programas de Ciência da Informação não mudou.) Pior ainda, a ilusão de inclusão pode aumentar a discriminação para pessoas de cor. Para identificar a diversidade cosmética, pergunte se as instituições estão escolhendo o mesmo punhado de pessoas para serem palestrantes, premiados e membros do conselho. A instituição está elevando algumas estrelas em vez de investir em mudanças mais profundas?