Eles postaram pornografia no Twitter. Autoridades alemãs chamaram a polícia

Paulita Paupel, que dirige a filial europeia do órgão comercial da indústria adulta, a Free Speech Coalition, diz que as repressões estão tendo impactos preocupantes sobre as pessoas e sua capacidade de compartilhar conteúdo online. “As pessoas estão fugindo do país”, diz Paupel. “A maioria dos grandes criadores de conteúdo já mudou sua residência para outros países europeus, principalmente Áustria, Suíça e Chipre.” Outros mudaram suas estratégias de marketing para evitar o Twitter (impactando quanto dinheiro eles podem ganhar), e pessoas novas no setor podem ser desencorajadas a iniciar uma carreira, diz Paupel. “Isso está afetando principalmente criadores LGBTQI+ e BIPOC.”

A internet está, é claro, repleta de pornografia – do Reddit, Snapchat e Twitter a OnlyFans, PornHub e xVideos – com milhões de pessoas em todo o mundo envolvidas na indústria. Globalmente, é um grande negócio, gerando bilhões de dólares todos os anos. Embora haja repressão à pornografia em todo o mundo, a Alemanha parece ter um tipo particularmente forte de fiscalização no mundo ocidental, apesar de ser um dos maiores consumidores de pornografia.

“A Alemanha tem sido a mais agressiva em suprimir o discurso”, diz Mike Stabile, porta-voz da Free Speech Coalition, sediada nos Estados Unidos. “Acho que a Alemanha tem sido a mais agressiva nessa busca, tanto em termos do escopo de suas leis quanto também da aplicação”.

Vigilância IA

Desde 2019, os reguladores de mídia da Alemanha vêm desenvolvendo e usando um sistema de IA para detectar conteúdo online que pode violar as leis do país. O sistema de inteligência artificial, chamado KIVI, foi desenvolvido pela autoridade de mídia da Renânia do Norte-Vestfália, juntamente com uma empresa privada com sede em Berlim, e agora está sendo usado por todas as autoridades de mídia da Alemanha.

O KIVI é apresentado como sendo capaz de escanear postagens públicas em sete mídias sociais e aplicativos de mensagens – incluindo Twitter, YouTube, TikTok, Telegram e VK (versão russa do Facebook) – bem como sites na Internet aberta. O Facebook e o Instagram da Meta, que proíbem a nudez, não estão sendo escaneados. De acordo com a descrição da ferramenta feita por North Rhine-Westphalia, ela pode verificar 10.000 páginas por dia. Pouco depois que a autoridade começou a usar o KIVI, disse que as detecções da autoridade “dispararam”.

O porta-voz da autoridade de mídia da Renânia do Norte-Vestfália diz que desde 2021 a autoridade detectou quase 5.000 “violações”. O sistema procura conteúdo problemático procurando palavras-chave e links pré-determinados em alemão, e a autoridade diz que usa uma combinação de reconhecimento de imagem e reconhecimento de texto para detectar resultados “positivos”.

Ella Jakubowska, consultora sênior de políticas da organização sem fins lucrativos European Digital Rights (EDRi), diz que os direitos humanos das pessoas são colocados em risco quando grandes empresas de tecnologia ou governos lidam com moderação de conteúdo. “Mas a ideia de entidades estatais controlando o que fazemos e o que não vemos online parece em si muito preocupante”, diz Jakubowska.

O KIVI procura vários tipos de conteúdo, incluindo extremismo político e negação do Holocausto, violência e pornografia. No entanto, as “violações” de pornografia estão no topo da lista, com 1.944 incidentes sinalizados nos últimos dois anos, de acordo com dados divulgados pela autoridade de mídia da Renânia do Norte-Vestfália. O porta-voz diz que o sistema sinaliza possíveis violações das leis e, em seguida, os investigadores humanos examinam os resultados e decidem se alguma ação deve ser tomada. “KIVI protege os funcionários de serem repentina e inesperadamente expostos a conteúdo estressante”, diz Plass, da autoridade de Berlim.