Conheça Pause AI, o grupo de protesto em campanha contra a extinção humana

A primeira vez falamos, Joep Meindertsma não está em um bom lugar. Ele chora ao descrever uma conversa em que alertou a sobrinha sobre o risco da inteligência artificial causar colapso social. Depois disso, ela teve um ataque de pânico. “Eu choro dia sim, dia não”, diz ele, falando pelo Zoom de sua casa na cidade holandesa de Utrecht. “Toda vez que me despeço de meus pais ou amigos, parece que pode ser a última vez.”

Meindertsma, que tem 31 anos e é coproprietário de uma empresa de banco de dados, está interessado em IA há alguns anos. Mas ele realmente começou a se preocupar com a ameaça que a tecnologia poderia representar para a humanidade quando a Open AI lançou seu último modelo de linguagem, GPT-4, em março. Desde então, ele assistiu ao grande sucesso do chatbot ChatGPT – baseado primeiro no GPT-3 e depois no GPT-4 – demonstrando ao mundo o quanto a IA progrediu e as grandes empresas de tecnologia correm para alcançá-lo. E ele viu pioneiros como Geoffrey Hinton, o chamado padrinho da IA, alertar sobre os perigos associados aos sistemas que ajudaram a criar. “Os recursos de IA estão avançando muito mais rapidamente do que praticamente qualquer um previu”, diz Meindertsma. “Estamos correndo o risco de um colapso social. Estamos arriscando a extinção humana.”

Um mês antes de nossa palestra, Meindertsma parou de trabalhar. Ele ficou tão consumido pela ideia de que a IA destruiria a civilização humana que estava lutando para pensar em qualquer outra coisa. Ele tinha que fazer algo, ele sentiu, para evitar o desastre. Logo depois, ele lançou o Pause AI, um grupo de protesto de base que faz campanha, como o próprio nome sugere, para interromper o desenvolvimento da IA. Desde então, ele reuniu um pequeno grupo de seguidores que realizou protestos em Bruxelas, Londres, São Francisco e Melbourne. Essas manifestações foram pequenas – menos de 10 pessoas de cada vez – mas Meindertsma tem feito amigos em altos escalões. Ele diz que já foi convidado para falar com funcionários do Parlamento holandês e da Comissão Européia.

A ideia de que a IA poderia acabar com a humanidade parece extrema. Mas é uma ideia que está ganhando força tanto no setor de tecnologia quanto na política dominante. Hinton deixou seu cargo no Google em maio e embarcou em uma rodada global de entrevistas nas quais levantou o espectro de que os humanos não são mais capazes de controlar a IA à medida que a tecnologia avança. No mesmo mês, líderes do setor – incluindo os CEOs dos laboratórios de IA Google DeepMind, OpenAI e Anthropic – assinaram uma carta reconhecendo o “risco de extinção”, e o primeiro-ministro do Reino Unido, Rishi Sunak, tornou-se o primeiro chefe de governo a admitir publicamente que também acredita que a IA representa um risco existencial para a humanidade.

Meindertsma e seus seguidores oferecem um vislumbre de como esses alertas estão se espalhando pela sociedade, criando um novo fenômeno de ansiedade da IA ​​e dando à geração mais jovem – muitos dos quais já estão profundamente preocupados com a mudança climática – um novo motivo para sentir pânico sobre o futuro. Uma pesquisa do instituto de pesquisas YouGov descobriu que a proporção de pessoas preocupadas com o fato de a inteligência artificial levar a um apocalipse aumentou acentuadamente no ano passado. Hinton nega que queira que o desenvolvimento da IA ​​seja interrompido, temporária ou indefinidamente. Mas suas declarações públicas, sobre o risco que a IA representa para a humanidade, resultaram em um grupo de jovens que sentem que não há outra escolha.

Para pessoas diferentes, “risco existencial” significa coisas diferentes. “O cenário principal que me preocupa pessoalmente é o colapso social devido ao hacking em larga escala”, diz Meindertsma, explicando que está preocupado com o uso de IA para criar armas cibernéticas baratas e acessíveis que podem ser usadas por criminosos para “eliminar efetivamente o internet inteira.” Este é um cenário que os especialistas dizem ser extremamente improvável. Mas Meindertsma ainda se preocupa com a resiliência dos serviços bancários e de distribuição de alimentos. “As pessoas não conseguirão encontrar comida em uma cidade. As pessoas vão lutar”, diz ele. “Acho que muitos bilhões morrerão.”