O desejo final de um herói da privacidade: um instituto para redirecionar o futuro da IA

Ontem, centenas da comunidade de amigos e colegas de Eckersley lotaram os bancos para um tipo incomum de serviço fúnebre no santuário semelhante a uma igreja do Internet Archive em San Francisco – um simpósio com uma série de palestras dedicadas não apenas às lembranças de Eckersley como um pessoa, mas um passeio pelo trabalho de sua vida. Diante de um santuário para Eckersley no fundo do salão cheio de seus escritos, sua amada bicicleta de estrada e algumas amostras de seu guarda-roupa gótico punk vitoriano, Turan, Gallagher e 10 outros palestrantes fizeram apresentações sobre a longa lista de contribuições de Eckersley: seus anos empurrando o Vale do Silício para melhores tecnologias de preservação da privacidade, seu co-fundador de um projeto inovador para criptografar toda a web e seu pivô no final da vida para melhorar a segurança e a ética da IA.

O evento também serviu como uma espécie de lançamento suave para a AOI, a organização que agora dará continuidade ao trabalho de Eckersley após sua morte. Eckersley imaginou o instituto como uma incubadora e um laboratório aplicado que trabalharia com os principais laboratórios de IA para enfrentar o problema que Eckersley acreditava ser, talvez, ainda mais importante do que o trabalho de privacidade e segurança cibernética ao qual ele dedicou décadas de sua vida. carreira: redirecionar o futuro da inteligência artificial para longe das forças que causam sofrimento no mundo, em direção ao que ele descreveu como “florescimento humano”.

“Precisamos fazer da IA ​​não apenas quem somos, mas o que aspiramos ser”, disse Turan em seu discurso no evento memorial, depois de reproduzir uma gravação do telefonema em que Eckersley o recrutou. “Então isso pode nos levar nessa direção.”

A missão que Eckersley concebeu para a AOI surgiu de um sentimento crescente na última década de que a IA tem um “problema de alinhamento”: que sua evolução está avançando em um ritmo cada vez mais acelerado, mas com objetivos simplistas que estão fora de sintonia com os de a saúde e a felicidade da humanidade. Em vez de inaugurar um paraíso de superabundância e lazer criativo para todos, Eckersley acreditava que, em sua trajetória atual, a IA tem muito mais probabilidade de amplificar todas as forças que já estão destruindo o mundo: destruição ambiental, exploração dos pobres e desenfreada nacionalismo, para citar alguns.

O objetivo da AOI, como descrevem Turan e Gallagher, não é tentar restringir o progresso da IA, mas orientar sua Objetivos longe daquelas forças destrutivas obstinadas. Eles argumentam que é a melhor esperança da humanidade de prevenir, por exemplo, software hiperinteligente que pode fazer lavagem cerebral em humanos por meio de publicidade ou propaganda, corporações com estratégias e poderes divinos para colher até o último hidrocarboneto da terra, ou sistemas de hackers automatizados que podem penetrar em qualquer rede em o mundo para causar caos global. “As falhas de IA não parecerão nanorrobôs rastejando sobre nós de repente”, diz Turan. “São desastres econômicos e ambientais que parecerão muito reconhecíveis, semelhantes às coisas que estão acontecendo agora.”

Gallagher, agora diretor executivo da AOI, enfatiza que a visão de Eckersley para o instituto não era a de uma Cassandra pessimista, mas de um pastor que poderia guiar a AI em direção a seus sonhos idealistas para o futuro. “Ele nunca pensou em como evitar uma distopia. Seu modo de pensar eternamente otimista era: ‘como fazemos a utopia?’”, diz ela. “O que podemos fazer para construir um mundo melhor e como a inteligência artificial pode contribuir para o florescimento humano?”