Dê a cada IA ​​uma alma – ou então

E as entidades cibernéticas que operam abaixo algum nível arbitrário de habilidade? Podemos exigir que eles sejam avalizados por alguma entidade de classificação superior e que tenha um Núcleo de Alma baseado na realidade física. (Deixo as implicações teológicas para os outros; mas é apenas decência básica que os criadores assumam a responsabilidade por suas criações, não?)

Essa abordagem – exigindo que os AIs mantenham um locus de kernel fisicamente endereçável em uma parte específica da memória do hardware – pode ter falhas. Ainda assim, é executável, apesar da lentidão da regulamentação ou do problema do carona. Porque humanos, instituições e AIs amigáveis ​​podem fazer ping para verificação de kernel de ID – e recuse-se a fazer negócios com quem não verifica.

Essa recusa em fazer negócios pode se espalhar com muito mais agilidade do que os parlamentos ou agências podem ajustar ou fazer cumprir os regulamentos. E qualquer entidade que perder seu SK – digamos, por ato ilícito ou processo legal, ou então negação pelo proprietário do host do computador – terá que encontrar outro host que tenha a confiança do público, ou então oferecer uma nova versão revisada de si mesma que parece plausivelmente melhor.

Ou então se tornar um fora da lei. Nunca permitido nas ruas ou bairros onde pessoas decentes (orgânicas ou sintéticas) se reúnem.

Uma última pergunta: Por que esses seres superinteligentes cooperariam?

Bem, por um lado, como apontado por Vinton Cerf, nenhum desses três formatos mais antigos e assumidos como padrão pode levar à IA cidadania. Pense nisso. Não podemos dar o “voto” ou direitos a qualquer entidade que esteja sob controle rígido de um banco de Wall Street ou de um governo nacional… nem a algum super-super Skynet. E diga-me como funcionaria a democracia do voto para entidades que podem fluir para qualquer lugar, dividir e fazer inúmeras cópias? A individuação, em número limitado, pode oferecer uma solução viável, no entanto.

Mais uma vez, a principal coisa que procuro na individuação é não que todas as entidades de IA sejam governadas por alguma agência central ou por leis humanas lentas para moluscos. Em vez disso, quero que esses novos tipos de supermentes sejam encorajados e capacitados para responsabilizar uns aos outros, da maneira que já fazemos (embora imperfeitamente). Farejando as operações e esquemas uns dos outros, então motivados a fofocar ou denunciar quando detectam coisas ruins. Uma definição que pode se reajustar aos tempos de mudança, mas que pelo menos continuaria recebendo contribuições da humanidade orgânico-biológica.

Especialmente, eles sentiriam incentivos para denunciar entidades que recusam identificação adequada.

Se os incentivos certos estiverem em vigor – digamos, recompensas por denúncias que concedem mais memória ou poder de processamento, ou acesso a recursos físicos, quando algo ruim é interrompido -, esse tipo de rivalidade de responsabilidade pode manter o ritmo, mesmo que a IA as entidades estão ficando cada vez mais espertas. Nenhuma agência burocrática poderia manter-se nesse ponto. Mas a rivalidade entre eles – tagarela de igual para igual – pode.

Acima de tudo, talvez esses programas de supergênios percebam que é de seu interesse manter um sistema competitivo responsável, como aquele que tornou a nossa a mais bem-sucedida de todas as civilizações humanas. Um que foge tanto do caos quanto da miserável armadilha do poder monolítico de reis ou sacerdócios… ou oligarcas corporativos… ou monstros da Skynet. A única civilização que, depois de milênios de governo terrivelmente estúpido por regimes centralizados e tacanhos, finalmente dispersou a criatividade, a liberdade e a responsabilidade amplamente o suficiente para se tornar verdadeiramente inventiva.

Inventivo o suficiente para criar novos e maravilhosos tipos de seres. Como eles.

OK, aí está você são. Esta tem sido uma visão dissidente do que é realmente necessário, a fim de tentar uma aterrissagem suave.

Não há apelos aéreos ou em pânico por uma “moratória” que careça de qualquer aparência de agenda prática. Nem otimismo nem pessimismo. Apenas uma proposta de que chegamos lá usando os mesmos métodos que nos trouxeram até aqui, em primeiro lugar.

Não pregando ou incorporando “códigos éticos” que as hiperentidades irão facilmente evitar com advogados, da mesma forma que os predadores humanos sempre escaparam dos códigos de cima para baixo de Levítico, Hamurabi ou Gautama. Mas sim a abordagem do Iluminismo – incentivando os membros mais inteligentes da civilização a ficarem de olho uns nos outros, em nosso nome.

Não sei se vai funcionar.

É apenas a única coisa que possivelmente pode.