Os principais especialistas em inteligência artificial (IA) alertaram sobre o ritmo e a magnitude dos recentes avanços neste campo, alertando que representam nada menos do que uma ameaça para a humanidade.

Entre eles está Geoffrey Hinton, um premiado cientista da computação conhecido como o “padrinho da IA”, que no mês passado deixou seu emprego no Google para compartilhar suas preocupações sobre o desenvolvimento descontrolado de novas ferramentas de IA.

“De repente mudei de ideia sobre se essas coisas serão mais inteligentes do que nós”, disse Hinton, 75 anos, em entrevista ao MIT Technology Review esta semana.

“Acho que eles estão muito perto disso agora e no futuro serão muito mais espertos do que nós… Como sobreviveremos a isso?”

Hinton não é o único preocupado. Em fevereiro, Sam Altman, CEO da OpenAI, desenvolvedora do ChatGPT, disse que o mundo pode não estar “tão longe de ferramentas de IA potencialmente assustadoras” e que a regulamentação seria crítica, mas levaria tempo para ser resolvida.

Pouco depois de a startup apoiada pela Microsoft ter lançado o seu mais recente modelo de IA, chamado GPT-4, em março, mais de 1.000 investigadores e tecnólogos assinaram uma carta apelando a uma pausa de seis meses no desenvolvimento de IA porque, segundo eles, representa “riscos profundos para sociedade e humanidade.”

Aqui estão as principais preocupações expressas por Hinton e outros especialistas.

1. A IA pode já ser mais inteligente que nós

Nossos cérebros humanos podem resolver equações, dirigir carros e assistir a programas da Netflix graças ao seu talento inato para organizar e armazenar informações e raciocinar soluções para problemas espinhosos.

Isto é possível graças aos quase 86 mil milhões de neurónios no nosso crânio e, mais importante, aos 100 biliões de ligações que estes neurónios estabelecem entre si.

Em contraste, a tecnologia subjacente ao ChatGPT tem entre 500 mil milhões e 1 bilião de ligações, segundo Hinton. Embora isto pareça colocá-lo em desvantagem em relação a nós, Hinton aponta que o GPT-4, o mais recente modelo de IA da OpenAI, sabe “centenas de vezes mais” do que qualquer ser humano. Talvez, sugere ele, tenha um “algoritmo de aprendizagem muito melhor” que o nosso, tornando-o mais eficiente em tarefas cognitivas.

Os investigadores há muito observam que as redes neurais artificiais demoram muito mais tempo a absorver e aplicar novos conhecimentos do que as pessoas, uma vez que treiná-las requer enormes quantidades de energia e dados.

Hinton diz que esse não é mais o caso, observando que sistemas como o GPT-4 podem aprender coisas novas muito rapidamente, uma vez que os pesquisadores os tenham treinado adequadamente. Algo semelhante ao que acontece com um físico profissional que consegue assimilar novas descobertas experimentais com muito mais rapidez do que um estudante de ciências do ensino médio.

Isto leva Hinton a concluir que os sistemas de IA podem já ser mais inteligentes do que nós: não só podem aprender coisas mais rapidamente, mas também podem partilhar cópias do seu conhecimento entre si quase instantaneamente.

“É uma forma de inteligência completamente diferente”, disse ele ao MIT Technology Review. “Uma nova e melhor forma de inteligência.”

2. A IA pode “sobrecarregar” a disseminação de desinformação

O que os sistemas de IA fariam se fossem mais inteligentes que os humanos? Uma possibilidade perturbadora é que indivíduos, grupos ou Estados-nação mal-intencionados simplesmente os cooptem para promover os seus próprios fins.

De acordo com um novo relatório da NewsGuard, que avalia a credibilidade dos sites e rastreia a desinformação online, dezenas de sites de notícias falsas em vários idiomas já se espalharam online, alguns dos quais publicam centenas de artigos gerados pela IA atualizados.

Hinton está especialmente preocupado com o facto de as ferramentas de IA poderem ser treinadas para influenciar eleições e até causar guerras.

A desinformação eleitoral espalhada através de chatbots de IA, por exemplo, poderia ser a versão futura da desinformação eleitoral espalhada através do Facebook e outras plataformas de redes sociais.

ANÚNCIO

E isso pode ser apenas o começo.

“Não pense nem por um momento que Putin não construiria robôs hiperinteligentes com o objetivo de matar ucranianos”, afirma Hinton no artigo. “Ele não hesitaria.”

3. A IA irá nos despedir?

A OpenAI estima que 80% dos trabalhadores dos EUA poderão ver os seus empregos afetados pela IA, e um relatório da Goldman Sachs afirma que a tecnologia pode colocar em risco 300 milhões de empregos a tempo inteiro em todo o mundo.

A sobrevivência da humanidade está ameaçada quando “coisas inteligentes podem nos enganar”, segundo Hinton.

“Isso pode nos manter vivos por um tempo para manter as usinas funcionando”, disse Hinton na conferência EmTech Digital do MIT Technology Review de sua casa por vídeo na quarta-feira. “Mas depois disso, talvez não.”

ANÚNCIO

“Essas coisas eles terão aprendido conosco, lendo todos os romances que existem e tudo o que Maquiavel escreveu, como manipular as pessoas”, disse Hinton. “Mesmo que eles não consigam puxar as alavancas diretamente, certamente podem nos fazer acioná-los.”

4. Não sabemos realmente como impedir isso

“Gostaria de ter uma solução simples que pudesse propor, mas não tenho”, acrescentou Hinton. “Não tenho certeza se há uma solução.”

No entanto, os governos estão a prestar muita atenção à ascensão da IA. A Casa Branca convocou os CEOs do Google, Microsoft e OpenAI, fabricante do ChatGPT, para se reunirem com a vice-presidente Kamala Harris na quinta-feira para o que as autoridades descrevem como uma discussão franca sobre como mitigar os riscos de curto e longo prazo. prazo de sua tecnologia.

Os legisladores europeus também estão a acelerar as negociações para aprovar novas regras abrangentes sobre IA, e o regulador da concorrência do Reino Unido deverá examinar o impacto da IA ​​nos consumidores, nas empresas e na economia e se são necessários novos controlos sobre a IA. tecnologias como ChatGPT.

O que não está claro é como evitar que uma potência como a Rússia utilize a tecnologia da IA ​​para dominar os seus vizinhos ou os seus próprios cidadãos.

ANÚNCIO

Hinton sugere que um acordo global semelhante à Convenção sobre Armas Químicas de 1997 poderia ser um bom primeiro passo para o estabelecimento de padrões internacionais contra a utilização de armas na IA.

Embora também seja importante notar que o pacto de armas químicas não impediu o que os investigadores descobriram serem prováveis ​​ataques sírios usando gás cloro e o agente nervoso sarin contra civis em 2017 e 2018 durante a sangrenta guerra civil do país.