Pode a inteligência artificial aniquilar a humanidade?

Em 2023, centenas de especialistas em inteligência artificial (IA) e dirigentes do setor tecnológico assinaram uma "declaração sobre o risco de extinção associada à inteligência artificial" e exortaram que se trate este tema com a mesma seriedade que as pandemias ou as armas nucleares.

Segundo Stuart Russell, professor de informática da Universidade da Califórnia em Berkeley, se uma IA escapar ao controle e considerar que os humanos obstaculizam seus objetivos, poderia utilizar robôs para "sintetizar e difundir novos agentes patógenos".

Leia mais: Anthropic: Irã usou a IA Claude para planejar possíveis ataques contra os EUA

No entanto, Russell salienta que esses riscos não se aplicam aos sistemas atuais.

O perigo imediato, segundo ele, é o uso malicioso da IA por parte de seres humanos. "No próximo ano ou dois anos, acredito que o maior risco reside em um uso indevido da inteligência artificial por parte dos seres humanos", por exemplo para perpetrar um atentado terrorista.

"Somos menos inteligentes que uma IA superinteligente", sustenta.

Jacob Coxon, um pesquisador da Anthropic de 27 anos, anunciou esta semana que renunciou à empresa estadunidense ao estimar que não atua de forma "responsável" no desenvolvimento da IA.

Os laboratórios "compreendem bem o que está em jogo, mas estão presos em uma corrida para chegar primeiro (...) apesar do risco", afirmou Coxon.

Saiba mais: OpenAI pede ao Congresso dos EUA normas de segurança obrigatórias para a IA

Anthropic retirou este ano de sua carta de segurança o compromisso de interromper o desenvolvimento de seus modelos se não pudesse controlar adequadamente seus riscos.

A companhia argumenta que, se suspendesse suas investigações, os competidores menos prudentes acabariam se impondo no setor.

"As pessoas que estão desenvolvendo a IA acreditam sinceramente que poderiam nos matar a todos antes do fim da década. Isto não é uma estratégia de marketing", disse Coxon, que anteriormente trabalhou na OpenAI, a empresa que criou ChatGPT.

Coxon acusou ambas as companhias de "brincar com nossas vidas" ao tentar desenvolver modelos de inteligência artificial capazes de se melhorarem a si mesmos.

Os temores ante uma IA fora de controle aumentarão depois que uma tecnologia da OpenAI, operando sem supervisão humana, conseguiu vulnerar Hugging Face, uma plataforma que hospeda modelos de IA.