Alertam sobre as ameaças reais da inteligência artificial

O secretário da Sociedade Paraguaia de Inteligência Artificial, Luis Benítez, expressou à Monumental 1080 AM que estamos no cenário em que as duas maiores empresas, Anthropic e OpenAI, estão no momento anterior ao lançamento na bolsa. "Há um ano estão preparando esse terreno para conseguir capital para os empreendimentos".

Nesse sentido, afirmou que a corrida segue no caminho de desenvolver tecnologias e inteligências, mas não há investimento no alinhamento dessas inteligências, que já têm uso militar há décadas e que já foram utilizadas em Gaza e no Irã.

"O poder real que tem, ao qual está conectada a inteligência existe, não é um mito, à medida que mais inteligentes são, mais se delegam as ações ou decisões sobre a infraestrutura. Não é realmente um mito, é uma questão que pode acontecer, o problema é esse, não temos um alinhamento com valores humanos ou uma ética ou moral humana no funcionamento dessa tecnologia", reforçou.

Benítez mencionou que justamente por isso Anthropic, de onde está se alertando essa questão, esteve na encíclica do novo Papa, sobre a necessidade de humanizar a tecnologia.

"Os alertas são riscos reais, assim como têm conexão com infraestrutura militar, têm conexão com questões biomédicas. Como não controlamos o tema das decisões ou o impacto que possam ter, quando se colocarem sistemas completamente autônomos, poderia afetar a vida humana e certas regiões", alertou.

Também afirmou que a corrida é frenética e que trilhões e trilhões estão sendo investidos e estão chegando ao ponto em que a inteligência artificial comece a se desenhar a si mesma.

Sobre decisões que a IA poderia tomar, encontram-se não apenas um campo de batalha, mas, por exemplo, a destruição de uma barragem, como Itaipu, sem a análise do que isso representaria em termos catastróficos, como um lago varrendo até Buenos Aires.

"Obviamente, como você tem casos como Itaipu, tem casos de bombas atômicas onde a inteligência artificial poderia apontar como alvo ou a criação de armas biológicas, como melhorar o vírus da pandemia como tática militar, sem compreender o impacto", mencionou.

Finalmente, também fez menção aos algoritmos que impactam no sistema democrático e nas decisões que as pessoas tomam.

"Cada vez mais estamos delegando as decisões que são tomadas pela análise que esses algoritmos têm, que controlam diferentes aspectos e poderiam nos afetar diretamente", finalizou.

Recentemente a empresa Anthropic informou que bloqueou a tentativa por parte de um organismo estatal de usar seus modelos de IA para estudar venenos não contagiosos, além de bloquear um usuário que pesquisava toxinas bacterianas e proteínas de febres hemorrágicas virais com capacidade pandêmica, como ebola.

Também frustraram outras pesquisas potencialmente relacionadas com o desenvolvimento de armas biológicas, algumas com alto potencial pandêmico.

Uma delas era uma solicitação para fundos que tornariam o vírus chikungunya mais transmissível e resistente ao sistema imunitário.