Especialista analisa desafios éticos e de segurança no desenvolvimento de inteligência artificial

Luis Benítez, secretário da Sociedade Paraguaia de Inteligência Artificial, abordou em uma entrevista radial os desafios atuais no desenvolvimento de sistemas de inteligência artificial, enfatizando a necessidade de equilibrar a inovação tecnológica com considerações éticas e de segurança.

Segundo Benítez, atualmente se está presenciando uma fase importante na indústria de IA, com empresas líderes como Anthropic e OpenAI em preparativos para acesso a mercados de capital. "Desde há um ano se está preparando esse terreno para conseguir capital para os empreendimentos", apontou.

Brecha entre inovação e segurança

O especialista sublinhou uma preocupação central: enquanto o investimento em desenvolvimento tecnológico continua crescendo exponencialmente, existe uma carência de recursos dedicados ao alinhamento desses sistemas com princípios humanos. "A corrida vai no caminho de desenvolver tecnologias, inteligências, mas não há investimento no alinhamento dessas inteligências", expressou.

Benítez enfatizou que os sistemas de inteligência artificial já possuem aplicações militares documentadas há décadas, e têm sido utilizados em conflitos recentes. Essa realidade, segundo o especialista, coloca interrogações sobre o controle e a governança de tecnologias cada vez mais autônomas.

Riscos de autonomia sem supervisão

"O poder real que tem, ao qual está conectada a inteligência existe, não é um mito. À medida que mais inteligentes são, mais se delega as ações ou decisões sobre a infraestrutura. O problema é que não temos um alinhamento a valores humanos ou uma ética moral no funcionamento dessa tecnologia"

O secretário da Sociedade Paraguaia de Inteligência Artificial apontou que Anthropic tem estado promovendo essas preocupações em nível internacional, inclusive com menção na recente encíclica papal sobre a humanização da tecnologia.

Benítez identificou múltiplos cenários de risco potencial. Apontou que sistemas autônomos conectados a infraestruturas críticas poderiam tomar decisões sem análise adequada de suas consequências catastróficas. Mencionou exemplos hipotéticos como danos a infraestruturas de grande escala ou o desenvolvimento descontrolado de armas biológicas.

Interseção com infraestrutura crítica

"Como você tem casos como Itaipu, você tem casos de bombas atômicas onde a inteligência artificial poderia apontar como alvo ou a criação de armas biológicas, como melhorar o vírus da pandemia como uma tática militar, sem compreender o impacto", alertou.

O especialista também abordou o impacto de sistemas de IA em processos democráticos, destacando como os algoritmos influem cada vez mais nas decisões da população por meio do controle de informação e análise de dados.

Medidas de segurança implementadas

Benítez mencionou que Anthropic tomou iniciativas concretas para mitigar riscos. A empresa bloqueou tentativas por parte de organismos estatais de utilizar seus modelos de IA para investigações relacionadas com substâncias tóxicas e patógenos potencialmente pandêmicos.

Entre os casos bloqueados se incluem investigações sobre toxinas bacterianas, proteínas de febres hemorrágicas virais com capacidade pandêmica como o ebola, e solicitações para modificar vírus como o chikungunya tornando-os mais transmissíveis e resistentes ao sistema imunológico.

Chamado a maior regulação

O especialista concluiu enfatizando que os alertas sobre riscos da inteligência artificial não são especulativos, mas baseados em ameaças tangíveis. Sublinhou a urgência de investir em alinhamento ético e governança responsável dessas tecnologias, paralelamente ao desenvolvimento acelerado que caracteriza a indústria atual.