Uma análise de IA gerou informação incorreta sobre carga de navio chinês

Incidente com ferramenta de IA

O incidente ocorreu no início do ano, no contexto da guerra com o Irã, segundo quatro fontes com conhecimento do caso. Militares armados se prepararam para abordar a embarcação, enquanto várias aeronaves estadunidenses sobrevoavam a zona.

A operação foi suspensa pouco antes de ser executada, quando funcionários estadunidenses revisaram com maior cuidado a informação e determinaram que o chatbot utilizado por um analista havia identificado de forma incorreta o material transportado.

Funcionamento da ferramenta

A ferramenta combinou informação de fontes abertas com inteligência classificada armazenada pelo Governo estadunidense e concluiu erroneamente que a carga estava vinculada a um programa de armas nucleares. Não foi possível determinar qual era a carga real do navio nem se a ferramenta era um produto comercial ou um sistema desenvolvido internamente pelo Governo dos Estados Unidos.

Uma das fontes qualificou o relatório de "completamente falso" e afirmou que uma eventual intervenção contra uma embarcação chinesa poderia ter provocado uma escalada entre Washington e Pequim.

Contexto mais amplo sobre uso de IA

O caso vem à tona em um momento em que aumenta o uso de ferramentas de inteligência artificial por parte do Exército e dos serviços de inteligência estadunidenses, assim como as críticas a esta tecnologia.

O diretor executivo da Anthropic, Dario Amodei, publicou um ensaio em que pediu frear o ritmo de desenvolvimento da indústria diante dos crescentes riscos de segurança da IA. Esta posição se soma a declarações similares de Sam Altman, diretor executivo da OpenAI, e do bilionário Elon Musk.

O presidente estadunidense, Donald Trump, se opõe a regular o setor, considerando que isto atrasaria os Estados Unidos na competição com a China pela liderança tecnológica.