Anthropic: Irã usou a IA Claude para planejar possíveis ataques contra os EUA

A empresa apontou, em um relatório de 154 páginas, que estas ferramentas podem ajudar a identificar objetivos e processar grandes quantidades de informação relacionadas com dissidentes, jornalistas, ativistas e políticos, o que permite aos Governos tornar mais eficientes sistemas de vigilância que já existem.

No caso iraniano, os usuários recorreram além disso a mecanismos para contornar as restrições de acesso a Claude, que não está disponível oficialmente no país, e utilizaram redes privadas virtuais e números de telefone estrangeiros para acessar o serviço.

Leia mais: OpenAI pede ao Congresso dos EUA normas de segurança obrigatórias para a IA

Segundo Anthropic, um grupo de cibercriminosos vinculado ao Irã utilizou a conta de Claude para elaborar recomendações de ataque contra as forças navais estadounidenses na região.

A companhia também documentou em seu relatório outros usos indevidos de Claude relacionados com armas convencionais e operações cibernéticas em países como China, Rússia e Iêmen.

Anthropic afirmou que bloqueou esses usos diante do risco de que seus modelos pudessem contribuir ao desenvolvimento de patógenos perigosos, embora tenha reconhecido que não pôde determinar se as pesquisas tinham fins legítimos ou maliciosos.

Saiba mais: Anthropic desarticulou possíveis tramas que usavam sua IA para pesquisar armas biológicas

"Embora as avaliações sejam úteis porque proporcionam evidência de capacidade, não podem demonstrar concretamente que tal capacidade fosse utilizada alguma vez para desenvolver armas biológicas no mundo real", explicou a empresa.

Anthropic advertiu que a crescente capacidade e autonomia dos modelos de IA está reduzindo as barreiras técnicas e econômicas para realizar atividades que anteriormente requeriam maiores conhecimentos e recursos.

Este relatório surge em meio a crescentes preocupações de especialistas no setor tecnológico quanto ao uso dual da IA, já que os modelos capazes de ajudar em pesquisas biológicas também podem servir para atividades perigosas, e também de vozes que alertam sobre os perigos derivados da crescente autonomia destes modelos.