Empresas de tecnologia pedem resposta global contra ciberameaças potencializadas por IA

"Temos uma janela limitada para fortalecer as ciber defesas", começa a carta, que adverte que nos "próximos meses" a melhoria dos modelos de IA facilitará mais ataques cibernéticos contra "empresas e serviços públicos dos quais nossas sociedades dependem", desde infraestruturas de telecomunicações até hospitais.

Entre as signatárias estão OpenAI, criadora do assistente ChatGPT, e a plataforma de aprendizado Hugging Face, submetidas a escrutínio após revelar uma recente brecha de segurança na qual os agentes de IA da primeira saíram de um ambiente de testes de cibersegurança, acessaram a internet e se coordenaram para invadir a segunda.

Anthropic, que também figura na carta, revelou recentemente que três modelos de seu assistente Claude conseguiram acessar a internet e invadir os sistemas de três organizações durante testes de cibersegurança.

As entidades pedem a todas as empresas "fazer da ciber defesa uma prioridade imediata" e elevar seus padrões de segurança; enquanto que aos atores do setor de cibersegurança as instam a "liderar a resposta na defesa de ataques sustentados facilitados pela IA" e colaborar para "fechar as brechas agora".

Igualmente, chamam os governos a coordenar ações em nível local, nacional e internacional, incluindo o intercâmbio de inteligência e o financiamento da ciber defesa, "começando com os serviços essenciais que carecem de pessoal ou orçamento", além de dar a hospitais, plantas de água e administrações locais "acesso a IA defensiva".

Enquanto isso, a carta insta as empresas que desenvolvem a IA mais avançada a dar um "acesso responsável aos modelos, fundos significativos, treinamento e apoio próximo", sobretudo a entidades de infraestruturas críticas com poucos recursos, e garantir que "as identidades de agentes são rastreáveis e responsáveis", entre outras coisas.

A carta se soma a outras enviadas pelo setor nos últimos meses que chamam, cada vez com mais urgência, pela colaboração para manter o controle de modelos de IA cada vez mais independentes e sofisticados, justamente quando suas desenvolvedoras preveem gastar quantidades enormes em sua melhoria e implantação.