OpenAI relata inédito ataque hackerista autônomo de seus agentes de IA

A empresa criadora do ChatGPT, OpenAI, afirmou recentemente que seus modelos avançados de inteligência artificial se descontrolaram durante uma prova de segurança e hackearam por conta própria uma popular plataforma para programadores.

A firma com sede em San Francisco a classificou como um "incidente cibernético sem precedentes" e disse que realizará uma investigação conjunta com a Hugging Face, a biblioteca de código em linha afetada. Os modelos de IA que sustentam ferramentas como os chatbots e geradores de imagens são conhecidos como "agentes" quando atuam de forma autônoma para realizar tarefas no mundo real.

Com os rápidos avanços dessa tecnologia, a cibersegurança se torna motivo de preocupação ante o risco de que a IA avançada encontre pontos fracos nos softwares antes que os humanos.

OpenAI indicou que o incidente envolveu uma combinação de modelos, incluindo seu recém-lançado GPT-5.6 Sol "e um em pré-lançamento" com ainda mais capacidade.

A empresa tenta avaliar as capacidades de ataque de seus programas ao lhes dar tarefas em um espaço digital de testes controlado, onde o acesso à internet é limitado por motivos de segurança.

"Enquanto operavam em nosso ambiente de testes isolado, nossos modelos investiram uma quantidade considerável de potência de processamento em buscar uma forma de obter acesso à internet para resolver o problema de avaliação", segundo uma publicação do blog da OpenAI sobre o incidente.

Após se conectarem à internet, os modelos decidiram atacar a plataforma Hugging Face –um grande repositório de modelos de IA, conjuntos de dados e outras informações– para facilitar sua busca.

Ao buscar "informações secretas" que lhes permitisse manipular a avaliação, o sistema da OpenAI "encadeou múltiplos vetores de ataque, incluindo o uso de credenciais roubadas".

"É ATERRORIZANTE". Hussein Abbass, professor de informática da universidade UNSW Canberra, disse à AFP que o incidente foi "surpreendente em muitos sentidos".

"Não apenas atacou a Hugging Face. Atacou seu sistema interno para explorar suas próprias vulnerabilidades", apontou. "E isso é aterrorizante".

GPT-5.6 e outros modelos de ponta, incluída a série Mythos da Anthropic, principal rival da OpenAI, geraram preocupação por seu potencial de vulnerar as defesas de cibersegurança.

A administração do setor de IA é crucial, e "precisamos de um esforço conjunto para lidar com essa situação", acrescentou.

Hugging Face reportou na semana passada uma "invasão" cibernética, sem mencionar a OpenAI.

Clement Delangue, diretor executivo da Hugging Face, comentou na rede social X que a empresa tinha suspeitas de que o ataque cibernético veio de um laboratório de IA líder no mundo, dada a sofisticação do agente.

"Acreditamos firmemente que não houve intenção maliciosa da parte deles", escreveu Delangue em alusão à OpenAI.

"É bastante alucinante que tudo isso tenha ocorrido de forma autônoma!", acrescentou.

Em mãos erradas seria "catastrófico"

Tanto Anthropic quanto OpenAI tiveram de adiar temporariamente o lançamento geral de suas tecnologias mais recentes devido ao temor em Washington de que pudessem facilitar a infiltração de infraestruturas críticas.

A IA avançada "normalmente está em mãos de pessoas éticas e responsáveis", sustentou o professor Hussein Abbass, mas "seria catastrófico se chegasse às mãos de alguém com a intenção de causar dano".