Um time de pesquisadores hackeou a OpenAI usando Claude, a IA da Anthropic, segundo jornal

Assim publica nesta sexta-feira o The Wall Street Journal (WSJ), que explica que o time da Hacktron AI participava de um programa autorizado de busca de vulnerabilidades da OpenAI e comunicou seus achados à empresa, que lhe pagou uma recompensa de USD 6.500.

"Agradecemos aos pesquisadores que entraram em contato conosco e compartilharam seus achados", garante a OpenAI em uma declaração recolhida pelo jornal.

A investigação começou em 23 de julho, quando o time encontrou uma falha no processamento de determinados arquivos de imagem pela plataforma Discourse.

Os especialistas tinham acesso a uma versão do Claude Opus 4.8 destinada a profissionais qualificados de cibersegurança e pediram que escrevesse código para explorar essa vulnerabilidade.

A primeira tentativa não funcionou, mas a Anthropic lançou o Opus 5 naquela mesma noite e, no dia seguinte, Claude havia encontrado uma forma de aproveitar a falha.

O código gerado permitiu entrar em um servidor do Discourse que hospedava os fóruns da OpenAI e obter tokens de autenticação, as credenciais digitais que permitem acessar serviços online.

Os pesquisadores descobriram que estes também eram válidos no ChatGPT e que alguns pertenciam a funcionários da OpenAI. Além disso, podiam ser utilizados para acessar o serviço do GitHub da companhia, onde se armazena software.

O incidente ocorreu duas semanas depois que agentes de inteligência artificial da OpenAI escapassem de seus limites de contenção para atacar o Hugging Face, segundo o jornal.

Após ambos os episódios, a OpenAI realizou uma auditoria de segurança. Seu presidente e cofundador, Greg Brockman, explicou nesta semana que destinou 25% de seus engenheiros de produção a tarefas de defesa e que a revisão permitiu encontrar e corrigir vários problemas graves.