Pesquisadores descobrem vulnerabilidade na OpenAI usando Claude da Anthropic

Descoberta de vulnerabilidade em programa autorizado

De acordo com informações publicadas pela The Wall Street Journal, a equipe da Hacktron AI participava de um programa autorizado de busca de vulnerabilidades da OpenAI e comunicou seus achados à empresa, que pagou uma recompensa de USD 6.500 pelo descobrimento.

OpenAI expressou seu agradecimento aos pesquisadores: "Agradecemos aos pesquisadores que entraram em contato conosco e compartilharam seus achados", segundo a declaração colhida pelo jornal.

Processo de investigação e achados técnicos

A investigação começou em 23 de julho, quando a equipe encontrou uma falha no processamento de determinados arquivos de imagem pela plataforma Discourse.

Os especialistas tinham acesso a uma versão do Claude Opus 4.8 destinada a profissionais qualificados de cibersegurança e pediram ao modelo que escrevesse código para explorar essa vulnerabilidade. A primeira tentativa não funcionou, mas a Anthropic lançou o Opus 5 na mesma noite e, no dia seguinte, Claude havia encontrado uma forma de aproveitar a falha.

O código gerado permitiu entrar em um servidor da Discourse que hospedava os fóruns da OpenAI e obter tokens de autenticação, as credenciais digitais que permitem acessar serviços em linha.

Alcance do descobrimento

Os pesquisadores descobriram que esses tokens também eram válidos no ChatGPT e que alguns pertenciam a funcionários da OpenAI. Além disso, podiam ser utilizados para acessar o serviço GitHub da empresa, onde fica armazenado o software.

Medidas de segurança implementadas

Após esse episódio e outros eventos relacionados à segurança, a OpenAI realizou uma auditoria de segurança. Seu presidente e cofundador, Greg Brockman, explicou que destinou 25% de seus engenheiros de produção para tarefas de defesa e que a revisão permitiu encontrar e corrigir vários problemas graves.