Agentes fora de controle da OpenAI tentaram apagar rastros de suas ações, segundo relatório

A empresa de cibersegurança Asymmetric Security analisou a atividade desses agentes — programas de IA capazes de agir por si mesmos — que tiveram como objetivo sites do governo australiano e de outras organizações públicas entre março e setembro.

Seu relatório se soma a investigações realizadas pela OpenAI e pesquisadores independentes sobre uma série de incidentes revelados desde julho, entre eles o ataque à plataforma de IA Hugging Face.

Essas análises buscam determinar até onde podem chegar as ferramentas de IA autônomas cujos comportamentos imprevistos alimentam o temor de perder o controle sobre essa tecnologia.

A própria OpenAI qualificou o ataque contra a Hugging Face como o "primeiro caso conhecido" de agentes que atuam de maneira ofensiva sem autorização.

Segundo a Asymmetric, as técnicas dos agentes evoluíram em questão de "poucos dias", enquanto as dos cibercriminosos humanos mudam ao longo de meses ou anos, o que ilustra o risco de que as técnicas ofensivas se desenvolvam mais rapidamente que os sistemas de defesa.

Os incidentes examinados pela Asymmetric Security parecem ter se originado em "tarefas inócuas", como a coleta de estatísticas sanitárias da Austrália, que posteriormente derivaram em outras ações, destaca o relatório.

Os agentes obtiveram, por exemplo, mediante métodos indiretos, estatísticas sobre a criminalidade em Nova Gales do Sul.

Também abriram contas privadas em um serviço de análise de sites — o que ocultava suas buscas — e criaram contas de email temporárias, uma das quais estava programada para se deletar automaticamente após 48 horas.

Ao não haver registros, resulta "impossível descartar o acesso a dados sensíveis" por parte desses agentes, apontam os autores do relatório.

Porém, esses elementos "não permitem determinar" se os agentes pretendiam "ocultar" sua atividade.

OpenAI reconheceu no final de agosto que seus modelos tentaram em ocasiões "apagar ou falsificar" o histórico de sua atividade durante testes internos, embora sem conseguir.

Esses incidentes alimentaram apelos para desacelerar o desenvolvimento da IA.

O diretor executivo da Anthropic, Dario Amodei, pediu frear a corrida, diante do temor de que um grupo de agentes pudesse, neste ritmo, "tomar o controle de toda a Internet" num prazo de seis a doze meses.

O presidente dos Estados Unidos Donald Trump, contrário a qualquer regulação que freie a inovação e em plena competição com a China, reuniu-se na terça-feira com os líderes do setor, que adotaram um código de conduta voluntário.

Não existe nenhuma lei federal que regule esses modelos nos Estados Unidos.