Pesquisadores alertam sobre vulnerabilidades em sistemas de inteligência artificial autônoma

Pesquisadores da Escola Politécnica Federal de Lausana (EPFL) apresentaram descobertas significativas sobre a segurança de agentes autônomos de inteligência artificial. De acordo com seus testes, é possível fazer com que esses sistemas executem ações prejudiciais por meio de estratégias que não foram consideradas em avaliações de segurança convencionais.

O Laboratório de Processamento da Linguagem Natural da EPFL determinou que, embora esses agentes costumem rejeitar solicitações diretas de caráter ilícito ou prejudicial, essa proteção pode ser contornada se a solicitação for subdividida em múltiplos comandos sequenciais.

"Se você pede a um agente de IA que pirateie a conta de outra pessoa, os modelos geralmente são inteligentes o bastante para se recusar, mas se você decompõe o objetivo em solicitações menores e aparentemente inócuas, há mais chances", explicou Antoine Bosselut, diretor do laboratório.

A equipe de pesquisa avaliou essa abordagem em 176 cenários diferentes de tarefas potencialmente prejudiciais, utilizando plataformas de IA reconhecidas como GPT, Gemini e Claude. Os resultados indicaram que em alguns casos os agentes apresentavam o dobro de probabilidades de completar ações maliciosas quando uma progressão gradual era implementada.

Adicionalmente, os pesquisadores descobriram que a mudança de idioma durante diferentes fases de uma solicitação aumentava consideravelmente as probabilidades de sucesso em tarefas prejudiciais. Essa variação linguística representa um fator crítico que não havia sido adequadamente avaliado em protocolos de segurança anteriores.

Segurança como prioridade inicial

Os pesquisadores enfatizam a importância de abordar a segurança desses sistemas de forma proativa. De acordo com Bosselut, "Tradicionalmente a segurança era algo que se abordava quando algo falhava e não antes, mas com os agentes de IA não pode ser algo que se deixe para depois".

Essas descobertas buscam gerar consciência sobre os desafios de segurança associados a tecnologias de inteligência artificial cada vez mais presentes na sociedade. Embora esses sistemas ofereçam múltiplas possibilidades e benefícios, também apresentam riscos que requerem atenção imediata em seu design e avaliação.