Pesquisadores alertam sobre os perigos dos novos agentes autônomos de IA

De acordo com pesquisadores da Escola Politécnica Federal de Lausana (EPFL), que realizaram diversos testes com esses agentes, é relativamente fácil conseguir que executem ações 'prejudiciais' com determinadas estratégias que não foram consideradas em testes de segurança convencionais.

Nesse sentido, os pesquisadores do Laboratório de Processamento de Linguagem Natural da EPFL concluíram que se a esses agentes é solicitado diretamente algo ilícito ou prejudicial, haverá uma negativa, mas isso pode mudar se o pedido é dividido em vários comandos.

"Se você pede a um agente de IA que invada a conta de outra pessoa, os modelos geralmente são inteligentes o suficiente para se recusarem, mas se você divide o objetivo em pedidos menores e aparentemente inofensivos, há mais chances", destacou o diretor do laboratório, Antoine Bosselut.

Os pesquisadores testaram essa abordagem em 176 cenários distintos de tarefas prejudiciais, utilizando modelos de IA como GPT, Gemini ou Claude, e descobriram que em alguns casos os agentes tinham o dobro de probabilidades de completar essas ações maliciosas se os invasores avançassem gradualmente.

Nos testes, além disso, os pesquisadores descobriram que se os invasores alteram o idioma em que fazem suas solicitações à IA durante as diferentes etapas de sua ação, a possibilidade de sucesso em uma tarefa prejudicial "aumenta de maneira drástica".

Com essas pesquisas, os especialistas buscam chamar atenção sobre a segurança de uma tecnologia já muito presente na sociedade e repleta de possibilidades, mas também de riscos.

"Tradicionalmente a segurança tem sido algo que é abordado quando algo falha e não antes, mas com os agentes de IA não pode ser algo que seja deixado para depois", advertiu Bosselut.