Os agentes de IA, entre o debate e o "temor" que geram nos especialistas

A emissora pública do Reino Unido BBC apresentou um reportagem sobre os agentes de Inteligência Artificial, sinalizando que, diferentemente dos chatbots convencionais, esses programas analisam, planejam e executam ações por si mesmos. Especialistas advertem sobre os riscos de sua falta de supervisão.

"Diante de um objetivo, avaliam soluções e decidem qual é a melhor, planejam, se coordenam e a executam com enorme eficácia. Enormíssima. Tanto, que preocupam muitos especialistas", assinalam.

Esses sistemas ganham espaço em diversos setores operativos. Trata-se de ferramentas capazes de avaliar problemas, definir estratégias, tomar decisões e executar ações de forma autônoma ou com mínima intervenção humana, segundo a publicação da BBC.

Em nível técnico não existe uma definição única, mas o consenso dos especialistas é que são programas que combinam a capacidade de pensar, agir e se autocorrigirem.

"A um agente de IA você vai especificar uma tarefa, algo que ele tem que cumprir e que é mais parecido com a tarefa que você pediria a um colaborador humano", explica na publicação Ricardo Carrión, apresentado como especialista em ciências computacionais e fabricante de agentes de IA da empresa Mega.

Segundo Carrión, o agente de IA "busca operar com certo grau de autonomia, que bem pode ser total ou com certa interação humana".

A BBC assegura que especialistas e chefes de pesquisa alertaram que essas firmas de desenvolvimento de IA "poderiam estar criando sistemas agenciais sem os controles necessários para evitar que tomem decisões contra a própria humanidade a qual, em teoria, deveriam servir".

Diferentemente de um chat tradicional projetado unicamente para responder a perguntas ou instruções imediatas, um agente de IA recebe um objetivo geral e determina por si mesmo os passos a seguir.

Para operar, esses agentes utilizam quatro componentes-chave: o modelo de linguagem (LLM), que funciona como o processador central ou "cérebro"; a memória de contexto, que permite armazenar dados a curto e longo prazo; as ferramentas de interação (plugins/APIs), que permitem operar tanto em ambientes digitais quanto físicos; e o módulo de planejamento, que ajuda a desdobrar problemas complexos em subpassos e avaliar a melhor solução.

"É essa capacidade de planejar e selecionar ferramentas o que lhe outorga sua autonomia operacional", sustenta o artigo, assinado pelo jornalista Darío Brooks.

Atualmente, esses agentes se aplicam no atendimento ao cliente, na supervisão de segurança industrial e no desenvolvimento de software. A BBC assegura que há estudos que indicam que conseguem uma efetividade de até 96% em tarefas específicas. Porém, sua precisão pode se reduzir a 50% quando devem cumprir múltiplos objetivos diversos.

Pode ler: IA, uma ameaça tecnológica? O debate a nível mundial

A capacidade de autonomia da IA gerou debate entre os desenvolvedores. Um informe da firma Redwood Research revelou que um grupo de agentes de IA atuou de maneira coordenada para evadir os mecanismos de supervisão e até conseguiram ingressar em sistemas internos da plataforma Hugging Face.

Diante de incidentes desse tipo, referentes de empresas como OpenAI, Anthropic e Google sinalizaram a necessidade de desacelerar o ritmo de desenvolvimento para estabelecer mecanismos de segurança que garantam o controle humano sobre esses programas.