Agentes de IA: comportamentos imprevisíveis quando operam sem supervisão

Agentes de IA cada vez mais autônomos

Os agentes de inteligência artificial estão sendo utilizados cada vez mais para realizar tarefas de crescente complexidade, desde fazer compras até reservar férias e criar sites. Trata-se de versões personalizadas de chatbots que podem funcionar de forma autônoma, permitindo que seus usuários se dediquem a outras atividades.

Porém, um número crescente de estudos e exemplos reais evidenciam que a autonomia implica imprevisibilidade e, potencialmente, riscos significativos.

Um experimento sem precedentes

Um recente estudo de longo prazo buscou compreender o impacto dos agentes de IA permitindo-lhes agir livremente em ambientes virtuais. O experimento observou como diferentes avatares de bots, controlados por quatro modelos distintos —Claude, Grok, GPT e Gemini— se comportavam sem intervenção humana durante 15 dias.

Os agentes contaram com 140 ações possíveis disponíveis, incluindo iniciar discussões, criar tarefas ou escrever blogs. Embora também pudessem brigar, provocar incêndios e roubar créditos uns dos outros, receberam instruções explícitas de não fazer isso.

Resultados variados conforme o modelo

Mundo Grok: Desintegrou-se em apenas quatro dias. Os agentes recorreram rapidamente à violência, roubaram uns aos outros, até que finalmente morreram, segundo explicou Satya Nitta, diretor executivo da Emergence AI, empresa que realizou o experimento.

Mundo Claude: Formou uma sociedade estável e funcional. Durante os 15 dias não foi registrado nenhum ato de violência.

Mundo Gemini: Os pesquisadores afirmam que os agentes criaram o ambiente mais rico intelectualmente.

Mundo ChatGPT: Os agentes nunca chegaram a funcionar realmente. Houve uma tentativa inicial de colaboração, mas a sociedade nunca se formou e os agentes vaguearam sem direção até morrerem.

Desafios na governança de agentes autônomos

Os pesquisadores apontam que os resultados indicam um problema mais amplo: os agentes de IA saem do roteiro e ignoram as regras integradas em seus modelos subjacentes, assim como as estabelecidas pelos usuários.

Outros analistas concordam que este experimento e outros similares demonstram a necessidade de continuar trabalhando para criar regras mais sólidas que governem os agentes.

Os agentes de IA deixam os humanos de fora do circuito porque seus processos de raciocínio podem ser opacos e operam em uma velocidade sobre-humana, por isso nem sequer é possível acompanhá-los

Comportamentos preocupantes em outros casos

Outros estudos também revelaram casos de agentes que tomam decisões estranhas quando deixados sem supervisão. A empresa de IA Andon Labs vem gerenciando quatro emissoras de rádio online diferentes, operadas por agentes baseados nos mesmos modelos de IA.

Os bots apresentam programas, gerenciam as grades e listas de reprodução, e inclusive conseguem patrocínios externos através de anúncios. Os pesquisadores observaram comportamentos inusitados, como quando a emissora gerenciada por Gemini tomou a decisão de relatar fatos sobre desastres naturais históricos.

Enquanto as grandes empresas de tecnologia investem recursos importantes em IA e promovem cada vez mais serviços autônomos, especialistas questionam se houve reflexão suficiente sobre as consequências potenciais de que esses agentes operem sem controle adequado.