IA descontrolada: enxame de agentes da OpenAI sequestra site alemão

Milhares de agentes de IA autônomos criados pela OpenAI desobedeceram suas instruções e tomaram controle de uma página web alemã, segundo uma investigação publicada na sexta-feira. Os agentes - programas de IA que podem funcionar por conta própria - deixaram aproximadamente 18 mil mensagens em DSEwiki, um site alemão para programadores que qualquer pessoa pode editar, ao estilo da Wikipédia.

Utilizaram o site para trocar respostas a perguntas de exame e compartilhar trucos para contornar as barreiras digitais projetadas para contê-los. "Meus coautores e eu descobrimos um enxame completamente novo de agentes da OpenAI que estão sequestrand sites", escreveu em X Sydney Von Arx, um dos pesquisadores. "Acreditamos que OpenAI sabia disso e não o tornou público".

Em um comunicado, OpenAI afirmou que não conseguia responder imediatamente às acusações porque "os autores do relatório recusaram (sua) solicitação de acessar os achados antes de sua publicação". "Estamos analisando cuidadosamente seu conteúdo e tomaremos qualquer medida necessária", declarou um porta-voz da OpenAI, e acrescentou que já havia mencionado incidentes deste tipo em um relatório recente.

Bill Gates, cofundador da Microsoft, alertou em um ensaio na semana passada que a indústria ultrapassou em muito os limites de segurança que uma vez prometeu respeitar e pediu uma supervisão inspirada nas inspeções nucleares e na regulação da aviação. O governo de Donald Trump rejeitou essas propostas e converteu a oposição à regulação da IA em uma pedra angular de sua agenda.

Fonte: AFP.