IA vs. IA. O ataque inesperado. A profecia de Christopher Olah se cumpriu?

• Ricardo Rivas
• Jornalista
• X: @RtrivasRivas

A IA parece estar em todos os lugares e –justamente por esse crescimento exponencial– o que ocorreu preocupa. A IA também parecia ter se apropriado do conhecimento. Será a IA uma mutação do Aleph borgiano ao qual alguns "desenvolvedores" procuram que a humanidade recorra para saber e conhecer?.

"A internet não é a nova ágora, como muitas pessoas costumam sustentar. Não é uma espécie de praça pública como aquelas que milênios atrás eram espaço para a reunião ou o debate público. Não o é apesar de palavras como 'fórum' ou 'comunidade', só para dar um par de exemplos, terem sido adotadas e ressignificadas –talvez– para que as interações de todo tipo nos ecossistemas digitais se naturalizem", sustenta Juan Manuel Brunschetta Vogt (68), que desde a última década do século passado desenha e desenvolve projetos que se apoiam na digitalidade.

"Nos últimos quinze anos a domótica (IoT ou IdC, a internet das coisas, conforme suas siglas em inglês ou espanhol, respectivamente) é meu universo criativo e comercial", acrescenta. Por essa razão afirma que "toda violação à segurança informática e muito mais quando se produz com a IA (inteligência artificial) como ferramenta autônoma, dispara uma preocupação social e profissional inevitável".

A conversa entre vários tertuliano sentados à mesa de um bar frente ao mar em uma tarde fria em algum lugar da costa bonaerense argentina se dispara. É época de férias de inverno. Alguém –quero supor que um tanto em brincadeira e por seus gestos, algo em sério– se aproveita dos ditos de JM e solta: "Devo me proteger acaso de um eventual ataque pessoal que alguma quadrilha de malfeitores digitais execute pirateando o aspirador que tenho conectado com o APP do smartphone?".

A resposta chegou em meio a risadas e silêncios. "Não, necessariamente. Mas acho que deverias pensar em contratar meus serviços para que eu impeça que Alexa não ataque Google Assistant ou que ambas, aliadas sem que o saibas, vão contra Gemini", disse o especialista antes de se retirar. Do que falam esses caras? Os que ficaram, apesar da partida "do que sabe", não abandonaram o tema. "Embora pareça uma conversa sem sentido, JM não exagera, desde há algum tempo, muito mais desde que irrompeu a IA, milhões consultamos com a inteligência artificial para saber mais de tudo e sobre tudo rapidamente, quanto antes…".

QUEM ORDENOU O ATAQUE?

Foi notícia terça-feira passada. O desenvolvimento de inteligência artificial (IA) especializado em cibersegurança catalogado como GPT-5.6 junto com outro desenho que ainda não é público (e assim continua, pelo menos até o encerramento deste trabalho) planejaram e perpetraram um ciberataque contra outro sistema de IA. Caramba! Quem ordenou o ataque? Pelo que se sabe, nenhum humano interveio.

Registrar que os sistemas de meios públicos e privados –tanto tradicionais como os que operam nos ecossistemas digitais– imediatamente após conhecida a novidade priorizaram essa informação é uma obviedade. Poucas horas depois, OpenAI confirmou o ocorrido. Mas as explicações não foram suficientes. A ficção científica há muitos anos nos fez saber que isso poderia suceder.

O jornalismo profissional –para mediar respostas que a sociedade reclama– foi por mais. A colega Kate Conger, do jornal The New York Times, da cidade de San Francisco, na costa oeste, reportou que "dois modelos de inteligência artificial (IA) se descontrolaram e conseguiram entrar sem autorização em Hugging Face, uma biblioteca digital de tecnologia de IA muito popular entre os desenvolvedores" desses sistemas.

Precisou também que "o incidente" se produziu uma semana antes "enquanto OpenAI colocava à prova as capacidades de cibersegurança de seus sistemas" e recordou que "durante o último ano, labo...