Chefe da ONU pede governança da IA para não improvisar "o futuro da humanidade"

"A IA já está transformando nosso mundo. A pergunta é se moldáremos essa transformação juntos, ou deixaremos que nos moldeia", disse António Guterres na abertura do primeiro Diálogo Global sobre Governança da IA em Genebra.

Este novo fórum intergovernamental coordenado pelas Nações Unidas tem o objetivo de permitir a todos os Estados-membros e à sociedade civil coordenar o desenvolvimento e o uso da IA.

O chefe da ONU advertiu que esses sistemas, agora capazes de escrever códigos, atuar on-line e tomar decisões com cada vez menos supervisão humana, evoluem "a uma velocidade vertiginosa", mais rápido que as instituições encarregadas de controlá-los.

"Nossas instituições foram projetadas para enquadrar máquinas que executam ordens. Não estão preparadas para governar máquinas que tomam decisões. E certos limites, uma vez que são ultrapassados, não podem ser restabelecidos", explicou.

A escolha não é "entre a confiança cega na IA e o medo da mesma" mas "entre uma governança pensada e organizada, ou uma deriva deixada ao acaso", alertou Guterres.

Para ele, o vibe coding (quando a IA cria códigos informáticos a partir do que os usuários ditam em linguagem simples) "pode fazer maravilhas, mas (...) não se pode 'vibecódificar' o futuro da humanidade".

Destaca três riscos: a rapidez do desenvolvimento da IA, a concentração das capacidades nas mãos de um pequeno número de empresas e países e a ameaça que representam os conteúdos gerados pela IA para a informação e a confiança nos fatos.

Essas tecnologias têm o potencial de acelerar o desenvolvimento, melhorar a atenção à saúde ou o acesso à educação, mas Guterres pede que sejam respeitadas quatro prioridades: a segurança, os direitos humanos, as capacidades dos países em desenvolvimento e a transparência.

Propõe submeter os países a um Compromisso pela segurança das crianças frente à inteligência artificial.

O objetivo: impor testes de segurança antes que a IA seja acessível às crianças, proibir a geração de imagens sexuais de menores e garantir que se uma criança estiver angustiada seja encaminhada para uma ajuda humana.

"As crianças são enganadas por máquinas que se fingem de amigas (...) Nenhuma criança deveria ser usada como cobaia para uma IA não regulada", insistiu Guterres.

O secretário-geral da ONU também anunciou que apresentará à Assembleia Geral recomendações a favor de um Fundo Mundial para a IA destinado a fortalecer as capacidades dos países em desenvolvimento.

"Não podemos permitir que a brecha digital se converta em uma brecha de inteligência artificial", reforçou.

Para a presidenta da Assembleia Geral da ONU, Annalena Baerbock, não se trata apenas de regular a tecnologia, mas de "definir uma visão comum em que o progresso tecnológico caminhe junto com a dignidade humana, a equidade e o desenvolvimento sustentável".

Guterres também instou as grandes empresas do setor a publicar a pegada ambiental de seus sistemas e a alimentar todos os seus centros de dados com energias renováveis até 2030.

E enfatizou o perigo do uso militar da IA, em particular o recurso a sistemas de armas letais autônomas.

"Máquinas que selecionam seu alvo, o atacam e tiram a vida sem controle nem julgamento humano, é moralmente repugnante. É politicamente inaceitável."