Guterres defende governança mundial da inteligência artificial

O secretário-geral das Nações Unidas, António Guterres, convocou a comunidade internacional a unir-se em uma governança mundial organizada da inteligência artificial para evitar improvisar o futuro da humanidade. Durante a abertura do primeiro Diálogo Global sobre Governança da IA em Genebra, expressou que a pergunta fundamental é se os países moldarão esta transformação tecnológica conjuntamente ou se permitirão que ela os molde.

Este novo foro intergovernamental, coordenado pelas Nações Unidas, tem como propósito permitir que todos os Estados membros e a sociedade civil coordenem o desenvolvimento e uso da inteligência artificial. Guterres apontou que esses sistemas, agora capazes de escrever códigos, atuar online e tomar decisões com supervisão humana cada vez menor, evoluem a uma velocidade vertiginosa, mais rápido que as instituições encarregadas de controlá-los.

Desafios institucionais

O secretário-geral enfatizou que as instituições atuais foram projetadas para enquadrar máquinas que executam ordens, mas não estão preparadas para governar máquinas que tomam decisões autonomamente. Alertou que certos limites, uma vez ultrapassados, não podem ser restabelecidos. Conforme Guterres, a escolha não é entre confiança cega na IA ou medo dela, mas entre uma governança reflexiva e organizada, ou uma evolução deixada ao acaso.

"A IA já está transformando nosso mundo. A pergunta é se moldaremos esta transformação juntos, ou deixaremos que nos molde a nós mesmos"

Identificou três riscos principais: a rapidez do desenvolvimento da inteligência artificial, a concentração de capacidades nas mãos de um reduzido número de empresas e países, e a ameaça que representam os conteúdos gerados por IA para a informação e a confiança nos fatos.

Oportunidades e prioridades

Guterres reconheceu que essas tecnologias têm potencial para acelerar o desenvolvimento, melhorar a atenção sanitária e ampliar o acesso à educação. Contudo, propôs que se respeitem quatro prioridades: segurança, direitos humanos, capacidades dos países em desenvolvimento e transparência.

Proteção da infância

O secretário-geral apresentou um Compromisso pela segurança das crianças frente à inteligência artificial, que inclui três objetivos principais: impor testes de segurança antes que a IA seja acessível a menores, proibir a geração de imagens sexuais de menores e garantir que se uma criança experimenta angústia seja orientada para assistência humana. Guterres enfatizou que nenhuma criança deveria ser utilizada como sujeito de teste para sistemas de IA sem regulação.

Equidade e desenvolvimento

Guterres anunciou sua intenção de apresentar à Assembleia Geral da ONU recomendações para estabelecer um Fundo Mundial para a IA, destinado a fortalecer as capacidades dos países em desenvolvimento. Reforçou que não se pode permitir que a lacuna digital se converta em uma lacuna de inteligência artificial.

Annalena Baerbock, presidenta da Assembleia Geral da ONU, apontou que o desafio não se limita a regular a tecnologia, mas a definir uma visão comum na qual o progresso tecnológico avance ao lado da dignidade humana, da equidade e do desenvolvimento sustentável.

Dimensões ambientais e de segurança

O secretário-geral instou as grandes empresas do setor a publicar a pegada ambiental de seus sistemas e a alimentar todos os seus centros de dados com energias renováveis até 2030. Igualmente, enfatizou os perigos do uso militar da inteligência artificial, particularmente no recurso a sistemas de armas letais autônomas.