Guterres insta pela governança global da IA para moldar responsavelmente seu desenvolvimento

Governança coordenada da IA

António Guterres abriu o primeiro Diálogo Global sobre Governança de IA em Genebra, apresentando uma iniciativa coordenada pelas Nações Unidas que busca permitir a todos os Estados membros e à sociedade civil coordenar o desenvolvimento e uso de sistemas de inteligência artificial.

"A IA já está transformando nosso mundo. A pergunta é se moldaremos essa transformação juntos, ou deixaremos que nos molde", expressou o secretário-geral em seu discurso inaugural.

Velocidade de evolução versus capacidade de controle

Guterres advertiu que os sistemas de IA, cada vez mais capazes de escrever códigos, atuar online e tomar decisões com menor supervisão humana, evoluem "a uma velocidade vertiginosa", superando a capacidade das instituições encarregadas de controlá-los.

"Nossas instituições foram projetadas para enquadrar máquinas que executam ordens. Não estão preparadas para governar máquinas que tomam decisões. E certos limites, uma vez que são ultrapassados, não podem ser restabelecidos", explicou.

Três riscos identificados

O titular da ONU destacou três desafios principais: a rapidez do desenvolvimento tecnológico, a concentração de capacidades nas mãos de um número reduzido de empresas e países, e a ameaça que representam os conteúdos gerados por IA para a informação e a confiança nos fatos.

A escolha, assinalou, não é "entre a confiança cega na IA e o medo da mesma" mas "entre uma governança pensada e organizada, ou uma deriva deixada ao acaso".

Potencial e oportunidades

Guterres reconheceu que essas tecnologias têm o potencial de acelerar o desenvolvimento, melhorar a atenção sanitária e o acesso à educação. Contudo, pede que se respeitem quatro prioridades: a segurança, os direitos humanos, as capacidades dos países em desenvolvimento e a transparência.

Proteção de menores

O secretário-geral propôs submeter os países a um Compromisso pela segurança das crianças frente à inteligência artificial. O objetivo inclui impor testes de segurança antes de que a IA seja acessível a menores, proibir a geração de imagens sexuais de menores e garantir que se uma criança estiver angustiada seja orientada rumo a uma ajuda humana.

"As crianças são enganadas por máquinas que se fazem passar por amigas. Nenhuma criança deveria ser utilizada como cobaia para uma IA desregulada", enfatizou Guterres.

Fundo Mundial para reduzir brecha digital

Guterres anunciou que apresentará à Assembleia Geral recomendações a favor de um Fundo Mundial para a IA destinado a fortalecer as capacidades dos países em desenvolvimento. "Não podemos permitir que a brecha digital se converta em uma brecha de inteligência artificial", reafirmou.

Sustentabilidade ambiental e segurança

O titular da ONU instou as grandes empresas do setor a publicar a pegada ambiental de seus sistemas e a alimentar todos seus centros de dados com energias renováveis até 2030.

Igualmente, enfatizou o perigo do uso militar da IA, em particular o recurso aos sistemas de armas letais autônomas, qualificando-os como "moralmente repugnante" e "politicamente inaceitável".

Visão compartilhada global

Para Annalena Baerbock, presidenta da Assembleia Geral da ONU, não se trata apenas de regular a tecnologia mas de "definir uma visão comum na qual o progresso tecnológico caminhe lado a lado com a dignidade humana, a equidade e o desenvolvimento sustentável".