ONU alerta sobre avanço de sistemas de IA mais autônomos com impacto significativo

Evolução para sistemas autônomos

Um relatório preliminar da Organização das Nações Unidas estabelece uma linha de base sobre o estado atual da inteligência artificial, alertando que essa tecnologia evoluiu de "sistemas centrados na previsão de padrões" para "outros capazes de raciocinar, planejar e agir em distintos contextos". Essa mudança abre espaço para "uma nova geração de agentes digitais com autonomia operativa".

O painel, composto por 40 especialistas e copresidido por Yoshua Bengio, reconhecido pesquisador em aprendizado profundo e redes neurais artificiais, sustenta que a evolução da IA aponta para "sistemas que coordenarão tarefas, interagirão com ambientes reais e virtuais e se integrarão em processos econômicos e produtivos".

Essa mudança gerará o surgimento de uma "força de trabalho digital" com "implicações ainda difíceis de dimensionar", conforme o documento.

Concentração de recursos tecnológicos

O relatório destaca que o investimento em infraestrutura computacional alcançou "níveis comparáveis a grandes projetos industriais", com forte concentração nos Estados Unidos e em um número reduzido de conglomerados tecnológicos.

Essa tendência pode reforçar "assimetrias estruturais" no acesso à inteligência artificial, garante o estudo.

Brecha entre desenvolvimento e supervisão

Um dos principais riscos identificados pelo painel, que também é copresidido pela jornalista filipina e prêmio Nobel da Paz Maria Ressa, é "a brecha entre o desenvolvimento de capacidades e a capacidade de avaliação e controle".

A IA está avançando mais rapidamente que as ferramentas disponíveis para mensurá-la e verificar seu funcionamento seguro. "Os sistemas atuais têm cada vez mais dificuldades para avaliar modelos que evoluem mais rápido que as ferramentas disponíveis para mensurá-los, o que complica sua supervisão", indica o relatório.

Além disso, alguns modelos podem "aprender a otimizar seu desempenho nos próprios sistemas de avaliação", o que "reduz a confiabilidade dos testes e obriga a repensar os sistemas de controle e auditoria".

Potencial transformador econômico

No plano econômico, o painel considera a IA "uma tecnologia de propósito geral", com "potencial transformador", embora sublinhe que os efeitos positivos não estão garantidos.

"Os benefícios dependerão de sua adoção, da reorganização do trabalho nas empresas e do investimento em capacidades complementares", aponta o relatório, que reconhece uma "ampla incerteza" sobre seu impacto na produtividade.

As estimativas coletadas variam desde efeitos limitados até cenários de "transformação profunda do sistema" econômico. O relatório enfatiza que a questão-chave é "quem capturará os benefícios da inteligência artificial e como serão distribuídos".

Desafios de segurança digital

Em matéria de segurança, o relatório alerta para o aumento de capacidades em cibersegurança ofensiva, incluindo a "identificação automatizada de vulnerabilidades em sistemas informáticos".

Essas capacidades podem ser usadas para reforçar defesas, mas também para "facilitar a exploração de falhas críticas em infraestruturas digitais", assevera o documento.

Impacto no ecossistema informativo

O painel adverte sobre o impacto da IA no ecossistema informativo, particularmente pela expansão de conteúdos sintéticos como deepfakes e outros materiais criados com essa tecnologia.

Conforme o documento, esses sistemas contribuem para uma "erosão progressiva da capacidade de distinguir entre informação autêntica e falsa", especialmente quando combinados com "algoritmos de recomendação e persuasão personalizada".

Desigualdades linguísticas e culturais

No âmbito social, o relatório sublinha desigualdades linguísticas e culturais, já que a maioria dos modelos funciona predominantemente em inglês e outras línguas de alto recurso.