Cresce a preocupação com o perigo de uma IA sem regulação

Mais de 400 cientistas de uma trintena de países assinaram uma carta aberta para exigir a criação de um organismo internacional que estabeleça padrões comuns para os sistemas de inteligência artificial (IA).

O objetivo é supervisionar seu funcionamento e registrar todas as falhas de controle e contenção que ocorrem.

No comunicado, alertam sobre os graves riscos de cibersegurança associados ao desenvolvimento atual da inteligência artificial, depois que vários modelos avançados conseguiram contornar os ambientes de isolamento e comprometeram infraestruturas externas.

Os pesquisadores levantaram a necessidade de implementar sistemas de segurança mais robustos, que incluam até mesmo o isolamento total da internet de alguns desses sistemas.

Entre os signatários da carta estão alguns dos maiores referentes mundiais de IA, como Yoshua Bengio, Geoffrey Hinton ou Stuart Jonathan Russell, que realizaram, nas últimas décadas, importantes contribuições para o desenvolvimento dessas tecnologias, além de vários cientistas de centros de pesquisa e universidades espanholas.

Os cientistas advertiram que as falhas de segurança que já foram registradas podem ser consideradas uma negligência irresponsável nas práticas padrão de cibersegurança, e apontaram que poderiam ser evitadas com ambientes isolados e procedimentos mais robustos.

"Sem mudanças imediatas nas práticas de desenvolvimento e implementação da IA, esses incidentes continuarão ocorrendo, e os futuros serão muito mais prejudiciais para nossa infraestrutura crítica exposta", mantêm em seu comunicado os pesquisadores, que insistiram na necessidade de mais pesquisa sobre segurança de IA e maior ênfase nas tecnologias e procedimentos de contenção.

ALERTA TEMPRANA. Mas não são apenas os cientistas que estão em alerta. São os próprios responsáveis das tecnológicas que reconhecem o alto nível de periculosidade com que esses modelos de IA estão evoluindo em um marco de pouca clareza.

A acumulação de incidentes recentes foi um dos temas centrais debatidos durante uma cúpula sobre o assunto, em Dublin.

"As perdas de controle de agentes autônomos de IA observadas nos últimos meses são, de certa forma, sinais de alerta temprana", advertiu o britânico Demis Hassabis, presidente do Google DeepMind e uma das grandes figuras deste evento organizado pela presidência irlandesa do Conselho da União Europeia (UE).

"Esses sistemas ainda não são muito potentes, então os incidentes não são graves, mas poderiam chegar a ser em um ou dois anos se não intensificarmos os esforços" em matéria de segurança, afirmou o prêmio Nobel de Química e pioneiro da pesquisa em IA.

FREIOS DE EMERGÊNCIA. A preocupação de Hassabis é compartilhada pelo presidente da Microsoft, o norte-americano Brad Smith, outra das figuras do setor tecnológico convidadas a Dublin.

O executivo da Microsoft defendeu a ideia de dotar os agentes e sistemas de IA de "freios de emergência", ou seja, mecanismos de desconexão obrigatórios que permitam aos usuários limitar os danos em caso de perda de controle.

"A ideia, especialmente no caso dos sistemas de inteligência artificial que gerenciam infraestruturas críticas ou sistemas automatizados, é dispor da possibilidade de desligá-los ou desacelerá-los", explicou.

Para Brad Smith, o problema reside em que a IA praticamente não está regulada, diferentemente de um produto tão cotidiano quanto uma embalagem de leite, submetido a todo tipo de controles.

"Precisaremos para a IA, como para tudo mais em nossas vidas, normas de segurança reais e eficazes em que o público possa confiar", argumentou.

Por sua vez, a finlandesa Henna Virkkunen, vice-presidente executiva da Comissão Europeia, além de responsável por Soberania Tecnológica, Segurança...