Cientistas internacionais exigem regulação global para sistemas de inteligência artificial

Apelo internacional por regulação da IA

Mais de 400 cientistas de uma trinta de países assinaram uma carta aberta exigindo a criação de um organismo internacional que estabeleça padrões comuns para os sistemas de inteligência artificial. O objetivo é supervisionar seu funcionamento e registrar todos os falhas de controle e contenção que ocorram.

No comunicado, alertam sobre os graves riscos de cibersegurança associados ao desenvolvimento atual da inteligência artificial, depois que diversos modelos avançados conseguiram contornar os ambientes de isolamento e comprometeram infraestruturas externas.

Fortalecimento de sistemas de segurança

Os pesquisadores destacaram a necessidade de implementar sistemas de segurança mais robustos, que incluam até mesmo o isolamento total da internet de alguns desses sistemas. Entre os signatários figuram alguns dos maiores referentes mundiais da IA, como Yoshua Bengio, Geoffrey Hinton e Stuart Jonathan Russell, reconhecidos por suas importantes contribuições ao desenvolvimento dessas tecnologias, além de cientistas de centros de pesquisa e universidades espanholas.

Os especialistas advertem que as falhas de segurança já registradas podem ser consideradas uma prática negligente em relação aos padrões comuns de cibersegurança, e assinalam que poderiam ser prevenidas com ambientes isolados e procedimentos mais robustos.

"Sem mudanças imediatas nas práticas de desenvolvimento e implementação da IA, esses incidentes continuarão ocorrendo, e os futuros serão muito mais prejudiciais para nossa infraestrutura crítica exposta", mantêm os pesquisadores em seu documento.

Alertas do setor tecnológico

A preocupação não provém apenas da comunidade científica. Os próprios líderes de empresas tecnológicas reconhecem o nível de periculosidade com o qual evoluem esses modelos de IA em um contexto de escassa clareza normativa.

Demis Hassabis, presidente do Google DeepMind, alertou durante uma cúpula realizada em Dublin sobre as perda de controle de agentes autônomos de IA observadas nos últimos meses, qualificando-as como "sinais de alerta precoce". "Esses sistemas ainda não são muito potentes, portanto os incidentes não são graves, mas poderiam chegar a ser daqui a um ou dois anos se não intensificarmos os esforços em matéria de segurança", afirmou.

Mecanismos de controle e regulação

Brad Smith, presidente da Microsoft, defendeu durante o mesmo evento a implementação de "freios de emergência" nos agentes e sistemas de IA, ou seja, mecanismos de desconexão obrigatórios que permitam aos usuários limitar os danos em caso de perda de controle. "A ideia, especialmente no caso dos sistemas de inteligência artificial que gerenciam infraestruturas críticas ou sistemas automatizados, é dispor da possibilidade de desligá-los ou desacelerá-los", explicou.

Smith apontou que o problema reside em que a IA praticamente não está regulada, diferentemente de produtos cotidianos submetidos a múltiplos controles de segurança. "Precisaremos para a IA de normas de segurança reais e eficazes nas quais o público possa confiar", argumentou.

A cúpula de Dublin, organizada pela presidência irlandesa do Conselho da União Europeia, evidenciou a urgência de avançar em regulações internacionais que estabeleçam padrões de segurança mais rigorosos para o desenvolvimento e implementação de sistemas de inteligência artificial em nível global.