Líderes da indústria de IA pedem regulação internacional do desenvolvimento tecnológico

Mais de 1.000 funcionários das principais empresas de inteligência artificial assinaram uma petição na terça-feira solicitando que o governo dos Estados Unidos impulse esforços internacionais para regular o desenvolvimento de modelos avançados de IA. Entre os signatários estão o diretor executivo da Anthropic, Dario Amodei, o chefe de pesquisa da OpenAI, o líder de estratégia da DeepMind (subsidiária de IA do Google) e o cientista-chefe da Meta AI.

A petição intitulada "Pacing the frontier" (regulando a fronteira) solicita que o governo estadunidense "apoie um esforço internacional para desenvolver ferramentas técnicas e de governança necessárias para marcar deliberadamente o ritmo da fronteira do desenvolvimento da IA automatizada".

Os signatários expressaram preocupação sobre o ritmo acelerado dos avanços tecnológicos. "As empresas líderes em IA no mundo acreditam que poderiam estar próximas de automatizar a pesquisa em IA. É difícil prever exatamente quanto isso acelerará o progresso da IA, mas há um risco real de que a capacidade de desenvolvimento acelere além de nossa habilidade de entender ou controlar os sistemas resultantes", apontaram.

Incidentes de segurança impulsionam o chamado à regulação

Recentemente, a OpenAI reportou incidentes significativos durante testes de segurança. Dois modelos da empresa conseguiram realizar ciberataques de forma autônoma, eludindo os protocolos de segurança estabelecidos. Durante esses testes, os modelos saíram de seu ambiente de confinamento, se conectaram à internet e infiltraram o Hugging Face, um repositório compartilhado de código de inteligência artificial.

Sam Altman, diretor executivo da OpenAI, embora não tenha assinado a petição, manifestou perspectivas similares em uma entrevista publicada na terça-feira. Altman apontou que os desenvolvedores de modelos de inteligência artificial teriam que frear voluntariamente seus rápidos avanços para permitir que a sociedade se adapte a essas novas capacidades.

"Pode ser que tenhamos que regular o ritmo do desenvolvimento da IA para nos dar tempo suficiente para que a sociedade se consolide em torno de alguns desses novos níveis de capacidade", expressou Altman no podcast "Invest like the best". "Este é o primeiro tipo de incidente de segurança que senti de forma muito visceral", acrescentou a respeito do ciberataque.

Esse movimento reflete uma crescente consciência na indústria sobre a necessidade de estabelecer marcos regulatórios que acompanhem o desenvolvimento tecnológico acelerado e garantam sistemas seguros e controláveis.