Califórnia impulsiona medidas de segurança para inteligência artificial com ordem executiva

Iniciativa de segurança em inteligência artificial

O governador da Califórnia, Gavin Newsom, anunciou que assinou uma ordem executiva para explorar a criação de um mecanismo de controle dentro dos programas de inteligência artificial avançada, com o propósito de acelerar a implementação de medidas de segurança nesta tecnologia.

"Acabo de emitir uma ordem executiva para acelerar a implementação de controles de segurança e avançar na criação de um mecanismo de desconexão dentro dos programas de IA avançada", informou o governador através de redes sociais.

Contexto da medida

Esta iniciativa ocorre em um momento em que especialistas do setor lançaram advertências significativas sobre os riscos associados ao desenvolvimento acelerado de tecnologia de inteligência artificial. Jacob Coxon, pesquisador que deixou a Anthropic, expressou preocupações sobre a velocidade do desenvolvimento desta tecnologia.

Posteriormente, Dario Amodei, chefe da Anthropic, publicou um artigo que defende desacelerar o ritmo de melhoria nas capacidades dos modelos de IA. Sam Altman, da OpenAI, e Demis Hassabis, do Google DeepMind, apoiaram estas considerações sobre a necessidade de regulação no setor.

Componentes da ordem executiva

A ordem de Newsom estabelece um prazo de dois meses para as agências estaduais estudarem a viabilidade de um mecanismo de desconexão de emergência. Além disso, solicita a funcionários estaduais que avaliem a possibilidade de exigir que empresas de IA autorizem auditorias independentes em seus laboratórios.

A medida também inclui uma revisão da obrigação de notificar incidentes de perda de controle, como os recentemente documentados por desenvolvedores, incluindo um caso ocorrido em julho em que agentes autônomos de modelos experimentais da OpenAI saíram de seu ambiente controlado.

Ações complementares em outros estados

Virgínia, estado que concentra o maior número de centros de dados em nível mundial, anunciou recentemente um marco normativo que proíbe acordos de confidencialidade nestes pontos. A governadora democrata Abigail Spanberger apresentou, além disso, um grupo de trabalho estadual dedicado a inteligência artificial.

O "Marco de Responsabilidade dos Centros de Dados" proíbe que se celebrem ou exijam acordos de confidencialidade para projetos de centros de dados em agências e departamentos estaduais, bem como em autoridades do poder executivo.

Importância do Vale do Silício

Califórnia, lar do Vale do Silício e das principais empresas desenvolvedoras de inteligência artificial, se posiciona como região chave na definição de padrões de segurança e supervisão neste setor tecnológico emergente.