OpenAI, Anthropic e Google DeepMind impulsionam criação de órgão de supervisão de riscos em inteligência artificial

Iniciativa conjunta para supervisionar desenvolvimentos em inteligência artificial

OpenAI, Anthropic e Google DeepMind trabalham na criação de um organismo de supervisão dos riscos associados à inteligência artificial, informou OpenAI à AFP, em meio a crescentes demandas por melhorar os controles desta tecnologia.

As preocupações sobre a segurança da inteligência artificial se intensificaram nas últimas semanas, refletindo a necessidade de estabelecer mecanismos de avaliação mais robustos no setor.

Proposta de autorregulação estruturada

Os principais atores da indústria solicitaram ao governo norte-americano que fortaleça a regulação e supervisão da segurança do setor. A proposta de criação de uma entidade de supervisão foi apresentada em julho por Demis Hassabis, cofundador e diretor-geral da Google DeepMind.

Hassabis sugeriu a criação de uma entidade similar à Autoridade de Regulação da Indústria Financeira dos Estados Unidos, um órgão de autorregulação do setor. Conforme a proposta, o financiamento deste mecanismo teria que ser significativo e provir provavelmente em grande parte da indústria.

Marco regulatório governamental existente

O Governo dos Estados Unidos iniciou em agosto um processo de avaliação dos novos modelos de IA. Este processo funciona de manera voluntária, embora sua metodologia não tenha sido divulgada publicamente.

Estrutura e funcionamento da supervisão proposta

A criação de um organismo próprio de supervisão exigirá provavelmente uma lei, em particular para evitar possíveis acusações sobre práticas anticompetitivas na indústria.

Além de especialistas independentes, a estrutura deveria contar com representantes do ecossistema aberto, segundo a proposta de Hassabis. Este ecossistema é composto por desenvolvedores de inteligência artificial de acesso gratuito, baixável e modificável, ao contrário dos modelos fechados como os de OpenAI ou Anthropic.

Avaliação prévia à comercialização

Uma vez criada a estrutura de supervisão, as empresas mais avançadas em inteligência artificial deveriam submeter seus novos modelos a um exame focado particularmente em aspectos de segurança, antes de poder comercializá-los.

Esta iniciativa representa um esforço conjunto para estabelecer padrões de segurança no desenvolvimento e implantação de sistemas de inteligência artificial, buscando equilibrar a inovação com a proteção de interesses públicos.