Sam Altman adverte sobre riscos no desenvolvimento de Inteligência Artificial

O diretor executivo da OpenAI, Sam Altman, voltou a expressar sua preocupação sobre a perda de controle do futuro diante da Inteligência Artificial e insistiu na necessidade de criar modelos seguros em seu desenvolvimento, conforme publicou em sua conta no X.

Altman advertiu sobre a criação de um mundo com demasiada concentração de poder, sinalizando que se uma IA extraordinariamente poderosa for utilizada por uma pessoa ou empresa para impor sua visão do mundo a todos os demais, os resultados poderiam ser extremamente problemáticos.

Há duas formas em que o progresso da IA poderia sair muito errado e que devemos evitar: a perda de controle e a concentração de poder

O executivo da OpenAI considerou que para evitar essas duas ameaças é necessário transitar por um caminho intermediário, que garanta que nem um país nem um laboratório específico concentrem demasiado poder no desenvolvimento dessas tecnologias.

Propostas de regulação

Altman pediu confiança nas empresas estadunidenses que desenvolvem IA e propôs a implementação de um marco legal federal nos Estados Unidos que estabeleça requisitos de segurança consistentes para a IA de ponta, referindo-se ao conjunto de sistemas de inteligência artificial que se situam no limite superior da tecnologia atual.

Esses requisitos poderiam incluir a avaliação preventiva de novos modelos durante seu desenvolvimento, em vez de quando estejam prestes a sair ao mercado.

O executivo também solicitou a colaboração entre empresas para formular novas abordagens e compartilhar padrões de segurança, sem deter o ritmo de progresso da IA, embora tenha enfatizado que nenhuma pressão competitiva deveria justificar a imprudência no desenvolvimento.

Finalmente, Altman solicitou a colaboração do Governo dos Estados Unidos para alcançar uma coordenação internacional no desenvolvimento da IA.

Perspectivas divergentes

Os pedidos do setor de IA para regulamentar a inteligência artificial geraram debate, especialmente depois que Altman comunicou a sua equipe planos para moderar o ritmo de desenvolvimento de seus produtos.

Essa posição foi apoiada por outras figuras do setor, como o magnata Elon Musk e Dario Amodei, principal responsável pela Anthropic. Entretanto, a abordagem difere daquela que expressou o presidente dos Estados Unidos, Donald Trump, que rejeitou pausar o desenvolvimento de inteligência artificial por parte de empresas estadunidenses, argumentando que isso poderia favorecer a China.

Trump indicou que a liderança em IA é crucial e reafirmou o compromisso dos Estados Unidos em manter vantagem nessa tecnologia. Conforme relatos, Trump se reuniu em privado na semana anterior com Altman durante a convenção nacional republicana realizada em Dallas, Texas, para conversar sobre o desenvolvimento e o crescente poder da IA.

O encontro foi solicitado por Altman e ocorreu em meio aos crescentes alertas dentro do setor tecnológico sobre os riscos que o rápido avanço dos modelos de IA apresenta.