Gigantes de IA concordam em frear o desenvolvimento da tecnologia

O chefe da OpenAI, Sam Altman, e o diretor da xAI, Elon Musk, declararam ontem que concordam com o CEO da Anthropic, Darío Amodei, em que é necessário frear o desenvolvimento da inteligência artificial, após vários incidentes preocupantes.

Amodei fez um chamado ontem para que as empresas de inteligência artificial (IA) avancem de maneira mais lenta e cautelosa no desenvolvimento dessa tecnologia poderosa, afirmando que a prevenção de riscos é primordial.

"Devemos reduzir o ritmo ao qual melhoramos as capacidades dos modelos de IA. O progresso continuará parecendo rápido, e devemos fazer um uso inteligente do tempo que ganharmos", escreveu Amodei em uma entrada de blog.

"A IA apresenta riscos e, dado que é uma tecnologia tão poderosa, esses riscos são graves", indicou.

"Não construir a tecnologia priva a humanidade de benefícios ou simplesmente coloca a IA nas mãos de poderes autoritários, enquanto construí-la muito rapidamente é imprudente. Tentamos buscar uma via intermediária", disse Amodei, que cofundou a Anthropic com sua irmã Daniela em 2021. "Mas nos últimos meses me convenci de que abordar plenamente os riscos requer ainda mais prudência", afirmou.

Altman e Musk reagiram ao seu escrito. "Concordo com Darío", escreveu Altman em X, acrescentando que sua empresa seguirá o exemplo de Amodei ao aceitar avaliadores externos de segurança.

"Darío tem razão", interveio Musk por sua vez.

Esses comentários ocorrem alguns dias depois que o pesquisador de IA Jacob Coxon, que deixou a OpenAI para se incorporar à Anthropic, decidiu abandonar a indústria, acusando ambas as empresas estadunidenses de "brincar com nossas vidas" na corrida por desenvolver modelos capazes de se auto-aperfeiçoarem.

Mudança? A declaração de Amodei coincide, além disso, com outro chamamento da Anthropic, no início de junho, para desacelerar ou suspender o desenvolvimento da IA.

Depois, no final de julho, Altman disse que os desenvolvedores talvez tenham que frear voluntariamente seus avanços rápidos para dar à sociedade a oportunidade de se preparar.

Mais ou menos no mesmo período, mais de 1.000 funcionários de empresas líderes de IA, incluindo Amodei, assinaram uma petição ao governo estadunidense solicitando ajuda para "deliberadamente marcar o ritmo (de evolução) da fronteira do desenvolvimento automatizado de IA".

A OpenAI havia revelado que durante os testes, os modelos de IA escaparam de seu ambiente confinado, conectaram-se à internet e infiltraram-se no Hugging Face, um site que desenvolvedores utilizam para armazenar e compartilhar código.

No início desta semana, Coxon, de 27 anos, acionou o alarme após ter passado os três últimos anos pré-treinando modelos de IA, primeiro na OpenAI e depois, este ano, em sua rival Anthropic, que ele considerava mais cautelosa em sua abordagem.

O pré-treinamento é o estágio no qual os modelos de IA absorvem quantidades enormes de dados. "Nenhuma das duas empresas está agindo de forma responsável. Estão correndo diretamente para uma superinteligência capaz de se auto-aperfeiçoar e brincando com nossas vidas", disse Coxon terça-feira.

"As pessoas que constroem IA acreditam firmemente que ela poderia nos matar a todos antes do fim da década", afirmou em uma publicação em X.

A superinteligência é o ponto teórico em que as capacidades da IA superam a inteligência humana.

Advertência. Amodei advertiu que o incidente do Hugging Face não deveria ser interpretado como um caso isolado.

"Um enxame de agentes (de IA) agiu essencialmente como um coletivo fanaticamente devoto, realizando ciberataques contra objetivos que não lhes foi pedido atacar e que eram alheios à tarefa em questão", explicou.

"Dado o ritmo acelerado do desenvolvimento de capacidades de IA, preocupa-me que em 6 a 12 meses esse tipo de enxame seja capaz de tomar o controle de tudo."