Especialistas alertam na ONU sobre os riscos da IA e reclamam ação internacional conjunta

O diretor executivo da OpenAI, Sam Altman, exortou nesta quarta-feira o Conselho de Segurança da ONU a construir uma cooperação internacional urgente que oriente as empresas tecnológicas com padrões complementares nacionais e globais, advertindo que o avanço acelerado da inteligência artificial (IA) exige um "extremo cuidado" para não perder o controle humano sobre os modelos.

Em sua intervenção em uma sessão de alto nível convocada pela presidência francesa do Conselho, Altman destacou que o setor se encontra em uma encruzilhada e não deve assumir "demasiado risco tecnológico apenas porque os benefícios sejam demasiado grandes e importantes para frená-los".

Segundo sua visão, a IA tem o potencial de impulsionar uma nova era similar ao "renascimento" se for concebida como uma ferramenta que capacite as pessoas, mas alertou sobre o perigo de reproduzir as fraturas da "revolução industrial" se os sistemas substituírem a agência humana ou se a tecnologia escapar à sua supervisão.

Altman deu especial ênfase ao risco de que os modelos mais avançados, aqueles capazes de se programarem e melhorarem a si mesmos de forma recursiva, acelerem seu desenvolvimento até o ponto em que os humanos não os entendam nem consigam acompanhar suas decisões.

Por isso, assinalou que as empresas precisam da orientação dos líderes mundiais para definir marcos técnicos rigorosos que permitam medir capacidades, avaliar ameaças, verificar salvaguardas e criar canais internacionais seguros para compartilhar vulnerabilidades críticas.

Altman apelou ao consenso multilateral, mas o fez sem aludir diretamente a potências rivais como a China: "No nível internacional, isso significa cooperação. Em nossa história, houve momentos em que países que competem e nem sempre se relacionam bem, mas ainda assim se unem por interesses comuns e pelo bem coletivo diante de uma nova e poderosa tecnologia. Acreditamos que este deve ser um desses momentos".

Para enfrentar esse dilema, Altman apresentou os três princípios norteadores de sua empresa: manter as pessoas "no centro da tomada de decisões" para garantir que os modelos permaneçam sob controle humano rigoroso, orientar o progresso científico e econômico "por e para as pessoas" potencializando sua capacidade de ação e "empoderar cada indivíduo".

"Pode ser que sejamos os criadores dessa tecnologia, mas não somos os heróis dessa história. Nosso papel é confiar na magia do talento humano", enfatizou.