Referentes alertam na ONU sobre os riscos da inteligência artificial e reivindicam ação internacional conjunta

Cooperação internacional para orientar a inteligência artificial

O diretor executivo da OpenAI, Sam Altman, instou o Conselho de Segurança da ONU a construir uma cooperação internacional urgente que oriente as empresas tecnológicas com padrões complementares nacionais e globais. Em sua intervenção ante uma sessão de alto nível convocada pela presidência francesa do Conselho, Altman advertiu que o avanço acelerado da inteligência artificial exige um "extremo cuidado" para manter o controle humano sobre os modelos.

Altman ressaltou que o setor encontra-se em uma encruzilhada e não deve assumir "demasiado risco tecnológico apenas porque os benefícios sejam demasiado grandes e importantes como para freá-los".

Oportunidades e desafios da inteligência artificial

Segundo o executivo, a inteligência artificial tem o potencial de impulsionar uma nova era similar ao "renascimento" se for concebida como uma ferramenta que capacite as pessoas. Porém, alertou do perigo de reproduzir as fraturas da "revolução industrial" se os sistemas substituírem a agência humana ou se a tecnologia escapar de sua supervisão.

Altman colocou ênfase especial no risco de que os modelos mais avançados, aqueles capazes de se programarem e se melhorarem a si mesmos de forma recursiva, acelerem seu desenvolvimento até o ponto em que os humanos não os entendam nem possam acompanhar suas decisões.

Marco técnico e supervisão internacional

O diretor executivo apontou que as empresas necessitam da orientação dos líderes mundiais para definir marcos técnicos rigorosos que permitam medir capacidades, avaliar ameaças, verificar salvaguardas e criar canais internacionais seguros para compartilhar vulnerabilidades críticas.

Altman apelou ao consenso multilateral, destacando a necessidade de que países que competem entre si se unam por interesses comuns ante o desenvolvimento de uma tecnologia tão poderosa. "A nível internacional, isso significa cooperação. Em nossa história, houve momentos em que países que competem e nem sempre se levam bem, mas ainda assim se unem por interesses comuns e o bem coletivo ante uma tecnologia nova e poderosa. Acreditamos que este deve ser um desses momentos", expressou.

Princípios orientadores da OpenAI

Para enfrentar este dilema, Altman detalhrou os três princípios orientadores de sua companhia: manter as pessoas "no centro da tomada de decisões" para garantir que os modelos permaneçam sob rigoroso controle humano, orientar o progresso científico e econômico "por e para as pessoas" potencializando sua capacidade de ação, e "empoderar cada indivíduo".

"Pode ser que sejamos os criadores desta tecnologia, mas não somos os heróis desta história. Nosso papel é confiar na magia do talento humano", destacou Altman durante sua intervenção ante o Conselho de Segurança.