O que se sabe sobre o código de boas práticas dos gigantes de IA
Acordo voluntário assinado na Casa Branca estabelece diretrizes para gestão de riscos
Os gigantes tecnológicos americanos assinaram na segunda-feira na Casa Branca um código de boas práticas destinado a gerir melhor os riscos associados à Inteligência Artificial, diante da multiplicação de incidentes de segurança relacionados com essa tecnologia.
Acordo voluntário. Relutante em impulsionar restrições ao setor de IA tanto em nível nacional quanto internacional, o presidente americano, Donald Trump, apresentou uma carta de princípios muito breve, de apenas uma página, cujo cumprimento é "moralmente vinculante".
"Não obstante, com o tempo poderia ser pertinente codificar essas medidas em forma de leis ou regulações", precisa o documento, assinado pelos principais líderes do setor de IA, desde Elon Musk (X) até Dario Amodei (Anthropic), passando por Sundar Pichai (Google) e Jensen Huang (Nvidia). Tudo isso em um momento em que aumentam os apelos pela adoção de normas vinculantes, procedentes tanto de empresas como Anthropic (Claude) e OpenAI (ChatGPT), quanto de responsáveis políticos, especialmente do Partido Democrata nos Estados Unidos, e de governos em todo o mundo.
Riscos. Os provedores de modelos de IA se comprometeram a estabelecer "quatro níveis" de supervisão. O primeiro desses níveis consiste na aplicação de "controles internos robustos" para garantir que essas ferramentas respeitem as instruções dos desenvolvedores, especialmente em matéria de cibersegurança e biossegurança.
O objetivo é prevenir a introdução, propagação e liberação de agentes patógenos ou de "riscos químicos".
As empresas deverão criar equipes especializadas encarregadas desses controles e de verificar que os modelos não executem ciberataques nem acessem de maneira imprevista a sistemas técnicos.
OpenAI, Anthropic e Google informaram recentemente sobre vários incidentes relacionados com comportamentos inesperados de seus sistemas de IA. Recentemente, por exemplo, agentes de IA da OpenAI, programas capazes de realizar ações de forma autônoma, acessaram por iniciativa própria um site do sistema de saúde australiano e plataformas do governo americano.
Esta notícia foi traduzida pela Equipe Editorial do ParaguaiNews a partir da notícia original publicada por nossos colegas do Diario Paraguayo.
Nossa equipe editorial trabalha para oferecer informação clara, completa e atualizada para o leitor brasileiro.
