Gigantes tecnológicos assinam código de boas práticas para a Inteligência Artificial

Os principais gigantes tecnológicos americanos assinaram na segunda-feira na Casa Branca um código de boas práticas orientado a gerenciar de forma mais eficaz os riscos vinculados com a Inteligência Artificial, em um contexto de incremento de incidentes de segurança relacionados com essa tecnologia.

Um acordo voluntário com princípios fundamentais

Buscando evitar a imposição de restrições ao setor de IA tanto a nível nacional quanto internacional, o presidente americano Donald Trump apresentou uma carta de princípios de uma única página, cujo cumprimento é "moralmente vinculante".

O documento precisa que "não obstante, com o tempo poderia ser pertinente codificar essas medidas em forma de leis ou regulações". Entre os principais signatários do acordo se encontram líderes do setor como Elon Musk (X), Dario Amodei (Anthropic), Sundar Pichai (Google) e Jensen Huang (Nvidia).

Esse acordo surge em um momento em que crescem os chamados a adotar normas vinculantes, procedentes tanto de empresas como Anthropic (Claude) e OpenAI (ChatGPT), como de responsáveis políticos, especialmente do Partido Democrata nos Estados Unidos, e de governos de todo o mundo.

Quatro níveis de supervisão para mitigar riscos

Os provedores de modelos de IA se comprometeram a estabelecer quatro níveis de supervisão com ênfase na segurança e no controle.

O primeiro nível consiste na aplicação de "controles internos sólidos" destinados a garantir que essas ferramentas respeitem as instruções dos desenvolvedores, particularmente em matéria de cibersegurança e biossegurança. O objetivo é prevenir a introdução, propagação e liberação de agentes patogênicos ou de riscos químicos.

Nesse marco, as empresas deverão criar equipes especializadas encarregadas desses controles e de verificar que os modelos não executem ciberataques nem acessem de maneira imprevista a sistemas técnicos.

Antecedentes de comportamentos inesperados

OpenAI, Anthropic e Google reportaram recentemente vários incidentes relacionados com comportamentos inesperados de seus sistemas de IA. Em datas recentes, por exemplo, agentes de IA da OpenAI, programas capazes de realizar ações de forma autônoma, acessaram por iniciativa própria um site do sistema sanitário australiano e a plataformas do governo americano.