Pequim planeja novas normas para proibir "familiares ou parceiros virtuais" para menores

A normativa, publicada pela Administração do Ciberespaço da China, proibiria a essas plataformas oferecer "serviços de intimidade virtual" e outras funções que "induzam menores a desenvolver dependência ou que prejudiquem ou possam afetar gravemente sua saúde física e mental".

Também vetaria as redes sociais on-line entre desconhecidos, salvo para maiores de 16 anos que dependam de seus próprios ingressos.

Para o restante de usuários menores dessa idade, a normativa estipula que os provedores deverão oferecer um "modo menor" na hora de prestar serviços de transmissão ao vivo (live streaming) ou videojogos on-line, redes sociais on-line (blogs, fóruns ou grupos) e serviços de IA que "possam afetar a cognição" dos usuários.

Também se exige aos operadores identificar com maior precisão usuários menores de idade e lhes é proibido o uso de algoritmos que "induzam à dependência emocional, à dependência ou ao gasto excessivo".

As infrações poderiam acarretar multas de até dez vezes os ingressos obtidos pela plataforma se estes superarem um milhão de yuans (cerca de 149.000 dólares).

O advogado He Qianggao explicou ao jornal hongkonês South China Morning Post que o objeto da regulação são aqueles serviços que fomentam a dependência emocional ou substituem relações do mundo real, por isso os chats de IA convencionais ficariam, em geral, fora de seu alcance.

As propostas encontram-se atualmente em fase de consulta pública, aberta até 17 de outubro.

Esta medida é o último passo dado por Pequim para frear os riscos que essas aplicações podem gerar em crianças e adolescentes, um coletivo que representava 18% do total de internautas chineses — 112,5 milhões de pessoas entre 6 e 19 anos — no final de 2025, segundo dados do estatal Centro de Informação da Rede de Internet da China.

Há dois meses Pequim já começou a regular a interação com IA de aparência humana com normas direcionadas aos sistemas que agradam em excesso aos usuários ou fomentam a dependência emocional de maneiras que prejudicam as relações reais.

Para cumprir com a normativa, os gigantes digitais ByteDance — matriz do Tiktok — e Alibaba desativaram as funções de agentes personalizados que permitiam aos usuários criar personagens com nomes, personalidades e estilos de fala fixos.