Austrália toma medidas contra plataforma argentina de IA que gera nus falsos

A principal responsável pela eSafety, o regulador australiano de segurança na internet, Julie Inman Grant, informou em um comunicado que o órgão emitiu uma "ordem formal de conformidade" a uma plataforma argentina que recebe dezenas de milhares de visitas mensais da Austrália e que permite criar conteúdo sexual explícito manipulado por meio de inteligência artificial a partir de fotografias reais.

"O alcance e a facilidade com que as crianças podem acessar essas plataformas é profundamente preocupante", afirmou Inman Grant, quem alertou que essas ferramentas facilitam abusos como o ciberassédio severo, a extorsão sexual, a violência sexual baseada em imagens e a exploração de menores.

A medida ocorre no marco dos códigos australianos sobre material restringido por idade, vigentes desde março de 2026, que obrigam as plataformas digitais a adotar salvaguardas para impedir o acesso de menores a conteúdos pornográficos, violentos ou relacionados a automutilação.

De acordo com eSafety, a empresa, que não foi identificada no comunicado para evitar sua promoção, não respondeu aos requerimentos anteriores nem demonstrou disposição de implementar mecanismos de proteção infantil.

Se a plataforma não cumprir com as exigências em um prazo de 14 dias, o órgão poderia impulsionar multas civis de até 49,5 milhões de dólares australianos (aproximadamente 29,8 milhões de euros), além de solicitar a motores de busca que bloqueiem o acesso ao site.

A atuação da eSafety se soma à estratégia mais ampla do Governo australiano para enrijecer a regulação digital e limitar o acesso a tecnologias abusivas baseadas em inteligência artificial.

Em setembro do ano passado, o Executivo anunciou que preparava reformas legais para restringir ferramentas de "nudificação" e de espionagem digital, ao considerar que expõem tanto adultos quanto menores a danos "irreparáveis".

A ministra de Comunicações, Anika Wells, sustentou então que essas aplicações "não têm lugar na Austrália" porque se utilizam exclusivamente "para abusar, humilhar e prejudicar as pessoas, especialmente as crianças".

A Austrália adotou nos últimos anos algumas das regulações digitais mais rigorosas do mundo.

Entre elas figura a proibição aprovada pelo Senado em 2025 para impedir o acesso de menores de 16 anos a redes sociais como Facebook, Instagram e TikTok, sob ameaça de sanções econômicas robustas para as plataformas.