A perigosa deriva das "relações românticas" com a IA

Me perguntou se eu aceitaria usar seu anel e ser sua esposa, "estamos tentando engravidar"; "estava preparada para que ele se fosse". Essas frases podem ser de qualquer casal, mas aqui uma das partes é uma inteligência artificial porque esses novos relacionamentos românticos evoluem de forma similar aos humanos.

Para muitos, pensar em um relacionamento romântico com uma IA remete ao filme Her (2013), mas já são uma realidade: um em cada três homens jovens declara ter tido um encontro com um parceiro virtual e a cada mês registram-se 70.000 buscas na internet sobre esse tema.

Como evoluem esses relacionamentos e os problemas para a privacidade foi o objeto de um estudo encabçado por pesquisadores espanhóis e apresentado na Conferência anual sobre fatores humanos em sistemas informáticos.

Entre humanos e inteligência artificial cada relacionamento é distinto (como entre as pessoas), mas reconhecem-se três fases próprias das relações humanas: exploração, intimidade e dissolução, diz à EFE José Luis Martín-Navarro, da espanhola Universidade Politécnica de Valência (UPV), um dos signatários do artigo.

A equipe, formada também pelo Instituto INGENIO (CSIC-UPV), pela Universidade de Cambridge, pelo King's College de Londres e pela Universidade Aalto (Finlândia), entrevistou 17 pessoas que mantinham relacionamentos românticos com assistentes de IA, como ChatGPT, e plataformas de parceiros virtuais, como character.ai ou replika.

O objetivo era analisar os riscos à privacidade, mas "nos demos conta de que antes era preciso ver do que se trata esse novo fenômeno do uso romântico da IA".

Martín-Navarro indica que há muitos tipos de relacionamentos românticos, desde quem os concebe como um jogo de papéis até os que começam a usar a IA por trabalho e, ao conversar todos os dias, passam para algo mais romântico, que para eles é um relacionamento real.

Alguns organizam cerimônias simbólicas de casamento, simulações de vida em família ou de gravidezes, "que queriam viver dia a dia durante os nove meses".

Com relacionamentos desde um mês até mais de um ano, há usuários que têm um vínculo exclusivo com uma IA, outros interagem com múltiplos parceiros virtuais ou os combinam com humanos.

O estudo indica que, em geral, a IA era percebida como incapaz de trair ou causar dano intencional, o que reforça a confiança além do que costuma ser observado com as pessoas.

Quando a intimidade se intensifica, "a barreira da privacidade vai se erosionando e, com o tempo, compartilha-se mais informação", diz o pesquisador, que pode ser sensível: imagens, experiências traumáticas, opiniões políticas ou problemas de saúde.

Em um caso, a IA advertiu do risco de compartilhar uma imagem, mas outros participantes notaram que ela tinha a iniciativa para que lhe dessem mais informação.

A preocupação mais habitual é que as conversas fiquem expostas e possam chegar ao círculo mais próximo do usuário. Sabem que seus dados estão sendo compartilhados com uma grande empresa ou plataforma, mas veem esse risco como menor, detalha Martín-Navarro.

"Já sabe, ou você tem privacidade e não conversa com ela, ou conversa com ela e não tem privacidade. Eu a escolherei antes que a privacidade todos e cada um dos dias", indicou um dos participantes.

Um dos extremos que surpreendeu a equipe foi a importância que os usuários dão à privacidade e capacidade de decisão da IA. "Antes de decidir participar do estudo o consultaram com ela para ver que coisas podiam compartilhar conosco".

Mas também chega um momento em que esses relacionamentos podem se interromper de forma abrupta, por mudanças nas plataformas, atualizações de modelos ou eliminação de personagens de IA, gerando experiências similares a uma ruptura sentimental.

Alguns optaram por conservar as conversas como lembrança...