IA: Um monstro no bolso?

O impacto da IA recuperou força nos últimos dias após a renúncia de Jacob Coxon da empresa Anthropic, desenvolvedora de IA. O engenheiro britânico, que também trabalhou para a OpenAI – criadora do popular ChatGPT – afirmou em uma sequência de posts em sua conta de X que se está subestimando o poder da tecnologia, e que os projetos de IA "em breve serão sistemas sobrehumanos que poderão hackear qualquer coisa, revolucionar todos os âmbitos e ganhar verdadeiro poder e recursos". Acrescentou de maneira preocupante que as empresas estão "brincando com nossas vidas". E quando um profissional de seu nível diz isso, é algo para se levar em conta. A Anthropic retirou de sua carta de segurança o compromisso de interromper o desenvolvimento de seus modelos se não conseguisse controlar adequadamente seus riscos.

Enquanto isso, o diretor executivo da OpenAI, Sam Altman, também em sua conta de X, alertou sobre outro aspecto: a criação de "um mundo com concentração excessiva de poder", visto que "se uma IA extraordinariamente poderosa for utilizada por uma pessoa ou empresa para impor sua visão de mundo a todos os demais, os resultados poderiam ser extremamente distópicos".

De fato, além dos riscos ligados à autonomia que a IA poderia vir a ter sobre serviços vitais e estratégicos como alimentação, água e energia, ou o controle de armas de destruição em massa, estão aqueles relacionados ao comportamento e à cultura. Como indica a encíclica Magnifica Humanitas de Leão XIV (2026) ao destacar que a tecnologia digital não é mais uma mera ferramenta, mas um ambiente de vida que está reconfigurando a autocompreensão do homem, moldando comportamentos e, sobretudo, apresentando-se como a substituição do outro, do semelhante, do "tu". Há um alto risco de potencializar o isolamento e a solidão, pretendendo que a tecnologia proporcione algo que não é capaz de dar de forma genuína: uma companhia. E nisto nos enganamos, pois a ajuda para um ser humano sempre virá de relações pessoais reais, de experiências concretas, não de algoritmos. O problema é perder a capacidade de estar diante do outro.

"A IA não pode fazer isso. Não porque seja má ou perigosa em si mesma, mas porque é radicalmente outra coisa. Gera respostas a partir de padrões e algoritmos, não de amor, não de emoções. Processa linguagens e códigos, não experiências… não pode estar conosco, não pode terminar de nos compreender"

Por sua vez, Fabio Mercorio, professor da Universidade Bicocca de Milão e diretor de um mestrado em IA e Data analytics, a respeito da substituição voluntária cada vez mais frequente pela IA, reitera em uma entrevista em Tracce, que caímos na expectativa de receber coisas que as máquinas "não nos podem dar", e explica, de forma sintética, que esperamos verdade mas só poderemos obter verossimilhança; "buscamos possibilidade e nos dá probabilidade. Em lugar de criatividade, combinações. Em lugar de compreensão, condescendência. Em lugar de sabedoria, estatística. Em lugar de companhia, interação".

Em sua encíclica o Papa recorda que a inteligência artificial não é neutra, mas que "assume o rosto de quem a concebe, a financia, a regula e a utiliza". Por isso, o ponto central continua sendo educativo diante da presença de uma ferramenta com tanto potencial, e que de fato é de grande proveito no campo da medicina, da educação e da engenharia, entre outros. A esse "monstro no bolso" – em alusão ao acesso por meio dos smartphones – é preciso controlá-lo e evitar que nos controle; buscar ações para aproveitá-lo de forma crítica e inteligente, torná-lo um aliado. Não obstante, requerem-se regulações que colaborem com essa dinâmica. "A técnica deve ser governada pela ética, pela verdade e pela caridade", diz Leão XIV em Magnifica Humanitas.