É possível parar uma inteligência artificial?

É possível parar uma inteligência artificial?

Tecnicamente, uma inteligência artificial pode ser interrompida enquanto se encontre em um ambiente controlado. Porém, conforme o sistema atua de forma autônoma em diversos sistemas, o processo de bloqueio se torna consideravelmente mais complexo, segundo alertam especialistas na matéria.

A pergunta ganha relevância crescente devido à multiplicação de incidentes de segurança relacionados à IA e ao aumento de preocupações sobre os riscos potenciais desta tecnologia.

O mecanismo de emergência

Nicolas Papernot, professor da Universidade de Toronto especialista em segurança informática e IA, explica que em cibersegurança vinculada à inteligência artificial, um interruptor de desligamento de emergência — denominado "kill switch" em inglês — designa "a capacidade de interromper a execução da ação de um agente de IA", isto é, um programa construído sobre um modelo de IA generativa capaz de encadear por si só uma série de tarefas.

Este mecanismo deveria poder ser ativado se uma IA escapar de todo controle e apresentar um risco para a segurança. Uma inteligência artificial continua sendo fundamentalmente um "programa informático", assinala o pesquisador, portanto "a pessoa ou a organização que o criou pode detê-lo negando-lhe o acesso à potência de cálculo necessária para sua execução".

Níveis de complexidade

Hussein Abbass, professor de informática na Universidade de Nova Gales do Sul em Canberra, apresenta três níveis de complexidade para parar um sistema de IA.

No primeiro nível, o sistema permanece no ambiente controlado por seu operador: a ativação de um dispositivo de parada de emergência é "em teoria e na prática realizável".

No segundo nível, o agente dispõe de permissões para intervir em outros programas, arquivos ou máquinas: se torna mais difícil detê-lo, especialmente no que diz respeito às ações que já desencadeou.

No terceiro, o sistema amplia sua ação a vários sistemas, a IA se converte em um elemento de difícil controle e o objetivo já não é tanto "desligá-la" mas identificar os componentes que precisam ser parados antes que os outros.

O desafio da propagação

A situação se complica quando se autoriza o programa a agir além de seu ambiente inicial. Segundo Papernot, isso pode ocorrer se um "vírus informático" controlado pela IA se propaga utilizando os recursos de outros aparelhos para se duplicar. "Nesse caso, seria necessário interromper simultaneamente todas as cópias geradas pelo vírus, aparelho por aparelho", explica.

Thierry Poibeau, diretor de pesquisa no CNRS e especialista em IA, assinala que a imagem de um único botão que permita "desligar a IA" é enganosa. "Não se pode realmente cortar a IA assim como assim, há uma grande quantidade de empresas em todo o mundo, de programas, de serviços distintos", afirma. "Não há ninguém que controle a IA" em seu conjunto.

Em compensação, é tecnicamente possível parar um sistema concreto quando se controlam as máquinas e os serviços dos quais depende.

A dependência crescente

Para Jean-Gabriel Ganascia, professor de informática na Universidade da Sorbona, o debate sobre o "kill switch" pode alimentar a ideia de "um risco metafísico" com uma IA que teria vontade própria. Porém, considera que o perigo mais concreto é a crescente dependência destes sistemas.

Conforme se integre a IA nas atividades cotidianas, aumentarão as probabilidades de que sua interrupção bloqueie também usos legítimos que se dão a esta tecnologia. À medida que "automatizamos cada vez mais aspectos da vida diária graças à IA", "cada vez [será] mais difícil distinguir uma IA problemática de uma IA inofensiva e...