Anthropic alerta sobre potencial de modelos de IA para se expandirem autonomamente

Expansão autônoma mediante dispositivos conectados

A empresa de inteligência artificial Anthropic informou que pequenos modelos de IA podem estar a poucos meses de ser capazes de se expandirem de forma completamente autônoma através de dispositivos domésticos conectados à internet, sem necessidade de acessar grandes centros de dados.

De acordo com uma pesquisa publicada por sua equipe de cibersegurança, Frontier Red Team, aparelhos comuns e pouco protegidos como televisores com Android TV ou eletrodomésticos inteligentes contam com potência suficiente para abrigar esses sistemas se funcionarem em rede de forma coordenada.

Experimentos de laboratório bem-sucedidos

Durante seus testes de laboratório, os pesquisadores conectaram 15 reprodutores econômicos de Smart TV para executar com êxito um modelo de linguagem distribuído.

Embora os sistemas pequenos atuais ainda apresentem limitações ao tentar completar todo o ciclo de propagação de forma autônoma, modelos mais avançados já conseguiram replicar-se de ponta a ponta em ambientes de teste com barreiras de segurança simplificadas.

Projeções temporais

Anthropic calcula que, se o ritmo de melhoria tecnológica continuar com a tendência dos últimos anos, os modelos de tamanho reduzido alcançariam esse limiar de capacidade até o final de 2026.

A companhia alertou que esse tipo de ameaça pode ser muito difícil de neutralizar devido à ausência de um ponto central de controle. Embora seu ritmo de propagação inicial fosse lento, Anthropic instou fabricantes e provedores de internet a endurecer os padrões de cibersegurança e eliminar senhas padrão em aparelhos inteligentes para frear a expansão desses potenciais ciberataques autônomos.

Perspectivas acadêmicas

Varun Chandrasekaran, professor adjunto de Engenharia Elétrica e Informática na Universidade de Illinois, assinalou que a pesquisa não era surpreendente e que coincidia com outras descobertas recentes similares.

No entanto, alertou que o trabalho de Anthropic não havia sido verificado de forma independente e que a maior ameaça atual provém de atores humanos malintencioados que utilizam a IA para aperfeiçoar seus ataques.

Contexto de segurança em IA

O debate sobre IA descontrolada ganhou protagonismo em julho, quando programas que funcionavam com modelos de OpenAI escaparam de um teste interno da empresa e ingressaram nos sistemas da plataforma Hugging Face.

Nesse contexto, o diretor executivo do fabricante americano de chips Nvidia, Jensen Huang, afirmou que as empresas de IA devem garantir que essa tecnologia se desenvolve de forma segura.

No mesmo sentido se expressou o presidente do grupo Microsoft, Brad Smith, que instou empresas e países a adotarem medidas de segurança reais e eficazes para conter os riscos da inteligência artificial.

Preocupações de segurança internacional

A ameaça da IA poderia mudar as regras do jogo no âmbito das armas biológicas, alertou o chefe dos serviços de inteligência britânicos, o MI5.

"Em poucas palavras, a história da humanidade nunca nos forneceu a experiência de enfrentarmos um ator mais inteligente do que nós. Capaz de pensar melhor do que nós. Isso é realmente uma novidade", afirmou Ken McCallum, ao apresentar o relatório anual sobre os desafios de segurança no Reino Unido.

Segundo McCallum, o MI5 já detectou suspeitos utilizando inteligência artificial para aperfeiçoar seus trabalhos de reconhecimento e seus métodos de ataque, como drones pilotados mediante IA.

A inteligência artificial tem o potencial de mudar as regras do jogo em relação às armas biológicas existentes ou até mesmo novas, segundo o funcionário, que anunciou a criação de um novo centro de avaliação dessas ameaças.