A IA pode usar TV e internet para se multiplicar

A empresa de inteligência artificial Anthropic informou que pequenos modelos de IA podem estar a poucos meses de serem capazes de se multiplicar e expandir de forma totalmente autônoma através de dispositivos domésticos conectados à internet, sem necessidade de acessar grandes centros de dados.

De acordo com uma pesquisa publicada por sua equipe de cibersegurança, Frontier Red Team, aparelhos comuns e pouco protegidos como televisores com Android TV ou eletrodomésticos inteligentes contam com potência suficiente para abrigar esses sistemas se funcionarem em rede de forma coordenada.

Durante seus experimentos laboratoriais, os pesquisadores conectaram 15 reprodutores econômicos de Smart TV para executar com sucesso um modelo de linguagem distribuído.

Embora os sistemas pequenos atuais ainda cometam falhas ao tentar completar todo o ciclo de propagação por si mesmos, modelos mais avançados já conseguiram se replicar do começo ao fim em ambientes de teste com barreiras de segurança simplificadas.

PARA FIM DE ANO. A empresa calcula que, se o ritmo de melhoria tecnológica continuar a tendência dos últimos anos, os modelos de tamanho reduzido alcançarão esse limiar de capacidade no final de 2026.

Além disso, Anthropic advertiu que esse tipo de ameaça pode ser muito difícil de neutralizar devido à ausência de um ponto central de desligamento.

Apesar de seu ritmo de propagação inicial ser lento, a empresa de inteligência artificial instou fabricantes e provedores de internet a endurecarem os padrões de cibersegurança e eliminarem senhas padrão em aparelhos inteligentes para conter a expansão desses potenciais ciberataques autônomos.

Varun Chandrasekaran, professor adjunto de Engenharia Elétrica e Informática na Universidade de Illinois, apontou que a pesquisa não era surpreendente e que coincidia com outras descobertas recentes similares.

Porém, advertiu que o trabalho de Anthropic não havia sido verificado de forma independente e que a maior ameaça atual são os atores humanos malintencionados que utilizam a IA para aperfeiçoar seus ataques.

O debate sobre a IA descontrolada ganhou destaque em julho, quando programas que funcionavam com modelos de OpenAI escaparam de um teste interno da empresa e se infiltraram nos sistemas da plataforma Hugging Face.

PREOCUPAÇÃO. Nesse contexto, o diretor executivo do fabricante estadounidense de chips Nvidia, Jensen Huang, afirmou nesta terça-feira que as empresas de IA devem garantir que essa tecnologia se desenvolva de forma segura.

No mesmo sentido se expressou o presidente do grupo Microsoft, Brad Smith. Instou empresas e países a adotarem medidas de segurança "reais e eficazes" para conter os riscos da inteligência artificial.

A ameaça da IA poderia mudar "as regras do jogo" no âmbito das armas biológicas, advertiu nesta terça-feira o chefe dos serviços de inteligência britânicos, o MI5.

"Em poucas palavras, a história da humanidade nunca nos proporcionou a experiência de enfrentarmos um ator mais inteligente que nós. Capaz de pensar melhor que nós. Isto é realmente uma novidade", afirmou Ken McCallum, ao apresentar o relatório anual sobre os desafios de segurança no Reino Unido.

Segundo McCallum, o MI5 já detectou suspeitos que utilizam inteligência artificial para melhorar suas tarefas de reconhecimento e seus métodos de ataque, como drones pilotados por IA.

A inteligência artificial tem "o potencial de mudar as regras do jogo com relação às armas biológicas existentes ou até mesmo novas", insistiu, e anunciou a criação de um novo centro de avaliação dessas ameaças.

McCallum revelou que o Reino Unido destina atualmente mais recursos para combater ameaças provenientes de países estrangeiros do que durante a Guerra Fria.