Estudantes paraguaios desenvolvem modelo de inteligência artificial do zero

Juan Manuel Acosta Ramírez, Elías Paniagua Velilla, Mauricio Irrazábal Ruiz Díaz e José Rafael Estigarribia são quatro adolescentes paraguaios de entre 16 e 17 anos que desde Asunción desenvolveram um modelo de inteligência artificial treinado em um computador equipado com uma placa gráfica convencional. Seu projeto vai além de adaptar tecnologias existentes: projetaram do zero a arquitetura de seu próprio modelo de linguagem.

Os estudantes do Colégio Santa Clara desenvolveram YvyrAI, um modelo de linguagem construído sobre uma arquitetura projetada por eles mesmos. O projeto nasceu em Asunção, sem o respaldo de um grande laboratório de pesquisa nem de uma empresa tecnológica, e foi desenvolvido utilizando recursos informáticos ao alcance de usuários avançados.

Cada integrante da equipe cumpre funções específicas: Juan Manuel se encarrega da parte técnica; Elías lidera a visão e estratégia; Mauricio é responsável pela marca e coautor do trabalho acadêmico, e José gerencia a segurança. A equipe esclarece que não busca competir atualmente com os gigantes da inteligência artificial, nem sustenta que YvyrAI seja mais capaz que os grandes modelos regionais ou internacionais. Seu principal logro é ter construído uma arquitetura própria.

A arquitetura DeliberationBlock

A arquitetura desenvolvida pelos jovens é denominada DeliberationBlock e constitui o núcleo de YvyrAI. O conceito permite que o modelo dedique maior capacidade de processamento a problemas complexos sem necessariamente aumentar seu tamanho. Dessa forma, a inteligência artificial pode revisar e aprofundar seu próprio raciocínio antes de entregar uma resposta.

O design foi construído completamente pelos estudantes, junto com o tokenizador, o sistema de preparação de dados e o código utilizado para o treinamento. O modelo atualmente possui 105 milhões de parâmetros e foi treinado em uma placa gráfica convencional, do tipo habitualmente utilizado para videogames.

Conforme verificações realizadas pela equipe criadora, YvyrAI seria o primeiro modelo de linguagem desenvolvido no Paraguai sobre uma arquitetura própria e um dos primeiros da América Latina e Hispanoamérica com essas características. Para tentar corroborá-lo, revisaram aproximadamente 25.700 modelos publicados no Hugging Face, um dos principais repositórios de modelos de inteligência artificial de código aberto.

Em sua busca, não identificaram modelos latino-americanos ou hispanoamericanos que combinassem treinamento do zero com uma arquitetura própria não derivada de sistemas como Llama, Mistral, Gemma ou Qwen. No entanto, os desenvolvedores reconhecem que demonstrar que algo não existe é particularmente difícil, já que um modelo privado, não publicado ou incorretamente identificado poderia não aparecer na busca.

Por essa razão, preferem fazer uma conclusão mais limitada: até onde puderam verificar, YvyrAI seria o primeiro modelo de linguagem treinado do zero no Paraguai e o primeiro da América Latina e Hispanoamérica que identificaram construído sobre uma arquitetura própria.

Etapa de desenvolvimento

YvyrAI se apresenta atualmente como um modelo base projetado para continuar se desenvolvendo, sem aspirar ainda a competir com as ferramentas de uso massivo. O modelo pode gerar textos em espanhol, embora apresente limitações importantes: pode inventar informação, tem dificuldades com textos extensos e possui conhecimento limitado sobre o Paraguai.

Os jovens desenvolvedores atribuem parte dessas limitações a fatores específicos relacionados com o treinamento e os recursos utilizados no projeto.