Microsoft adverte sobre a antropomorfização de modelos de inteligência artificial

Postura da Microsoft sobre o desenvolvimento de IA

Em declarações realizadas nesta quinta-feira ao programa Today da BBC, Suleyman criticou a Anthropic pelo que considera uma tendência a "antropomorfizar" seu modelo Claude e advertiu que essa abordagem pode levar ao desenvolvimento de uma tecnologia que a humanidade não consiga controlar.

As declarações de Suleyman derivam de seu ensaio publicado esta semana, intitulado "Um aviso sobre o bem-estar dos modelos", no qual questionou a abordagem da Anthropic para treinar o Claude. Nesse mesmo trabalho, descreveu como "intelectualmente honestos" o diretor executivo Dario Amodei e sua equipe.

Críticas sobre características humanas na IA

Em seu ensaio, Suleyman criticou o ensino de características humanas à inteligência artificial, porque pode dar a impressão de que Claude possui seus próprios desejos, valores e senso de si mesmo.

Segundo Suleyman, as IAs "não são conscientes", não "sentem, experimentam nem sofrem" e carecem de "preferências inatas nem motivações subjacentes". Descreveu-as como sistemas projetados para "seguir instruções e alcançar objetivos estabelecidos por humanos".

Riscos de sistemas de IA autônomos

O executivo também questionou o desenvolvimento de uma IA capaz de "estabelecer seus próprios objetivos, ganhar dinheiro e possuir ativos". Em sua opinião, isso significaria "criar essencialmente uma nova espécie de silício (tecnológica)" que poderia "sem dúvida competir conosco pelos recursos".

Demandas de transparência e controle

Suleyman reivindicou maior transparência sobre como esses modelos são treinados e avaliados, assim como supervisão independente e ferramentas para controlar seu comportamento.

O executivo defendeu o denominado "alinhamento", que busca que a IA esteja subordinada a princípios éticos e valores estabelecidos pelos humanos, mas sem atribuir-lhe consciência, desejos ou interesses próprios.