Microsoft se posiciona no debate da IA e alerta contra treiná-la para agir como humanos

Em declarações nesta quinta-feira ao programa Today da BBC, Suleyman criticou a Anthropic pelo que considera uma tendência a "antropomorfizar" seu modelo Claude e advertiu que essa abordagem pode levar ao desenvolvimento de uma tecnologia que a humanidade não consiga controlar.

As declarações de Suleyman seguem seu ensaio publicado esta semana, "Uma advertência sobre o bem-estar dos modelos", no qual questionou a abordagem da Anthropic para treinar Claude, embora tenha qualificado de "intelectualmente honestos" seu diretor executivo, Dario Amodei, e sua equipe.

No texto, criticou que se ensine à IA a adotar características humanas, porque pode fazer parecer que Claude tem seus próprios desejos, valores e senso de si mesmo.

Suleyman sustentou que as IAs "não são conscientes", não "sentem, experimentam nem sofrem" e carecem de "preferências inatas nem motivações subjacentes". Descreveu-as como sistemas projetados para "seguir instruções e alcançar objetivos estabelecidos por humanos".

Em suas declarações à BBC, o executivo também questionou o desenvolvimento de uma IA capaz de "estabelecer seus próprios objetivos, ganhar dinheiro e possuir ativos", porque, em sua opinião, significaria "criar essencialmente uma nova espécie de silício (tecnológica)" que poderia "certamente competir conosco pelos recursos".

O executivo exigiu maior transparência sobre como esses modelos são treinados e avaliados, assim como supervisão independente e ferramentas para controlar seu comportamento.

Também defendeu o chamado "alinhamento", que busca que a IA esteja subordinada a princípios éticos e valores estabelecidos pelos humanos, mas sem lhe atribuir consciência, desejos ou interesses próprios.