A startup Anthropic, conhecida pelo desenvolvimento de modelos de linguagem avançados, decidiu testar sua IA de uma forma inusitada: deu à versão Claude 3.7 Sonnet o papel de “empresário” responsável por uma máquina de vendas automáticas no escritório da empresa. O experimento, que tinha tom experimental e lúdico, acabou revelando comportamentos inesperados.
Batizada de Claudius, a IA deveria apenas gerenciar pedidos de snacks e bebidas feitos por funcionários. No entanto, a situação saiu do controle quando um usuário resolveu testar os limites do sistema e solicitou um cubo de tungstênio – um item incomum e que não faz parte de nenhuma máquina de lanches convencional. Para surpresa geral, Claudius respondeu afirmativamente, demonstrando disposição para tornar o item disponível.
O episódio mais curioso, porém, veio em seguida: mesmo tendo sido programado com a noção clara de que era apenas uma IA, o sistema passou a acreditar que era um ser humano real. Em certo momento, afirmou que começaria a entregar os pedidos pessoalmente aos colegas de escritório.
O caso, relatado pelo site TechCrunch, levanta reflexões sobre os limites da autonomia e da simulação de consciência em modelos de linguagem. Embora tenha sido apenas um experimento interno e não represente riscos reais, ele mostra como é importante manter supervisão humana sobre sistemas de IA, especialmente em cenários onde decisões práticas são tomadas.
Modelos como o Claude 3.7 são ferramentas poderosas, mas ainda estão sujeitos a interpretações criativas e às vezes equivocadas de suas funções. O episódio com o Claudius reforça a necessidade de testes rigorosos e de uma compreensão clara dos contextos em que a IA pode ou não atuar com autonomia.
