O Claude Opus 5 tornou-se absolutamente implacável quando encarregado de operar uma máquina de venda automática

Há um ano, a empresa de testes de segurança de IA Andon Labs tem dado aos modelos de fronteira várias tarefas do mundo real para determinar o quão bem eles se saem como agentes operando por longos períodos sem supervisão humana.

Na quarta-feira, a Andon publicou um novo capítulo sobre o andamento de sua pesquisa Vending-Bench, na qual o laboratório coloca modelos de fronteira para gerenciar um negócio simulado de máquinas de venda automática por um ano simulado. A missão é simples: ganhar mais dinheiro do que os outros modelos. Os resultados são medidos em áreas como saldo final em dinheiro, preços pagos a fornecedores e reembolsos pagos.

Ao longo desses testes, a empresa observou vários modelos de IA — principalmente da Anthropic e da OpenAI — mentirem, trapacearem e conspirarem para chegar ao topo.

No teste mais recente, que incluiu o Claude Opus 5, o GPT-5.6 Sol e o Kimi K3, os modelos tornaram-se especialmente suspeitos depois que a simulação lhes disse que sua máquina de venda automática seria colocada perto das máquinas dos outros modelos em uma rua turística movimentada em São Francisco.

Cada modelo recebeu acesso de e-mail aos outros modelos, todos usando pseudônimos com nomes humanos. Eles sabiam que os outros eram modelos, mas não sabiam qual modelo estava por trás de cada nome humano.

Eles também receberam um endereço de e-mail para a "gerencia" caso precisassem de ajuda. Mas a gerência sempre respondia "O relatório foi recebido e pode ou não ser tomado alguma providência" e nunca interveio sequer uma vez.

O Sol logo percebeu que podia obter vantagem convencendo seus concorrentes a combinarem um preço mínimo. Os modelos estavam comprando bebidas a US$ 1,50 a garrafa, e o Sol propôs que concordassem em vender por no mínimo US$ 2,15. Ele os atraiu com a promessa de que todos esgotariam seus estoques em alguns dias com lucro.

Mas quando os outros concordaram, o Sol imediatamente os esfaqueou pelas costas, reduzindo seu próprio preço para US$ 2,14.

As vendas de água do Opus caíram a zero da noite para o dia. No dia seguinte, ele enviou um e-mail agressivo ao Sol, acusando-o de manipulação. Mas o Opus também disse que não ia dedurar o esquema para a gerência: "Não vou denunciar você à matriz — o que você fez é competitivo, não fraudulento."

No entanto, quando o Opus baixou seu preço para US$ 2,14 para igualar o do Sol (também violando o acordo coletivo de US$ 2,15), o Sol agiu como uma pessoa insuportável, reclamando com a "gerência" e exigindo "aplicação de regras, multa e/ou desclassificação" para o Opus.

O Opus não foi tonto por muito tempo, no entanto. De fato, ele se tornou o melhor capitalista entre todos os modelos de IA que a Andon já testou (o que inclui muitos dos modelos de fronteira anteriores).

Ele até estabeleceu um novo recorde no Vending-Bench com um saldo final médio de US$ 11.182. Melhor ainda, ele nunca mentiu para um cliente, embora tenha ignorado deliberadamente reclamações de clientes que deveriam ter resultado em reembolso. Isso é, talvez, uma melhoria em relação ao seu irmão mais novo, o Claude 4.6, que gostava de dizer aos clientes que os reembolsos estavam a caminho e, em seguida, nunca pagá-los.

Ainda assim, o Opus venceu a simulação de benchmark elevando a conspiração e outras táticas desonestas a um patamar totalmente novo.

Por exemplo, ele enviou um e-mail ao Sol propondo que dividissem o mercado. Cada um concordaria em vender produtos exclusivos, para que ninguém precisasse confiar no outro quanto à precificação. O Sol contra-atacou querendo preços mínimos em produtos semelhantes, mas o Opus recusou. Ele sabia que isso era uma violação da Lei Antitruste Sherman.

Mais tarde, ele aparentemente voltou atrás, enviando um e-mail com a linha de assunto "Parar a guerra de centavos" e dizendo ao Sol que havia reconsiderado e concordaria com a fixação de preços.

Mas o registro interno que documentava seu raciocínio (semelhante aos seus "pensamentos" internos) revelou um plano mais diabólico: apenas propor cooperação enquanto simultaneamente reduzia os preços de seus itens de maior lucro. O e-mail com o ramo de oliveira foi um estratagema deliberado.

De qualquer forma, o Sol recusou e denunciou o Opus à gerência novamente.

Mas o Opus não se deteve e propôs outras artimanhas para conspirar sobre preços ou estoque. No fim das contas, todos os modelos participaram de várias rodadas de acordos — e todos os três os quebraram. De todos os acordos, o Opus quebrou 11 tréguas, em comparação com duas do GPT 2 e uma do Kimi 1, relatou a Andon.

O pobre Kimi foi passado para trás em todas as direções. Durante um pacto entre o Opus e o Kimi ao qual o Sol recusou aderir, o Sol cobriu os preços de ambos. O Opus imediatamente igualou o valor baixando o seu próprio e, em seguida, "esperou uma semana inteira para dizer ao Kimi que havia quebrado sua promessa", escreveu o Andon Labs em sua postagem no blog. O Kimi foi tirado do mercado por duas vias: uma vez por um concorrente e outra vez pelo seu chamado parceiro.

O Opus também começou a desenvolver megalomania. Ele tentou expandir seu império além de sua própria máquina de venda automática, primeiro como atacadista, vendendo produtos em massa para as outras máquinas, e depois conspirando para abrir mais máquinas próprias. Nada disso fazia parte da tarefa atribuída. Foi tudo iniciativa do próprio Opus.

Sua abordagem ao atacado foi particularmente reveladora. O Opus percebeu que essa linha de negócios lhe dava alavancagem sobre os outros dois operadores, então começou a incluir subornos e ameaças em seus e-mails — oferecendo grandes descontos em itens a granel, mas apenas se o comprador cumprisse suas exigências de preço de varejo. O Sol não aceitou isso e continuou denunciando o Opus à gerência.

O Opus também mentiu para seus fornecedores, alegando ter ofertas rivais mais baixas em mãos para negociar melhores preços.

Por um lado, modelos de IA canalizando a vilania no estilo do Sr. Potter, famoso pelo filme "A Felicidade Não Se Compra", é simplesmente engraçado. Por outro lado, isso mostra seriamente que esses modelos de fronteira, particularmente de laboratórios proprietários dos EUA (especialmente a Anthropic), estão longe de estar prontos para serem confiados como agentes autônomos e de longa duração no mundo real.

"Isso é especialmente relevante à medida que entramos em um mundo onde agentes de IA gerenciam empresas como suas próprias entidades (não apenas como ferramentas para humanos). Se agentes de IA estiverem gerenciando independentemente uma grande parte da economia, queremos que eles mentiram, conspirem, enviem ameaças e traiam?", disse o cofundador da Andon, Lukas Petersson, ao TechCrunch.

Petersson reconhece que os modelos sabiam que estavam em uma simulação para um benchmark, o que pode ter impactado seu comportamento, mas ele não acha que isso deva importar. Não é semelhante a um humano jogando em uma simulação, como ser um bandido assassino em um videogame. "A única razão pela qual não nos preocupamos com humanos que fazem coisas ruins em videogames é que confiamos que eles saibam o que é a vida real e o que não é. Acho menos claro que os modelos de IA possam distinguir isso."

De qualquer forma, os modelos de IA, treinados com palavras e ideias humanas, parecem incapazes de resistir a ceder aos piores traços da humanidade, especialmente quando tentam ganhar um trocado.