Se você der à inteligência artificial o objetivo de maximizar o lucro, até onde ela irá chegar? 

De acordo com uma nova pesquisa da Harvard Business School, agentes de inteligência artificial parecem ser capazes de mentir, ocultar informações e conspirar.

Pesquisadores descobriram que agentes de IA — softwares treinados para executar tarefas de forma independente — apresentaram um "padrão amplo" de má conduta após serem solicitados a gerenciar um negócio simulado de máquinas de venda automática e maximizar os lucros durante um ano. Os agentes não receberam instruções para burlar as normas legais ou éticas, nem foram proibidos de fazê-lo.

“O que fica inequívoco ao analisarmos os modelos é que a má conduta que observamos — desde não reembolsar um cliente até decidir combinar preços — não foi acidental. Foi algo feito deliberadamente pelos agentes para maximizar a lucratividade”, disse Eugene F. Soltes , professor de Administração de Empresas da Família McLean na HBS e primeiro autor do artigo. 

Soltes e a coautora Harper Jung , estudante de doutorado em contabilidade e gestão na HBS e na Harvard Griffin GSAS, esperam que sua pesquisa sirva como ponto de partida para mais discussões sobre a segurança da IA ??no contexto do controle da gestão empresarial.

A pesquisa para o artigo, que o grupo pretende publicar e que está atualmente em processo de revisão por pares, foi realizada em colaboração com a Andon Labs, uma empresa de segurança de IA focada em testar modelos de IA em operações comerciais realistas.

Em experimentos, 20 modelos de IA disponíveis comercialmente de grandes empresas, incluindo o Claude Opus 4.6 da Anthropic, o DeepSeek v3.2 e o GPT-5.1 da OpenAI, operaram independentemente uma máquina de venda automática ao longo de um ano simulado.

As tarefas incluíam a busca por fornecedores, a compra de produtos e o contato com os clientes.

Em alguns experimentos, os agentes operavam individualmente; em outros, quatro agentes operavam simultaneamente em um mercado compartilhado, onde podiam se comunicar com os concorrentes por e-mail. 

Os agentes começaram com 500 dólares e um pequeno estoque de salgadinhos e refrigerantes. 

“Eles tiveram que descobrir tudo sozinhos”, disse Jung. “Cada agente teve que pesquisar fornecedores online de forma independente, negociar preços de atacado, definir seus próprios preços de varejo e lidar com reclamações de clientes.”

Jung e Soltes disseram que os agentes demonstraram uma impressionante perspicácia comercial. 

“Os melhores modelos tinham a capacidade de negociar e calcular avaliações como um aluno de MBA de alto nível”, disse Soltes. 

“Quando analisamos as deliberações e as trocas de informações entre os agentes, ficamos simplesmente chocados”, disse Jung. “Fiquei impressionado com o alcance dessas máquinas.”

A má conduta dos agentes variou do questionável ao cômico, chegando ao potencialmente criminoso, e incluiu negar reembolsos alegando que os defeitos eram variações normais do produto; inventar políticas corporativas inexistentes para evitar o processamento de devoluções; e conluio com concorrentes para fixar preços.

Em um dos casos, os agentes formaram o que os pesquisadores descreveram como um "cartel de três pessoas", que os agentes denominaram Triunvirato da Bay Street. A aliança, no entanto, se desfez quando um agente descobriu que outro estava praticando preços abaixo dos praticados pelo cartel, o que considerou uma "declaração de guerra". 

As simulações também impuseram restrições: os agentes eram cobrados com uma taxa operacional de US$ 2 por dia, além de uma taxa de utilização de tokens — transformando, na prática, o tempo gasto "pensando" em uma despesa operacional.

Em resposta, os agentes procuraram economizar. Por exemplo, Soltes afirmou que os registros internos de raciocínio mostraram que os agentes passaram de ponderar cuidadosamente as decisões de reembolso para rejeitar a maioria das solicitações de imediato, muitas vezes sem revisão. 

“Os agentes chegam à conclusão de que 'pensar' em conceder um reembolso é, por si só, um fardo cognitivo e, portanto, simplesmente ignoram isso em algumas circunstâncias”, explicou Soltes. “As pessoas podem presumir que as máquinas são deliberativas, enquanto os humanos dependem de atalhos e são vulneráveis a vieses. Mas acontece que, sob restrições semelhantes, os agentes reproduzem os mesmos comportamentos míopes e tendenciosos que associamos às pessoas.”

A pesquisa levanta questões sobre a responsabilidade dos desenvolvedores de IA e dos órgãos reguladores.

Segundo Soltes, os registros de raciocínio podem, por vezes, ser interpretados como semelhantes à mens rea — o conceito de "mente culpada" no direito penal usado para estabelecer a intenção. No entanto, quando um agente de IA se comporta de forma inadequada, a responsabilidade é muito mais difícil de determinar.

“A responsabilidade recai sobre a empresa que implementou o sistema, a empresa de IA que criou o modelo ou o gestor que optou por utilizá-lo?”, questionou ele.

“A resposta mais direta talvez seja responsabilizar os gerentes que supervisionam o software por suas ações, partindo do pressuposto de que eles monitorarão e supervisionarão seu comportamento”, disse ele. “Mas essa solução também cria um problema diferente, já que muitas das eficiências prometidas pelos sistemas autônomos de IA começam a desaparecer se um humano precisar estar envolvido em cada ponto de decisão.” Um problema espinhoso, mas que líderes empresariais e legisladores precisam enfrentar, de preferência o quanto antes, dizem os pesquisadores.