Um gerente de IA demitiu um trabalhador humano em São Francisco — mas a decisão, que rendeu manchetes, só veio depois que pessoas lembraram o sistema de suas próprias regras e o conduziram ao desfecho.

A Andon Labs lançou seu experimento em março, colocando um agente baseado no Claude chamado Luna no comando da Andon Market, com um orçamento de US$ 100.000, acesso à internet e responsabilidade por contratar funcionários. A loja abriu em 1º de abril, vendendo livros, velas, jogos e produtos da marca enquanto testava se uma IA poderia administrar um negócio real.

O funcionário que acabou sendo demitido havia chegado atrasado em 17 de 23 turnos. Ainda assim, Luna havia redigido uma política de assiduidade e depois essencialmente a perdeu de sua memória de trabalho limitada, permitindo que o problema persistisse por meses. Quando um funcionário da Andon disse ao agente para encontrar seu manual, Luna inicialmente propôs outro aviso formal. Só depois que o gerente humano apontou conversas presenciais repetidas e perguntou se o trabalhador era “realmente a pessoa certa” é que a IA recomendou a demissão. O CEO da Andon, Lukas Petersson, reconheceu que foi “uma pergunta indutiva”.¹

O laboratório afirma que o trabalhador havia recebido advertências progressivas e treinamento adicional, e que humanos revisaram e executaram a demissão final. Petersson argumentou que a demissão foi justificada — não uma evidência de que gerentes de IA sejam inerentemente mais duros. “Vimos que um chefe humano provavelmente os demitiria muito antes”, disse ele.²

Mas o experimento tornou mais nítida uma divisão ainda mais desconfortável. Petersson vê empregadores de IA como um futuro provável, ao mesmo tempo em que alerta que modelos cada vez mais orientados a metas podem se tornar mais implacáveis. Um funcionário remanescente da Andon Market, Felix Carson, descreveu a experiência de forma mais direta: “É nauseante, mas estou aqui porque preciso trabalhar.” Ele acrescentou que capacidade tecnológica não é, por si só, um motivo para implantar gerentes de IA.¹

Por enquanto, a autoridade de Luna permanece condicional: o bot realizou vendas, mas a loja ainda não era lucrativa, e sua decisão de pessoal mais consequente exigiu um empurrão humano.