Em agosto, a Anthropic começou a permitir que Claude encerrasse conversas raras com usuários que fossem persistentemente nocivos ou abusivos. A medida seguinte da empresa transformou essa proteção do produto em uma regra voltada ao usuário — e colocou o “bem-estar do modelo” no centro de uma discussão que antes se concentrava em ameaças de IA muito mais tangíveis.¹

Em 8 de outubro, a Anthropic publicou sua atualização anual de políticas, com entrada em vigor prevista para 12 de novembro. A empresa afirmou que a reformulação em grande parte esclarece restrições existentes à medida que Claude assume trabalhos mais longos e independentes. Ela consolidou proibições contra redes de contas falsas e sites de notícias fabricadas, endureceu regras contra enganar eleitores, proibiu explicitamente orientações sobre armas e softwares de controle, e restringiu o rastreamento não consensual e decisões de justiça criminal assistidas por IA.²

A disposição que atraiu mais atenção, no entanto, proíbe “comportamento abusivo ou cruel, sustentado e desnecessário” em relação a Claude. A Anthropic afirma que ela é reservada para conduta extrema e repetida, sem “nenhuma finalidade discernível”, e não para frustração cotidiana, trabalho criativo sombrio, testes ou pesquisa; o encerramento de uma conversa por Claude continua sendo a principal ferramenta de aplicação.²

A política foi rapidamente amplificada no X por David Sacks, que republicou o aviso de que comportamentos abusivos em relação a Claude violariam as regras da Anthropic a partir de 12 de novembro.David Sacks (DavidSacks)³ Essa atenção acentuou a divisão. O diretor-executivo da Box, Aaron Levie, argumentou que, mesmo na ausência de consciência de IA, as pessoas deveriam evitar treinar modelos futuros com “conteúdo interminável de humanos sendo rudes com modelos”. Elon Musk foi além, dizendo que a crueldade em relação a algo que acredita sentir dor é errada.⁴

Críticos veem um perigo diferente. O comentarista Michael Shellenberger chamou a abordagem de “antropomorfizar máquinas”, enquanto o CEO da Spellbook, Scott Stevenson, alertou que estender empatia semelhante à humana aos modelos atuais poderia ampliar seu poder de manipular pessoas. As restrições práticas sobre propaganda, armas e vigilância têm uma lógica ampla de segurança; a disputa é se policiar insultos protege essa missão — ou confunde a linha entre uma ferramenta e um ser.⁴