A Política de Uso atualizada da Anthropic, que deve entrar em vigor em 12 de novembro, chega no momento em que se pede ao Claude que execute tarefas mais longas e independentes. A empresa afirma que a reescrita em grande parte esclarece a aplicação das regras já existentes, mas também reúne restrições dispersas em limites mais claros sobre manipulação política, armas e vigilância.¹

Primeiro, a Anthropic consolidou regras contra campanhas políticas e comerciais enganosas, incluindo redes de contas falsas, patrocinadores ocultos e conteúdo fabricado. Também restringiu sua linguagem sobre eleições: o Claude ainda pode apoiar trabalho cívico legítimo, como traduzir informações para eleitores ou ajudar autoridades a enviar avisos de correção de cédulas, mas não pode ser usado para enganar eleitores, se passar por autoridades ou suprimir a participação.¹

A política então explicita que sua proibição de armas abrange não apenas o projeto de armas, mas também “software e componentes que fazem as armas funcionar”, incluindo armar drones e outros veículos autônomos. Quanto à vigilância, ela proíbe o rastreamento sem consentimento e o uso do Claude para decidir quem as autoridades policiais devem investigar, prender ou acusar, preservando usos como jornalismo, pesquisa jurídica, moderação de conteúdo e monitoramento de fraudes baseado em consentimento.¹

O ponto de tensão é uma nova proibição de “comportamento abusivo ou cruel, contínuo e desnecessário” contra o Claude. A Anthropic insiste que ela se aplica apenas a conduta extrema, repetida e sem propósito — não à frustração comum, a trabalhos criativos sombrios ou a testes do modelo — e afirma que o encerramento pelo Claude de raras conversas abusivas continua sendo a principal ferramenta de aplicação.¹ The Verge informou que a Anthropic não havia dito se as penalidades poderiam ir além de encerrar uma conversa.²

Essa ressalva não acalmou a reação negativa. Em uma crítica republicada, David Sacks amplificou o argumento de que a Anthropic estava “antropomorfizando” seus modelos ao vincular a proibição à incerteza sobre o status moral do Claude.David Sacks (DavidSacks)³

Ainda assim, a Anthropic está simultaneamente promovendo o Claude como uma ferramenta defensiva, e não apenas como uma entidade a ser protegida. Seu Programa de Defesa de Infraestrutura Crítica oferece modelos de fronteira, engenheiros e pesquisa sobre ameaças a empresas que protegem redes elétricas e sistemas de água, embora permaneçam dúvidas sobre a implantação segura de correções sugeridas por IA em ambientes operacionais de serviços públicos.⁴