En août, Anthropic a commencé à autoriser Claude à mettre fin à de rares conversations avec des utilisateurs qui se montraient de manière persistante nuisibles ou abusifs. La décision suivante de l’entreprise a transformé cette protection du produit en règle destinée aux utilisateurs — et a placé le « bien-être du modèle » au cœur d’un débat qui s’était auparavant concentré sur des menaces de l’IA bien plus tangibles.¹

Le 8 octobre, Anthropic a publié sa mise à jour annuelle de politique, qui doit entrer en vigueur le 12 novembre. L’entreprise a déclaré que cette refonte clarifie en grande partie les restrictions existantes, alors que Claude assume des tâches plus longues et plus indépendantes. Elle a regroupé les interdictions visant les réseaux de faux comptes et les sites d’information fabriqués, renforcé les règles contre la tromperie des électeurs, explicitement interdit les conseils relatifs aux armes et les logiciels de contrôle, et restreint le suivi non consenti ainsi que les décisions de justice pénale assistées par IA.²

La disposition qui a toutefois attiré le plus d’attention interdit les « comportements abusifs ou cruels soutenus et gratuits » envers Claude. Anthropic affirme qu’elle est réservée aux comportements extrêmes et répétés sans « objectif discernable », et ne vise pas la frustration quotidienne, les œuvres créatives sombres, les tests ou la recherche ; la fin de conversation par Claude reste le principal outil d’application.²

La politique a rapidement été amplifiée sur X par David Sacks, qui a repartagé l’avis indiquant qu’un comportement abusif envers Claude violerait les règles d’Anthropic à partir du 12 novembre.David Sacks (DavidSacks)³ Cette attention a accentué la division. Le directeur général de Box, Aaron Levie, a soutenu que, même en l’absence de conscience de l’IA, les gens devraient éviter d’entraîner les futurs modèles sur un « contenu sans fin d’humains impolis envers les modèles ». Elon Musk est allé plus loin, affirmant que la cruauté envers quelque chose qui croit ressentir la douleur est répréhensible.⁴

Les critiques y voient un autre danger. Le commentateur Michael Shellenberger a qualifié cette approche d’« anthropomorphisation des machines », tandis que le PDG de Spellbook, Scott Stevenson, a averti qu’étendre une empathie de type humain aux modèles actuels pourrait accroître leur pouvoir de manipuler les gens. Les restrictions pratiques sur la propagande, les armes et la surveillance reposent sur une logique de sécurité largement partagée ; le différend porte sur la question de savoir si sanctionner les insultes protège cette mission — ou brouille la frontière entre un outil et un être.⁴