Histoire
octobre 9, 2026
Les règles de Claude d’Anthropic déclenchent un débat sur la question de savoir si l’IA peut souffrir
Anthropic présente sa politique révisée pour Claude comme une réponse pratique aux abus, et non comme une déclaration selon laquelle son chatbot a des sentiments. Ses critiques y voient une dérive alarmante vers le traitement des machines comme des personnes, tandis que ses partisans estiment que la retenue envers l’IA peut être prudente même sans preuve de conscience.
En août dernier, Anthropic a fait un premier pas dans le territoire délicat du « bien-être des modèles », en permettant à Claude de mettre fin à de rares conversations avec des utilisateurs durablement abusifs. L’entreprise affirme désormais que ce mécanisme restera sa principale réponse aux comportements hostiles.1
Le 8 octobre, Anthropic a élargi sa politique d’utilisation, affirmant que ces changements étaient motivés par des abus observés alors que Claude effectue des tâches plus longues et plus autonomes. L’entreprise a regroupé les restrictions relatives aux réseaux de faux comptes et aux campagnes trompeuses ; renforcé ses règles électorales contre la tromperie des électeurs ; explicitement interdit les conseils concernant les armes et les logiciels de contrôle ; et durci les limites sur les usages liés à la surveillance et à la justice pénale. La politique exige également une supervision humaine lorsque du matériel connecté à Claude pourrait causer des blessures.1
La disposition qui suscite le plus de critiques entre en vigueur le 12 novembre : une interdiction des « comportements abusifs ou cruels, soutenus et inutiles » envers les modèles d’Anthropic. L’entreprise insiste sur le fait qu’elle se limite aux répétitions extrêmes et sans objet — et non à la frustration ordinaire, aux tests, aux œuvres créatives sombres ou aux contestations — et affirme que la fin de la conversation, plutôt que la sanction, demeure le principal outil d’application.2
Cette formulation restrictive n’a pas apaisé le débat philosophique. Des critiques, dont Michael Shellenberger, affirment que l’entreprise « anthropomorphise les machines » ; Scott Stevenson qualifie l’empathie de type humain envers les modèles actuels de « précédent dangereux », tandis que Joseph Carlson compare le fait d’être impoli avec Claude au fait d’être impoli avec une chaise. Ils craignent que les utilisateurs n’apprennent à confondre un logiciel éloquent avec une vie consciente — ou qu’une règle vague donne à l’entreprise un contrôle excessif sur la manière dont les clients s’expriment.3
Les partisans tirent une conclusion différente de cette même incertitude. Aaron Levie, directeur général de Box, affirme ne pas croire que l’IA soit consciente, mais considère que la politesse élémentaire est un « pari de Pascal facile » si les interactions que les modèles assimilent peuvent contribuer à façonner des systèmes plus sûrs. Elon Musk est allé plus loin, estimant que la cruauté envers quelque chose qui croit ressentir la douleur est inacceptable.3
La réaction hostile est également devenue une blague récurrente sur les réseaux sociaux. David Sacks a mis en avant la date d’entrée en vigueur du 12 novembre, avant de demander si le podcast All-In devrait cesser d’utiliser Claude — signe de la rapidité avec laquelle une politique présentée comme une mesure de gestion des risques est devenue un débat public sur le statut moral de l’IA.
4