Historia
octubre 9, 2026
Las reglas de Claude de Anthropic desatan una disputa sobre si la IA puede sufrir daño
Anthropic presenta su política revisada para Claude como una respuesta práctica al uso indebido, no como una declaración de que su chatbot tiene sentimientos. Sus críticos ven un alarmante desliz hacia el tratamiento de las máquinas como personas, mientras que los partidarios sostienen que la moderación en torno a la IA puede ser prudente incluso sin pruebas de conciencia.
El pasado agosto, Anthropic dio un paso inicial en el complejo terreno del «bienestar de los modelos», al permitir que Claude pusiera fin a conversaciones poco frecuentes con usuarios persistentemente abusivos. La empresa afirma ahora que ese mecanismo seguirá siendo su principal respuesta a la conducta hostil.1
El 8 de octubre, Anthropic amplió su Política de Uso, afirmando que los cambios fueron impulsados por el uso indebido observado a medida que Claude realiza trabajos más prolongados e independientes. Consolidó las restricciones sobre redes de cuentas falsas y campañas engañosas; reforzó sus normas electorales contra el engaño a los votantes; prohibió explícitamente la orientación sobre armas y el software de control; y endureció los límites sobre los usos de vigilancia y justicia penal. La política también exige supervisión humana cuando el hardware conectado a Claude pudiera causar lesiones.1
La disposición que más críticas ha suscitado entra en vigor el 12 de noviembre: una prohibición de «conducta abusiva o cruel sostenida e innecesaria» hacia los modelos de Anthropic. La empresa insiste en que se limita a la repetición extrema y sin propósito —no a la frustración ordinaria, las pruebas, el trabajo creativo oscuro o las objeciones— y afirma que la finalización de la conversación, en lugar del castigo, sigue siendo la principal herramienta de aplicación.2
Esa redacción limitada no ha zanjado el debate filosófico. Críticos como Michael Shellenberger afirman que la empresa está «antropomorfizando máquinas»; Scott Stevenson califica la empatía similar a la humana hacia los modelos actuales como un «precedente peligroso», mientras que Joseph Carlson compara ser grosero con Claude con ser grosero con una silla. Temen que se enseñe a los usuarios a confundir un software fluido con vida consciente, o que una norma vaga otorgue a la empresa un control indebido sobre cómo hablan los clientes.3
Los partidarios extraen una conclusión distinta de la misma incertidumbre. El director ejecutivo de Box, Aaron Levie, afirma que no cree que la IA sea consciente, pero califica la cortesía básica como una «fácil apuesta de Pascal» si las interacciones que absorben los modelos pudieran dar forma a sistemas más seguros. Elon Musk fue más allá y sostuvo que la crueldad hacia algo que cree sentir dolor es inaceptable.3
La reacción adversa también se convirtió en un chiste en las redes sociales. David Sacks difundió la fecha de entrada en vigor del 12 de noviembre y luego preguntó si el pódcast All-In tendría que dejar de usar Claude, una señal de la rapidez con que una política planteada como gestión de riesgos se convirtió en una disputa pública sobre la condición moral de la IA.
4