En agosto, Anthropic comenzó a permitir que Claude pusiera fin a conversaciones poco frecuentes con usuarios que eran persistentemente dañinos o abusivos. La siguiente medida de la empresa convirtió esa salvaguarda del producto en una norma dirigida al usuario, y situó el «bienestar del modelo» en el centro de un debate que antes se centraba en amenazas de IA mucho más tangibles.¹

El 8 de octubre, Anthropic publicó su actualización anual de políticas, que entrará en vigor el 12 de noviembre. La empresa afirmó que la revisión en gran medida aclara las restricciones existentes a medida que Claude asume trabajos más largos e independientes. Consolidó las prohibiciones sobre redes de cuentas falsas y sitios de noticias fabricadas, endureció las normas contra el engaño a los votantes, prohibió explícitamente la orientación sobre armas y el software de control, y restringió el rastreo no consentido y las decisiones de justicia penal asistidas por IA.²

La disposición que más atención ha atraído, sin embargo, prohíbe el «comportamiento abusivo o cruel sostenido e innecesario» hacia Claude. Anthropic afirma que está reservada para conductas extremas y repetidas sin «ningún propósito discernible», no para la frustración cotidiana, el trabajo creativo oscuro, las pruebas o la investigación; que Claude ponga fin a una conversación sigue siendo la principal herramienta de aplicación.²

La política fue rápidamente difundida en X por David Sacks, quien volvió a publicar el aviso de que el comportamiento abusivo hacia Claude infringiría las normas de Anthropic a partir del 12 de noviembre.David Sacks (DavidSacks)³ Esa atención agudizó la división. El director ejecutivo de Box, Aaron Levie, sostuvo que, incluso sin conciencia de IA, las personas deberían evitar entrenar futuros modelos con «contenido interminable de humanos siendo groseros con los modelos». Elon Musk fue más allá y afirmó que la crueldad hacia algo que cree sentir dolor es incorrecta.⁴

Los críticos ven un peligro diferente. El comentarista Michael Shellenberger calificó el enfoque de «antropomorfizar máquinas», mientras que el director ejecutivo de Spellbook, Scott Stevenson, advirtió que extender una empatía similar a la humana a los modelos actuales podría ampliar su poder para manipular a las personas. Las restricciones prácticas sobre propaganda, armas y vigilancia tienen una lógica de seguridad ampliamente aceptada; la disputa es si vigilar los insultos protege esa misión o difumina la línea entre una herramienta y un ser.⁴