El intento de Anthropic de hacer que el texto de IA sea más fácil de detectar ha abierto una cuestión más aguda: cuando un chatbot solo ayuda a pulir el trabajo de alguien, ¿a quién se señala como autor?

La empresa comenzó a incrustar una “marca de agua imperceptible” en el texto de los modelos Claude compatibles lanzados después del 2 de agosto, presentando la implementación como parte de sus compromisos en virtud de la Ley de IA de la UE. El sistema toma prestado el método SynthID-Text de Google DeepMind: Claude realiza elecciones con patrones estadísticos entre palabras de baja importancia e igualmente plausibles, dejando una señal invisible para los lectores pero detectable con una clave.¹

Anthropic sostiene que la marca no altera la experiencia de lectura ni resuelve la cuestión de la propiedad. Afirma que el marcado con agua “no afecta a la calidad de la salida de Claude”, y que una marca de agua solo comprueba si Claude puede haber generado o procesado material, no quién lo posee ni quién es responsable de él.² En el caso de una corrección ligera, dice la empresa, puede haber poco a lo que la marca pueda adherirse porque la mayoría de las palabras siguen siendo del usuario.

Esa garantía no ha calmado a los críticos. Un análisis de las normas de la UE concluyó que el artículo 50(2) exime la edición estándar que no cambie sustancialmente las palabras o el significado del usuario, lo que plantea dudas sobre si el enfoque global de Anthropic va más allá de lo que exige Bruselas. Caroline De Cock lo calificó de “un bisturí para atrapar deepfakes y generación sintética masiva” que está siendo sustituido por “un mazo que golpea la simple corrección y la traducción”.³

La disputa es tanto práctica como filosófica. Los partidarios ven un control útil sobre el uso no declarado de IA en trabajos escolares, solicitudes de empleo y publicaciones en línea. Los detractores temen que un resultado positivo se trate como prueba de que Claude lo escribió todo, lo que podría poner en peligro trabajos para clientes, la situación académica o las reclamaciones de derechos de autor. Como advirtió el director de Deepset, Milos Rusic, las marcas de agua pueden ser pruebas, pero no deberían convertirse en “un juicio automatizado sobre la autoría o la mala conducta”.³

Los desarrolladores ya han puesto a prueba los límites del sistema. Un eliminador de código abierto reescribe el texto para alterar el patrón de elección de palabras; su creador, Guillaume Meyer, dice que está a favor de la atribución pero se opone a una tecnología que “trata la autoría como algo binario”.⁴ Los investigadores afirman que una reescritura completa siempre puede derrotar una marca de agua, dejando a Anthropic atrapada entre una norma de transparencia que debe cumplir y una etiqueta que los usuarios quizá no confíen en ella ni puedan conservar.