Стремление Anthropic сделать материалы, сгенерированные Claude, отслеживаемыми обещает победу для прозрачности — но оно также может превратить обычную рабочую помощь ИИ в заметный сигнал, который пользователи никогда не собирались раскрывать.

Изменение следует из обязательств по прозрачности в соответствии с Регламентом ЕС об ИИ (EU AI Act), которые вступили в силу 2 августа. Anthropic заявляет, что новые модели Claude, выпущенные после этой даты, будут с самого начала содержать машиночитаемые метки, а старые модели должны быть приведены в соответствие в течение льготного периода. Система будет действовать по всему миру, охватывая потребительские продукты Claude, API и доступ через облачных провайдеров.¹

Для сгенерированных файлов Anthropic планирует использовать метаданные происхождения C2PA. Для текста она встраивает «незаметный водяной знак», который не ухудшает читаемость и может сохраняться при копировании в другие места. «Водяные знаки будут применяться на уровне модели», — заявила Anthropic, что означает их появление независимо от того, какой интерфейс Claude сгенерировал текст.²

Именно такая широта применения и делает политику проблемной. Команда по коммуникациям, которая просит Claude отредактировать, перевести или отформатировать написанный человеком пресс-релиз, может оставить за собой ИИ-метку, даже если Claude не писал исходный текст. Та же технология может помочь школам, издателям и платформам тщательнее проверять работы, выдаваемые за полностью человеческие, — но обнаруженная метка сама по себе не докажет авторство ИИ.³

Anthropic также признаёт и обратную проблему: интенсивный переписанный текст, перевод, смешивание текста с другим материалом или просто использование коротких отрывков могут сделать водяной знак трудным для обнаружения. Это оставляет индустрию в привычной динамике гонки вооружений, в то время как такие платформы, как Substack и LinkedIn, экспериментируют с собственными способами идентификации материалов, созданных ИИ.¹

Некоторые наблюдатели утверждают, что социальные последствия могут быть уже, чем предполагает тревога. Академические работы и романы, написанные ИИ, остаются особенно проблемной областью, но большая часть повседневного использования касается заметок с встреч, внутренних документов, писем и кратких изложений — задач, в которых пользователи могут быть более готовы к тому, чтобы их «застукали» за использованием инструмента.⁴ Метки Claude таким образом могут затруднить обман, одновременно ускоряя более неудобный вопрос: в какой момент помощь превращается в авторство?