Anthropic внедрила невидимую маркировку текстов Claude
Anthropic внедрила технологию для маркировки текстов, созданных её нейросетью Claude. Это позволяет отличать контент, написанный ИИ, от человеческого текста и соответствует новым требованиям европейского законодательства.
Как работает алгоритм маркировки
Для решения этой задачи компания выбрала алгоритм SynthID-Text, разработанный специалистами Google DeepMind. Его принцип основан на синтаксическом выборе: при генерации текста модель отбирает синонимичные слова (например, "облачно" вместо "мрачно") в соответствии с секретным ключом случайных чисел. Таким образом создаётся скрытый математический паттерн.
Водяной знак остаётся полностью невидимым для читателя — не добавляются скрытые символы, дополнительные токены и не влияет на скорость создания или стоимость услуги. Разработчики гарантируют, что паттерн не содержит личных данных пользователей, информации об организациях или сведений о конкретных диалогах.
Для изображений и других мультимедийных файлов (.png, .jpg, .svg) используются криптографические метаданные стандарта C2PA без изменения самого содержимого.
Особенности применения и ограничения
Небольшое редактирование текста человеком не уничтожит водяной знак полностью, однако полная переписка с заменой каждого слова удалит маркировку. В ситуациях, требующих высокой точности — фактические данные или программный код — водяной знак практически не применяется, так как модель не имеет свободы в выборе синонимов. Исключение составляют лишь произвольные названия переменных и комментарии в коде.
Anthropic планирует запустить отдельный API для проверки наличия водяных знаков. Этот инструмент будет определять только вероятность участия Claude в создании текста, но не сможет идентифицировать автора или подтвердить, что текст или код написаны полностью человеком.
