Anthropic раскрыла детали скрытой маркировки текстов Claude
Компания рассказала, как водяные знаки в ответах ИИ помогут отличать их от человеческих текстов.
Anthropic подробнее рассказала о системе скрытой маркировки текстов, которые генерирует ИИ Claude. Водяные знаки встраиваются в ответы модели и сохраняются даже при копировании или частичном редактировании.
Технология работает на уровне алгоритмов. Она не меняет видимый текст, но добавляет скрытые метки, которые можно обнаружить специальными инструментами. Точные детали не раскрываются, чтобы усложнить обход защиты.
Метки остаются при копировании текста в буфер обмена или вставке в другие документы. В некоторых случаях они сохраняются даже после правок. Это поможет отличать созданные ИИ тексты от человеческих.
Разработчики подчеркнули, что маркировка не повлияет на качество ответов Claude. Модель продолжит работать в прежнем режиме, но её выводы будут содержать скрытые идентификаторы.
Anthropic пока не сообщила сроки выхода обновления в публичных версиях Claude. Также не уточняется, будет ли технология применяться в других продуктах компании.
Изображение для новости взято с официального сайта Anthropic.
