OpenAI внедряет невидимые водяные знаки textGrain в ChatGPT

OpenAI внедрила в ChatGPT невидимые водяные знаки textGrain для маркировки AI-контента. Механизм встроен в статистику генерации слов и работает в рамках требований EU AI Act.

Механизм работы водяных знаков

Сигнал встраивается непосредственно в текст ответа LLM, изменяя вероятность выбора слов. Это позволяет детектору распознавать характерный паттерн даже после копирования контента методом Ctrl+C.

• Водяной знак не является метаданными
• Работает через изменение статистики токенов
• Применяется в ЕС согласно EU AI Act
• Недоступен как общедоступный инструмент

Технические ограничения и будущее технологии

Основная проблема заключается в устойчивости watermark к переписыванию текста другими моделями. При полном рерайте результата ChatGPT с помощью сторонних LLM исходная последовательность токенов исчезает.

Это приводит к деградации статистического водяного знака. Независимых тестов на устойчивость textGrain против современных парафразеров пока недостаточно, поэтому OpenAI предупреждает, что сигнал не является безусловным доказательством происхождения текста.

Ожидается рост сервисов по удалению таких знаков из студенческих работ, что создает новые ниши на рынке ИИ-услуг.