OpenAI добавляет невидимые водяные знаки в текст ИИ в ЕС
OpenAI начала добавлять невидимые машиночитаемые водяные знаки в текст, создаваемый некоторыми её моделями, начиная с пользователей в Европейском союзе. Компания заявила, что этот шаг призван соответствовать требованиям прозрачности Закона ЕС об ИИ, которые предписывают провайдерам делать контент, созданный ИИ, идентифицируемым. Функция будет включена в ЕС в ближайшие недели, и с этого момента глобальные клиенты API также могут включить её для конкретных моделей.
Техника нанесения водяных знаков называется textGrain. Вместо того чтобы ставить видимую метку на абзац, она работает во время процесса выбора слов моделью, вплетая статистический сигнал в выборы, которые модель делает при написании. Детектор, который знает, что искать, может прочитать этот сигнал и определить, несёт ли фрагмент текста водяной знак OpenAI. Для обычного читателя текст выглядит неизменным.
Эта тонкость и есть суть. Видимые метки легко удалить: пользователь может скопировать абзац, попросить другую модель переписать его или просто удалить примечание внизу. Скрытый статистический след сложнее удалить, не изменяя сам текст. Это также позволяет избежать неловкости, связанной с прерыванием текста баннером, сообщающим, что его написала машина, что может быть навязчивым в чате, черновике письма или строке кода.
Тем не менее, водяные знаки — это технический компромисс, а не идеальная печать. Для обнаружения обычно требуется доступ к нужному инструменту, а сигналы могут ослабевать, когда текст сильно редактируется, переводится или смешивается с человеческим письмом. OpenAI представила textGrain как один из слоёв в более широких усилиях по обеспечению прозрачности, а не как гарантию того, что каждое предложение, созданное с помощью ИИ, можно отследить. Компания не заявила, что маркировка будет применяться ко всем моделям или регионам, и развёртывание в ЕС описывается как применяемое к соответствующему выводу ChatGPT и Codex.
Европейское измерение важно, потому что правила блока в области ИИ одними из первых требуют такой прозрачности контента от крупных провайдеров моделей. Компании, обслуживающие европейских пользователей, корректировали продукты, документацию и внутренние процессы, чтобы соответствовать. Для OpenAI добавление водяных знаков — это и шаг к соблюдению требований, и способ проверить, как технология ведёт себя в масштабе массового чат-бота, которым пользуются сотни миллионов людей.
Для клиентов API возможность включить водяные знаки на выбранных моделях даёт бизнесу рычаг. Издатель может захотеть, чтобы текст, созданный с помощью ИИ, был помечен, чтобы его собственные системы могли позже его пометить. Разработчик, создающий инструмент для письма, может предпочесть оставить его выключенным, в зависимости от аудитории. Поскольку настройка необязательна для пользователей API за пределами ЕС, внедрение, вероятно, будет различаться в зависимости от отрасли и от того, насколько компания заботится о происхождении контента.
Нанесение водяных знаков стало одним из наиболее активных направлений исследований в области ИИ: лаборатории, университеты и органы по стандартизации обсуждают, как маркировать синтетические медиа, не нарушая их. Текст сложнее изображений: картинка может нести скрытые пиксельные узоры, но слова дискретны и легко переставляются. Такие подходы, как textGrain, пытаются сделать метку устойчивой к обычному использованию, оставаясь невидимой для читателей.
Станут ли невидимые водяные знаки ожидаемой нормой или превратятся в нишевый инструмент соответствия, будет зависеть от того, насколько хорошо обнаружение работает в реальных условиях. На данный момент развёртывание OpenAI в ЕС даёт этой идее самое масштабное реальное испытание, а глобальным разработчикам — ранний переключатель для экспериментов.