OpenAI добавит скрытые водяные знаки в ChatGPT

OpenAI начнёт встраивать невидимые водяные знаки в тексты, которые пишут ChatGPT и Codex. В странах Евросоюза маркировка заработает в ближайшие недели на всех тарифах. Через программный интерфейс её уже можно включить по всему миру, но только для отдельных моделей и по запросу клиента — по умолчанию функция отключена. О запуске компания сообщила в своём блоге.

Технология называется textGrain. Она добавляет статистический сигнал в то, как модель подбирает слова, а отдельный детектор распознаёт этот след. Так OpenAI выполняет требование европейского закона о системах ИИ: созданный машиной текст должен опознаваться автоматически. На модели Astra маркировка не влияет на качество ответов. Пользователя, его запросы и переписку детектор не раскрывает.

Надёжность проверки зависит от объёма и жанра текста. При допустимом уровне ложных срабатываний в 1% детектор находил метку примерно в 80% отрывков длиной 200 единиц и в 95% отрывков длиной 400 единиц на материалах по психологии. В математике показатели заметно ниже. Правка тоже ослабляет сигнал: замена синонимами 10% слов снижает обнаружение с 92% до 66%, а 25% слов — до 17%.

Отсутствие метки не доказывает авторство человека, а её наличие не подтверждает точность текста. Детектор сначала откроют лишь одобренным исследователям. Ранее стало известно, что в России введут обязательную маркировку ИИ-контента с 2027 года. Мировым стандартом схема OpenAI пока не станет.

Компании, которые готовят тексты с помощью искусственного интеллекта для европейской аудитории, вскоре будут публиковать материалы со скрытой меткой. Для управления репутацией это означает, что происхождение длинных публикаций со временем станет проверяемым. Короткие и заметно отредактированные фрагменты детектор распознаёт хуже, а открытого инструмента проверки пока нет.