OpenAI начнет использовать технологию текстовых водяных знаков textGrain, позволяющую определять контент, созданный с помощью ChatGPT и Codex. Решения внедряют для пользователей в Европейском Союзе на фоне требований европейского законодательства о прозрачности материалов, созданных искусственным интеллектом.
Об этом OpenAI сообщила в соцсети X.
На первом этапе textGrain будет работать именно для пользователей ЕС. В то же время в компании отмечают, что не планируют превращать эту технологию в "глобальный стандарт". Подобный подход ранее представила Anthropic, использующая технологию маркировки AI-контента на основе разработки SynthID от Google DeepMind.
Водяной знак textGrain нельзя увидеть невооруженным глазом. Это не специальный символ и скрытый набор пробелов в тексте. В процессе генерации система изменяет статистическое распределение выбора токенов, благодаря чему формируется характерный шаблон. Его в дальнейшем могут распознавать специальные инструменты.
Для пользователей ChatGPT и Codex в ЕС соответствующая маркировка будет автоматически активирована в ближайшие недели. В то же время, клиенты API OpenAI в других странах уже могут самостоятельно включать водяные знаки для отдельных моделей.
OpenAI отмечают, что технология маркировки текста пока менее надежна, чем водяные знаки для изображений и аудио, созданных искусственным интеллектом. В частности, точность обнаружения зависит от объема текста. В ходе тестирования система распознала около 80% маркированных материалов в объеме 200 токенов и около 90% текстов на 400 токенов.
Эффективность textGrain также может значительно снижаться после редактирования. В ходе испытаний замена только 10% слов снизила уровень обнаружения с 92% до 66%. Если же менялась четверть текста, показатель падал до 17%.
Поэтому OpenAI предостерегает от трактовки водяного знака как неопровержимого доказательства того, что пользователь полностью скопировал текст с ChatGPT. Наличие маркировки может свидетельствовать о том, что искусственный интеллект использовался только для создания или редактирования отдельной части материала.
Бывший сотрудник OpenAI Дэвид Робинсон, работавший над вопросами безопасности искусственного интеллекта, раскритиковал подход компании к разработке новых моделей. По его мнению, стремление как можно скорее выпускать новые системы создает дополнительные риски, поскольку меры безопасности не всегда соответствуют темпам развития технологий.
