OpenAI почне використовувати технологію текстових водяних знаків textGrain, яка дає змогу визначати контент, створений за допомогою ChatGPT та Codex. Рішення впроваджують для користувачів у Європейському Союзі на тлі вимог європейського законодавства щодо прозорості матеріалів, створених штучним інтелектом.
Про це OpenAI повідомила у соцмережі X.
На першому етапі textGrain працюватиме саме для користувачів у ЄС. Водночас у компанії наголошують, що не планують перетворювати цю технологію на "глобальний стандарт". Подібний підхід раніше представила Anthropic, яка також використовує технологію маркування AI-контенту на основі розробки SynthID від Google DeepMind.
Водяний знак textGrain не можна побачити неозброєним оком. Це не спеціальний символ і не прихований набір пробілів у тексті. Під час генерації система змінює статистичний розподіл вибору токенів, завдяки чому формується характерний шаблон. Його надалі можуть розпізнавати спеціальні інструменти.
Для користувачів ChatGPT і Codex у ЄС відповідне маркування автоматично активуватимуть протягом найближчих тижнів. Водночас клієнти API OpenAI в інших країнах уже можуть самостійно вмикати водяні знаки для окремих моделей.
В OpenAI зазначають, що технологія маркування тексту поки менш надійна, ніж водяні знаки для зображень та аудіо, створених штучним інтелектом. Зокрема, точність виявлення залежить від обсягу тексту. Під час тестування система розпізнала близько 80% маркованих матеріалів обсягом 200 токенів і близько 90% текстів на 400 токенів.
Ефективність textGrain також може суттєво знижуватися після редагування. У ході випробувань заміна лише 10% слів зменшила рівень виявлення з 92% до 66%. Якщо ж змінювали чверть тексту, показник падав до 17%.
Через це OpenAI застерігає від трактування водяного знака як беззаперечного доказу того, що користувач повністю скопіював текст із ChatGPT. Наявність маркування може свідчити і про те, що штучний інтелект використовувався лише для створення або редагування окремої частини матеріалу.
Колишній співробітник OpenAI Девід Робінсон, який працював над питаннями безпеки штучного інтелекту, розкритикував підхід компанії до розробки нових моделей. На його думку, прагнення якомога швидше випускати нові системи створює додаткові ризики, оскільки заходи безпеки не завжди відповідають темпам розвитку технологій.
