OpenAI начинает внедрять невидимые водяные знаки в тексте для пользователей из ЕС
В ближайшие недели OpenAI внедрит невидимый, машиночитаемый водяной знак под названием textGrain для пользователей ChatGPT и Codex в Евросоюзе — в ответ на требования Закона ЕС об искусственном интеллекте. Глобальным стандартом по умолчанию функция пока не станет.
Компания OpenAI разработала новую технологию водяных знаков textGrain, которая позволяет распознавать сгенерированный ИИ текст, не оставляя видимых следов для пользователя. В ближайшие недели функция появится у пользователей ChatGPT и Codex на всех тарифных планах, но первоначально — только в странах Евросоюза.
Компания отмечает, что такой региональный подход связан с требованиями Закона ЕС об искусственном интеллекте. Аналогичный шаг в августе предприняла и Anthropic, построившая свою систему водяных знаков на основе технологии SynthID от Google DeepMind. OpenAI утверждает, что по показателям эффективности textGrain "соответствует или превосходит" другие подходы, включая SynthID.
Пока не глобальный стандарт
OpenAI подчёркивает, что водяные знаки не станут глобальной настройкой по умолчанию при запуске — региональный подход, по словам компании, даёт возможность учиться на реальном использовании и отзывах пользователей. Также были опубликованы результаты тестов, показывающие схожую производительность текста с водяными знаками и без них.
Однако OpenAI предупреждает, что textGrain "не гарантирует надёжного обнаружения", а сами водяные знаки не подтверждают точность текста, не определяют его владельца, не измеряют вклад человека и не доказывают авторство человека.
Доступно и для клиентов API
С сегодняшнего дня клиенты API по всему миру смогут по желанию включать водяные знаки для избранных моделей, самостоятельно решая, как это соотносится с их обязательствами по прозрачности. OpenAI также сотрудничает с облачными партнёрами, чтобы в ближайшие недели сделать функцию доступной через их платформы.
Компания начинает предоставлять доступ к инструменту обнаружения одобренным исследователям и экспертным организациям — пока на основе рассмотрения каждого отдельного запроса. Инструмент будет лишь сообщать, обнаружен ли водяной знак OpenAI, не раскрывая личность пользователя или содержание переписки. Учитывая риск пропущенных знаков и ложных срабатываний, публичный доступ к инструменту при запуске предоставлен не будет.
