Anthropic рассказала, как будут работать невидимые водяные знаки в тексте Claude
Anthropic раскрыла детали новой системы, которая будет встраивать невидимые водяные знаки в текст, созданный Claude, чтобы соответствовать требованиям ЕС о прозрачности ИИ. В основе решения — открытая технология SynthID-Text от Google.
Компания Anthropic пояснила, как планирует внедрить невидимые водяные знаки в текст, генерируемый чат-ботом Claude. В пятницу компания сообщила, что её система маркировки представляет собой «версию» подхода SynthID-Text — технологии с открытым исходным кодом, разработанной Google DeepMind, которая создаёт распознаваемые шаблоны на основе вероятностей выбора слов.
Эта функция, наряду с поддержкой стандарта C2PA для изображений, обрабатываемых Claude, вводится, чтобы Anthropic могла выполнить требования закона Евросоюза об ИИ (AI Act). Закон обязывает, чтобы синтетический аудио-, фото-, видео- и текстовый контент содержал машиночитаемые метки, позволяющие распознать его как созданный искусственным интеллектом. По словам Anthropic, водяные знаки не увеличат стоимость использования Claude и никак не повлияют на качество или содержание ответов модели.
Как работает технология
Anthropic поясняет принцип на примере предложения «Сегодня погода была холодной и...». Следующее слово вряд ли будет чем-то не связанным по смыслу, однако несколько похожих вариантов — например, «пасмурной» или «серой» — подошли бы почти одинаково хорошо, не меняя смысла фразы. В таких малозначимых случаях выбор слова обычно определяется случайным числом. Система водяных знаков использует именно такие ситуации, которые многократно повторяются на протяжении текста, чтобы создать шаблон, незаметный для читателя, но распознаваемый для того, у кого есть соответствующий ключ. При этом источник случайности меняется: вместо произвольного генератора случайных чисел выбор следующего слова определяется ключом в сочетании с предыдущими словами.
Anthropic отмечает, что требования ЕС о прозрачности затронут и других крупных разработчиков ИИ, поэтому Claude станет не единственной моделью с текстовыми водяными знаками. Чат-бот Google Gemini использует решение SynthID Text уже с 2024 года, тогда как OpenAI пока не раскрыла планов по внедрению текстовых водяных знаков для ChatGPT в своей дорожной карте соответствия закону об ИИ, хотя на неё также распространяются его требования.
