OpenAI представила новую систему защиты данных клиентов, обходя Anthropic

OpenAI объявила о предварительном запуске нового сервиса под названием Private Safety Processing, который сейчас тестируется с ограниченным числом клиентов. Система автоматически отслеживает возможные случаи злоупотребления ИИ-моделями, при этом не сохраняя никаких данных клиентов — этот подход противопоставляется недавней политике конкурента Anthropic.

В июле Anthropic ввела политику, позволяющую компании хранить переписку пользователей до 30 дней для так называемых «охватываемых моделей», включая все модели класса Mythos. Политика была направлена на обеспечение безопасности, однако вызвала обеспокоенность у части корпоративных клиентов, работающих с чувствительными данными, которые не хотят, чтобы их информацию хранила или проверяла компания-разработчик ИИ.

Как работает новая система

Как и большинство ИИ-компаний, OpenAI обычно придерживается политики нулевого хранения данных (Zero Data Retention, ZDR), при которой автоматические агенты проверяют отдельные сессии на предмет злоупотреблений, не сохраняя данные пользователей. Новая технология Private Safety Processing расширяет этот подход, анализируя сразу несколько бесед вместо одной сессии, что позволяет выявлять схемы, когда злоумышленник намеренно распределяет запросы между разными сессиями, чтобы избежать обнаружения.

Если система фиксирует подозрительную активность, она отправляет OpenAI узко определённый сигнал о конкретном типе поведения — без участия человека в проверке самих разговоров. На основе этого сигнала OpenAI решает, требуются ли меры, например, обращение к клиенту, который затем может по своему усмотрению поделиться дополнительными данными.

Anthropic, в свою очередь, утверждает, что проверка данных человеком в её системе возможна, но только через контролируемый канал доступа с участием ограниченного числа утверждённых сотрудников, а каждая такая проверка фиксируется в защищённом от подделки журнале.

Заявление прозвучало на фоне обостряющейся конкуренции между двумя компаниями. Согласно недавнему отчёту, рост OpenAI во втором квартале был медленнее, чем у Anthropic, чей годовой показатель выручки, по имеющимся данным, достиг около 65 миллиардов долларов. Обе компании также, как сообщается, готовятся к возможному публичному размещению акций.