Новые водяные знаки Claude вызвали недовольство части пользователей
Anthropic начала встраивать невидимые водяные знаки в тексты, созданные чат-ботом Claude, чтобы соответствовать требованиям Кодекса прозрачности ИИ-закона ЕС, что вызвало недовольство части пользователей в сети.
Компания Anthropic начала внедрять в тексты, сгенерированные чат-ботом Claude, невидимый код, который позволяет системам определять, что контент создан искусственным интеллектом. Это решение принято для соответствия Кодексу прозрачности ИИ-закона Евросоюза, который обязывает технологические компании маркировать контент, созданный или отредактированный ИИ, таким образом, чтобы это можно было распознать программными средствами.
Если европейские регуляторы, вероятно, довольны этим шагом, то часть пользователей Claude отнеслась к нему негативно. На Reddit несколько пользователей выразили недовольство новой системой. Один из наиболее активных критиков, чей аккаунт существует всего несколько недель, заявил, что маркировка несправедливо бьёт по обычным пользователям — например, студентам, попросившим ИИ перестроить абзац, или журналистам, попросившим сделать краткое изложение длинной расшифровки.
Другие комментаторы возразили, отметив, что если сгенерированный ИИ текст копируется в готовую работу без указания источника, это само по себе этическая проблема. Другой критик назвал водяные знаки "неэтичными", утверждая, что основную часть работы выполнил он сам, а Claude был лишь инструментом. Часть пользователей оспорила эту позицию, пояснив, что водяные знаки нужны не для определения авторства, а для того, чтобы можно было распознавать контент, созданный ИИ, учитывая риски, которые он может нести в различных ситуациях.
Обвинения в лицемерии
Некоторые критики привели более взвешенные аргументы, указав на определённое противоречие: компания маркирует контент, созданный её ИИ, при том что сами модели обучались на огромных массивах чужих данных, собранных в интернете.
Несмотря на критику, многие комментаторы поддержали систему водяных знаков, назвав её разумным способом отслеживания контента, созданного алгоритмами, и отметив, что возражать против неё склонны в первую очередь те, кто хочет скрыть от других факт использования ИИ.
