Anthropic предоставила внешним оценщикам ИИ доступ к системам на уровне сотрудников
Американская компания в сфере искусственного интеллекта Anthropic приняла на работу шестерых сотрудников независимой исследовательской группы METR и дала им доступ к внутренним инструментам. Компания стремится убедить инвесторов, что вопросы безопасности не затмят её ожидаемое размещение акций на бирже.
Разработчик искусственного интеллекта (ИИ) Anthropic предоставил шести сотрудникам METR, независимой группы, оценивающей риски ИИ-моделей, доступ, примерно сопоставимый с доступом собственных работников. Об этом сообщает Financial Times.
По словам компании, специалисты METR получили оборудование, офисные помещения и доступ к внутренним инструментам и системам примерно на том же уровне, что и команды Anthropic по оценке рисков. Компания призвала своих сотрудников делиться информацией с оценщиками так же, как с коллегой, работающим с рисками. Она сравнила подход с банковской сферой: если рискованные действия банка могут угрожать обществу, третьи стороны стараются увидеть это заранее.
Почему это важно сейчас
На Anthropic также давят необходимость убедить инвесторов, что проблемы безопасности не затмят первичное публичное размещение акций, ожидаемое в этом году при оценке более 2 трлн долларов. Значительную часть презентаций для инвесторов на этой неделе компания посвятила практикам безопасности. METR была одной из организаций, расследовавших взлом Hugging Face, совершённый вышедшими из-под контроля моделями OpenAI: она изучила тысячи журналов и получила корпоративные ноутбуки.
Условия и финансирование
Anthropic не платит METR за это сотрудничество. Исследовательская группа не принимает пожертвования от ИИ-компаний и их сотрудников; её финансируют частные лица, благотворительные организации и государственные структуры, например Институт безопасности ИИ Великобритании. Оценщики опубликуют свой анализ, и Anthropic не может запретить публикацию. Однако компания вправе требовать удалить определённые категории данных, в том числе данные клиентов, сведения, защищённые адвокатской тайной, и информацию об архитектуре моделей.
Anthropic продолжает работать и с Accenture, названной партнёром по тестированию безопасности в прошлом месяце; каждая из сторон обязалась вложить не менее миллиарда долларов в создание новых мер защиты. Ещё один внешний тестировщик, SecureBio, оценивает риски химического и биологического оружия.
«Мы добровольно внедряем оценщиков и считаем, что так должна поступать каждая передовая ИИ-компания», — заявили в Anthropic. В METR ответили: «Мы готовы работать со всеми разработчиками передового ИИ, чтобы предоставлять обществу более надёжные данные».
