Anthropic заключила партнёрство с Accenture для независимой оценки безопасности ИИ

Компания Anthropic объявила о новом партнёрстве с консалтинговой фирмой Accenture, в рамках которого Accenture будет выступать в роли независимого оценщика, проверяющего соблюдение требований безопасности в передовых ИИ-моделях Anthropic. По условиям соглашения, специалисты Accenture будут работать в тесном контакте с сотрудниками Anthropic, будучи фактически встроенными в её деятельность.

Не менее миллиарда долларов с каждой стороны

Обе компании планируют вложить в этот совместный проект не менее миллиарда долларов каждая в течение следующих пяти лет. Партнёрство стало одним из первых конкретных шагов к реализации плана, предложенного неделей ранее генеральным директором Anthropic Дарио Амодеем и направленного на замедление темпов развития искусственного интеллекта.

Предложенный Амодеем трёхэтапный подход призывает все компании, работающие с "передовым ИИ", предоставлять постоянный доступ, сопоставимый с доступом сотрудников, встроенным независимым оценщикам. Такие оценщики должны следить за соблюдением практик и обязательств по безопасности, сообщать об инцидентах и оценивать соответствие ИИ-моделей заявленным принципам.

Доступ к процессу разработки моделей

По данным Anthropic, оценщики Accenture будут наблюдать за тем, как модели формируются в процессе обучения, следить за решениями, определяющими их разработку и внедрение, а также напрямую общаться с сотрудниками компании. Anthropic отметила, что выбрала Accenture благодаря её опыту в помощи компаниям и государственным структурам во внедрении ИИ в различных отраслях, а также пониманию того, как бизнес реально использует ИИ.

Однако Anthropic признала, что концепция встроенных независимых оценщиков пока нова, и единых стандартов относительно объёма их работы, уровня доступа и порядка сообщения о проблемах ещё не существует. В связи с этим компания сообщила, что в ближайшие недели объявит и о других партнёрах-оценщиках помимо Accenture. Также отмечается, что Accenture будет сотрудничать не только с Anthropic, но и с другими компаниями, работающими в сфере искусственного интеллекта.