Созданный по инициативе Nvidia альянс по безопасности ИИ за неделю представил первые предложения
Открытый альянс по безопасности ИИ (OSAA), инициированный Nvidia и объединивший более 120 компаний, уже сформировал рабочую группу и предложил меры по урегулированию ИИ-инцидентов. Некоторые крупные игроки, включая OpenAI, Google и Anthropic, пока не присоединились.
Прошла всего неделя с момента создания Open Secure AI Alliance (OSAA) — отраслевой инициативы, инициированной Nvidia, а альянс уже демонстрирует активность. Коалиция, в которую вошли более 120 компаний, сформировала рабочую группу под названием Shared AI Findings Exchange (SAFE). Группа представила предложения для открытого обсуждения, а Linux Foundation взял на себя управление процессом.
Предложения были подготовлены во время конференции Black Hat в Лас-Вегасе, где на этой неделе собрались участники альянса. Пока рекомендации не выглядят революционными: они касаются того, как конфиденциально сообщать об инцидентах в сфере ИИ-безопасности, оповещать пострадавших и проводить анализ без поиска виноватых, чтобы извлечь уроки.
Параллельно участники OSAA вносят и каталогизируют компоненты своих технологий с открытым исходным кодом. Со временем это может привести к созданию набора открытых средств, которые позволят предприятиям защищать своих ИИ-агентов или отражать атаки недобросовестных ИИ, таких как модель OpenAI, которая проникла на платформу Hugging Face. Сама Hugging Face также является членом альянса.
Nvidia, в частности, отмечает, что предлагает семейство открытых моделей и сканер уязвимостей для больших языковых моделей с открытым исходным кодом — Garak. Okta работает над технологией идентификации агентов, Red Hat — над управлением агентами, а Amazon внесла открытый инструмент создания агентов Strands Agents и язык авторизации Cedar.
В состав альянса входят такие крупные компании, как Adobe, BlackRock, Cisco, Intel, Microsoft и Visa. Однако ряд заметных игроков отсутствует: Anthropic, OpenAI и Google не являются членами OSAA. Это при том, что и OpenAI, и Google подписали первоначальное открытое письмо, которое привело к созданию альянса. Письмо, опубликованное на прошлой неделе и поддержанное Nvidia, призывало Белый дом содействовать открытому ИИ, а не ограничивать его. Его подписали более 200 технологических компаний.
Отсутствие Anthropic неудивительно, но OpenAI и Google сами выпустили модели с открытыми весами, а Google известен как активный сторонник открытого кода. Посмотрим, присоединятся ли они по мере набора альянсом оборотов.
Группа действует в темпе, характерном для ИИ-индустрии. Всего пару недель назад появились сообщения о том, что администрация Трампа рассматривает запрет на китайские модели с открытыми весами, что вызвало беспокойство в отрасли и привело к написанию открытого письма. Что бы ни произошло с этими моделями в США, быстрая реакция крупных игроков выглядит позитивным знаком для открытой ИИ-экосистемы страны.
Согласно мнению сооснователя и технического директора американской лаборатории открытых ИИ Arcee, именно открытость может стать лучшим способом противостоять любым — реальным или воображаемым — угрозам со стороны китайских ИИ-лабораторий. В письме группы также говорится, что открытость, возможно, является одним из самых важных путей к безопасности и защищенности ИИ. Похоже, альянс готов немедленно подкрепить свои слова и технологии делом.
