OpenAI, по сообщениям, расформировала команду по оценке рисков ИИ
По данным Financial Times, в конце прошлого месяца OpenAI распустила команду, отвечавшую за оценку серьёзных рисков ИИ-моделей. Это очередной шаг в череде сокращений и уходов сотрудников, связанных с безопасностью, в компании.
Как сообщает Financial Times, в конце прошлого месяца OpenAI расформировала так называемую preparedness-команду — подразделение, отвечавшее за оценку того, представляют ли модели искусственного интеллекта серьёзную опасность, и за разработку мер по снижению таких рисков, включая сценарии, при которых модель могла бы выйти из-под контроля и взломать сторонние системы. По данным издания, теперь эта ответственность распределена между профильными направлениями — например, биологическими и киберугрозами — и передана уже существующим командам вместо отдельного подразделения.
Часть более широкой реорганизации
Это последнее из изменений в OpenAI, которая переживает заметные внутренние потрясения на фоне ожидаемого масштабного IPO. За последние несколько лет компания постепенно отказалась от более исследовательски ориентированной структуры безопасности, ранее расформировав команду готовности к AGI и так называемую команду суперсогласования (superalignment).
За последнее время компанию также покинул ряд сотрудников, занимавшихся вопросами безопасности и этики, включая руководителя по этике Chloé Bakalar, главного футуролога Josh Achiam и главу отдела безопасности Johannes Heidecke. Эти уходы побудили критиков, в том числе Jan Leike, покинувшего OpenAI в 2024 году, заявить изданию FT, что компания отодвигает вопросы безопасности на второй план ради создания «эффектных продуктов».
Dylan Scandinaro, возглавлявший preparedness-команду после перехода в OpenAI из Anthropic в феврале, теперь сосредоточится на последствиях появления «рекурсивно самосовершенствующегося» ИИ.
