Уволенные исследователи безопасности OpenAI оспаривают обвинения в нарушениях и предупреждают о «охлаждающем эффекте»
Трое недавно уволенных исследователей безопасности OpenAI в открытом письме отрицают нарушение правил компании и предупреждают, что увольнение отбивает у сотрудников желание говорить открыто. В OpenAI заявляют, что они неправильно обращались с чувствительной информацией.
Джасмин Ван, Томек Корбак и Микита Балесни, уволенные из OpenAI на прошлой неделе, в четверг опубликовали открытое письмо в адрес Комитета по безопасности, Консультативной группы по безопасности и Консультативного совета по миссии компании. В нём они отвергают утверждения о ненадлежащем обращении с чувствительной информацией.
Обвинения компании
По словам OpenAI, исследователи нарушили политику компании, получив доступ к чувствительной информации и работая с ней. Увольнению, как сообщается, предшествовала передача конфиденциальных данных сторонней организации по безопасности ИИ. Представитель компании сообщил TechCrunch, что расследование выявило «систему нарушений», выходящую за рамки обмена информацией с внешней оценочной группой. На вопросы о том, какие именно правила были нарушены и при каких обстоятельствах прошли увольнения, компания прямо не ответила.
Ответ исследователей
Авторы письма считают, что увольнения отражают изменение культуры в компании, которая прежде поощряла открытое выражение опасений по поводу безопасности. По их словам, сотрудники теперь не понимают, что допустимо, поскольку поведение, считавшееся нормой месяц назад, внезапно стало основанием для увольнения. Они также отрицают причастность к утечке в издание The Information об архитектурах моделей, затрудняющих мониторинг цепочки рассуждений, и отрицают контакты с внешними сторонами за рамками должностных обязанностей.
Согласно письму, Корбак считал, что действует в рамках норм компании, тесно общаясь с внешними оценщиками во время беспрецедентного инцидента с Hugging Face. Балесни, как говорится в письме, работал над проблемой мониторинга ИИ при поддержке членов совета директоров и руководителей и информировал своё непосредственное руководство.
В серии сообщений на X Ван заявила, что ей назвали причиной увольнения доступ к почте руководителя. По её словам, доступ ей предоставили для подбора персонала, ИТ-отдел не выполнил просьбу его убрать, а чувствительное письмо она открыла по ошибке и в течение нескольких минут сообщила об этом руководителю.
Реакция OpenAI
Официального ответа на письмо компания не дала. Однако она передала TechCrunch внутренний меморандум, где отмечается вклад исследователей и отрицается, что увольнения стали местью за высказанные опасения. В меморандуме также говорится, что компания согласна с рекомендациями из письма.
