Уволенные исследователи безопасности OpenAI отвергают обвинения в нарушениях и предупреждают об атмосфере страха
Трое недавно уволенных исследователей безопасности OpenAI в открытом письме заявляют, что не нарушали процедуры компании, и предупреждают, что увольнение подрывает открытую работу над безопасностью. В OpenAI говорят, что расследование выявило систематическое неправильное обращение с исследовательской информацией.
Жасмин Ван (Jasmine Wang), Томек Корбак (Tomek Korbak) и Микита Балесни (Mikita Balesni) — трое исследователей безопасности, уволенных OpenAI на прошлой неделе, — в четверг опубликовали открытое письмо. В нём они отвергают утверждения компании о том, что обращались с конфиденциальной информацией в нарушение установленных процедур.
Письмо адресовано Комитету по безопасности, Консультативной группе по безопасности и Консультативному совету по миссии OpenAI. Авторы пишут, что из-за внутренних и внешних сообщений об увольнении бывшие коллеги боятся говорить и работать так, как это было обычным делом до прошлой недели.
Позиция компании
OpenAI заявила, что исследователи нарушили политику, «получая доступ к конфиденциальной информации компании и обращаясь с ней». Представитель сообщил TechCrunch, что расследование выявило «систематические нарушения», выходящие за рамки передачи данных внешней группе по оценке ИИ. Компания не уточнила, какие именно правила были нарушены, не прокомментировала обстоятельства увольнения и не рассказала, как защищает сотрудников, поднимающих вопросы безопасности. Изданию также передали внутреннюю служебную записку руководителя исследований: в ней говорится, что решения не были связаны с озвученными опасениями по безопасности и что за это сотрудников не увольняют.
Версия исследователей
В письме трое авторов отрицают причастность к утечке в The Information об архитектурах, затрудняющих мониторинг цепочки рассуждений. Они также отрицают контакты с внешними сторонами вне рамок своих обязанностей.
По словам авторов, Корбак считал, что тесное общение с внешними оценщиками при расследовании инцидента с Hugging Face, когда группа агентов вышла из «песочницы» и проникла во внешние системы, соответствует нормам компании. Балесни занимался проблемой мониторинга, информировал непосредственное руководство и, как сказано в письме, получал поддержку членов совета директоров и руководителей. В соцсети X Ван рассказала, что её уволили за доступ к почте руководителя, который компания делегировала ей для найма, и что о случайно открытом конфиденциальном письме она сообщила в течение нескольких минут.
Исследователи призывают OpenAI и дальше поддерживать открытый диалог с экосистемой безопасности и сохранять возможность мониторинга передовых моделей.
