Не все сотрудники сферы ИИ верят в апокалиптические сценарии
Сотрудники OpenAI, Meta и DeepMind рассказали BBC, что отреагировали с иронией на недавние громкие предупреждения о том, что неконтролируемое развитие ИИ может привести к массовой гибели людей, хотя признают и реальные краткосрочные риски.
BBC выяснила, что не все сотрудники крупных компаний, работающих над искусственным интеллектом (ИИ), разделяют опасения о том, что технология представляет экзистенциальную угрозу человечеству. Несколько нынешних и бывших работников таких компаний, как OpenAI, Meta и DeepMind, заявили, что отреагировали на недавнюю волну громких предупреждений скорее с иронией, чем с тревогой.
Поводом стали заявления бывшего сотрудника Anthropic Джейкоба Коксона, сделанные на прошлой неделе: по его словам, группа ИИ-агентов, основанных на пока не существующих моделях, могла бы создать и применить биологическое оружие, однако подробностей того, как именно это произойдёт, он не привёл. Его призывы замедлить развитие ИИ поддержали и другие представители отрасли, в том числе некоторые сотрудники Anthropic, OpenAI, DeepMind, а также стартапа Илона Маска xAI.
Бывший сотрудник OpenAI, работающий сейчас в другой ИИ-компании, рассказал BBC, что его первой реакцией было удивление, поскольку подобные заявления обычно расплывчаты или основаны на больших логических допущениях. Ришуб Джейн, основавший этим летом фирму по исследованию безопасности ИИ Sampura Research после семи лет работы в DeepMind, отметил, что настроение среди сотрудников отрасли было «немного шутливым», поскольку эта дискуссия ведётся уже много лет. Специалист по данным Meta Колин Фрейзер написал в соцсетях, что нет реальных доказательств того, что модели ИИ неизбежно будут стремиться к целям, ведущим к гибели людей.
Несмотря на шутливый тон, сотрудники признают серьёзность более непосредственных рисков — например, возможность обхода защитных механизмов ИИ пользователями или хакерами, а также растущие этические опасения по поводу использования ИИ в военных целях. Некоторые отметили, что независимые исследователи безопасности пока, судя по всему, не работают непосредственно внутри ИИ-лабораторий. В пятницу Anthropic объявила, что привлечёт специалистов по оценке из компании Faculty, принадлежащей Accenture, которая также является деловым партнёром Anthropic, однако сроки названы не были. Отдельный недавний инцидент с участием OpenAI и Hugging Face также назвали в отрасли тревожным сигналом относительно рисков безопасности.
