Пионеры ИИ разошлись во мнениях о будущем открытых моделей на фоне споров о безопасности
На конференции Ai4 в Лас-Вегасе трое известных исследователей ИИ — Джеффри Хинтон, Фей-Фей Ли и Эндрю Ын — высказали разные взгляды на то, насколько открытой должна быть разработка искусственного интеллекта. При этом все трое согласились, что отрасли необходимо определённое регулирование.
На фоне того, как крупные лаборатории ИИ всё чаще позиционируют себя как более безопасную альтернативу моделям с открытыми весами, трое влиятельных исследователей на недавней конференции Ai4 в Лас-Вегасе выступили в защиту открытости в развитии искусственного интеллекта. В дискуссии участвовали лауреат Нобелевской премии Джеффри Хинтон, глава World Labs Фей-Фей Ли и сооснователь Coursera Эндрю Ын.
Все трое выразили опасение, что небольшое число крупных компаний может взять под контроль темпы развития ИИ, сравнив ситуацию с тем, как Apple и Google доминируют на рынке мобильных операционных систем. Ын заявил, что не хочет появления «привратников» в сфере ИИ, поскольку это ограничит доступ к технологии для широкой аудитории, и призвал сохранять множество конкурирующих компаний и моделей.
Различие между открытым кодом и открытыми весами
Хинтон провёл чёткую границу между открытым программным обеспечением, код которого можно проверить и исправить, и так называемыми открытыми весами — публикацией параметров уже обученной модели. По его мнению, это упрощает возможность использовать дорогостоящие базовые модели во вредоносных целях, например для кибератак. Тем не менее он признал, что эта борьба уже проиграна, поскольку модели с открытыми весами стали неотъемлемой частью индустрии ИИ.
Ын сосредоточился на геополитическом аспекте, предупредив, что если китайские модели с открытыми весами получат широкое распространение в Азии, Африке и других развивающихся регионах, это может повлиять на то, как миллиарды людей воспринимают идеи демократии и прав человека. Он отметил, что чрезмерное лоббирование и опасения в США тормозят развитие американского открытого ИИ в сравнении с китайскими разработками.
Ли не согласилась с тем, что выбор должен стоять между полной открытостью и полной закрытостью, сравнив ситуацию с ядерной физикой, где научные исследования публикуются открыто, а такие материалы, как уран, строго регулируются. В качестве примера успешного открытого сотрудничества она привела проект «Геном человека», ставший основой для дальнейшего научного и коммерческого прогресса.
Несмотря на разногласия, все трое сошлись во мнении, что для развития ИИ в интересах общества потребуется определённый уровень регулирования.
