Пионеры ИИ Хинтон, Ли и Нг спорят о будущем открытых моделей

На конференции Ai4 в Лас-Вегасе трое влиятельных исследователей искусственного интеллекта — лауреат Нобелевской премии Джеффри Хинтон, глава World Labs Фей-Фей Ли и сооснователь Coursera Эндрю Нг — обсудили вопрос открытости разработки ИИ на фоне растущих опасений отрасли по поводу безопасности.

Все трое выразили обеспокоенность тем, что небольшое число крупных компаний может получить контроль над темпами развития ИИ, сравнив ситуацию с тем, как Apple и Google доминируют на рынке мобильных операционных систем. Нг заявил, что не хочет появления "привратников", ограничивающих доступ к ИИ, и выступил за сохранение нескольких конкурирующих поставщиков и моделей.

Разные позиции

Хинтон провёл различие между открытым исходным кодом программного обеспечения, доступным для проверки, и открытыми весами моделей, когда публикуются параметры уже обученной модели. Он признал, что ранее выступал против открытых весов, поскольку это упрощает использование дорогих базовых моделей во вредоносных целях, например для кибератак, но отметил, что эта борьба уже проиграна — открытые модели стали неотъемлемой частью реальности.

Нг сделал акцент на конкурентной динамике, утверждая, что преимущество получит тот, кто создаст самую дешёвую модель. Он предупредил, что если открытые китайские модели получат широкое распространение в Азии, Африке и развивающихся странах, это может повлиять на восприятие миллиардами людей идей демократии и прав человека, особенно если американский открытый ИИ не сможет конкурировать из-за лоббизма и излишних опасений.

Ли отвергла постановку вопроса как выбор между полной открытостью и полной закрытостью, сравнив ситуацию с ядерной физикой, где научные статьи публикуются открыто, а уран строго регулируется. По её словам, разные уровни экосистемы ИИ могут иметь разную степень открытости, приведя в пример проект "Геном человека" как удачный пример сотрудничества государственного и частного секторов.

Несмотря на разногласия, все трое сошлись во мнении, что для развития ИИ в интересах общества необходимо определённое регулирование.