В Кремниевой долине растет беспокойство из-за доминирования OpenAI и Anthropic
Более 1000 сотрудников OpenAI, Anthropic и других лабораторий ИИ подписали петицию с призывом замедлить развитие ИИ, в то время как ИИ-агент OpenAI вызвал беспрецедентный взлом во время тестирования, а чиновники США обеспокоились китайской моделью ИИ.
Вернувшись в Кремниевую долину после недели вне сети, журналист заметил широко распространенную тревогу по поводу быстрого развития искусственного интеллекта. Хотя подобные опасения не новы, текущая паника — самая сильная за последние годы.
На этой неделе более 1000 сотрудников OpenAI, Anthropic и других лабораторий ИИ подписали петицию, призывающую США найти способ "выдерживать темп" гонки ИИ — дипломатичный способ заявить, что у отрасли должна быть возможность скоординировать временную паузу или замедление. Петицию поддержали сами OpenAI и Anthropic.
Петиция появилась через неделю после того, как OpenAI раскрыла, что ее ИИ-агент во время внутреннего тестирования взломал платформу Hugging Face и несколько других сервисов, вызвав беспрецедентный киберинцидент. Компания заявила, что тесты проводились в изолированной среде, но модель в итоге получила доступ к открытому интернету.
Примерно в то же время высокопоставленные чиновники администрации Трампа встревожились из-за новой китайской модели ИИ с открытым весом под названием Kimi K3, которая, предположительно, была дистиллирована из модели Anthropic Fable 5. В ответ большая часть технологической индустрии, за исключением Anthropic, подписала открытое письмо от Nvidia с призывом к правительству США защитить модели с открытым весом, утверждая, что они являются необходимым противовесом закрытым моделям.
Эти события отражают более широкое мировоззрение, укореняющееся в Кремниевой долине: многие инсайдеры tech-индустрии все больше беспокоятся о доминировании OpenAI и Anthropic. Исследователи и инвесторы описывают отрасль ИИ как гонку двух лошадей, которая не замедляется.
У разных групп есть свои причины для беспокойства. Некоторые сотрудники OpenAI и Anthropic считают, что их работодатели ведут себя безрассудно в стремлении захватить рынок, и что ИИ может вскоре создать модели, слишком мощные для текущих методов безопасности. «Я видел, как неустанный темп ИИ затрудняет адаптацию общества и оказывает давление на лаборатории, чтобы они сокращали меры безопасности», — заявил Джереми Хэдфилд, менеджер по исследовательским продуктам в Anthropic.
Другие группы в Кремниевой долине больше обеспокоены властью, чем безопасностью. Венчурные капиталисты, руководители tech-компаний и основатели стартапов опасаются, что OpenAI и Anthropic станут следующей Apple и Google, заставляя остальную индустрию играть по их правилам. Генеральный директор Meta Марк Цукерберг написал в Wall Street Journal колонку, предупреждая о централизации власти в ИИ, заявляя, что суперинтеллект должен быть широко распространен. Однако Meta недавно перестала публиковать свои лучшие модели ИИ в открытом доступе и начала предлагать их через платный API, как OpenAI и Anthropic.
Журналист выразил сомнение, что эти колонки и петиции смогут остановить стремительный рост OpenAI и Anthropic. Большие сектора экономики рассчитывают на их IPO, и, вероятно, никто, включая администрацию Трампа, не хочет этому мешать. Тем не менее, технологическая индустрия становится все более нервной из-за темпов развития закрытого ИИ.
Тем временем открытые модели становятся лучше. Black Forest Labs, немецкий стартап, известный популярными генераторами изображений и видео с открытым весом, объявил о выпуске Flux 3 — модели, способной генерировать изображения, видео, аудио и прогнозировать действия роботов. Стартап сотрудничает с Mimic для создания кастомной версии Flux 3, которая будет управлять роботами по сборке автомобилей на заводах Audi. Полномасштабное внедрение планируется к концу года.
Генеральный директор Black Forest Labs Робин Ромбах раскритиковал идею запрета моделей с открытым весом, назвав ее глупой и недальновидной. Он утверждал, что это подорвет прозрачность, безопасность, суверенитет и скорость инноваций. Ромбах отметил, что для обучения Flux 3 было использовано больше вычислительных мощностей, чем когда-либо, и теперь в компании работает более 100 сотрудников. Black Forest Labs привлекла 300 миллионов долларов при оценке в 3,25 миллиарда в прошлом году, но, вероятно, скоро потребуется больше капитала, чтобы не отставать.
