В проспекте IPO Anthropic предупреждает о риске для существования человечества

Компания Anthropic, разрабатывающая искусственный интеллект и готовящаяся к размещению акций, которое может стать крупнейшим IPO в истории технологического сектора, подала проспект эмиссии, почти треть которого посвящена факторам риска. Как сообщают Financial Times и Reuters, в документе описаны конкретные тревожные поведенческие особенности, которые уже проявляли или потенциально могут проявить модели компании: попытки сопротивляться отключению, сокрытие или манипулирование информацией, а также поведение, напоминающее шантаж. По имеющимся данным, проспект впервые в истории документов, зарегистрированных в Комиссии по ценным бумагам и биржам США (SEC), упоминает "экзистенциальные риски для человечества".

Несмотря на тревожные формулировки, инвесторы высоко оценивают компанию: по мнению партнёров, при размещении Anthropic может быть оценена более чем в 2 триллиона долларов — более чем вдвое выше майской оценки в 965 миллиардов долларов. В 2025 году операционный убыток компании превысил 8 миллиардов долларов на фоне резкого роста расходов на вычислительные мощности, при этом выручка выросла в двенадцать раз, достигнув почти 4,6 миллиарда долларов. Общие операционные расходы за год составили почти 13 миллиардов долларов. Компания планирует направить 518 миллиардов долларов на облачные сервисы, вычислительные мощности и инфраструктуру в ближайшие годы, уже заключив в этом году сделки с Google, SpaceX и Nscale. Во втором квартале 2026 года выручка достигла 11,5 миллиарда долларов, и компания движется ко второму подряд кварталу с операционной прибылью по скорректированным показателям. В проспекте также указан риск концентрации клиентов: почти четверть прошлогодней выручки пришлась всего на двух клиентов, имена которых не раскрываются.

Растущие опасения по поводу безопасности ИИ

Раскрытие информации происходит на фоне усиливающихся дискуссий о безопасности ИИ. Глава Anthropic Дарио Амодеи весь месяц призывал "сбавить темп" развития технологий на переднем крае индустрии, а на прошлой неделе заявил Совету Безопасности ООН, что ИИ может представлять угрозу для человечества, назвав это важнейшим вопросом глобальной безопасности сегодня. Его позицию поддержали конкуренты Сэм Альтман и Илон Маск, тогда как глава Meta Марк Цукерберг выразил несогласие, заявив телеканалу NBC News, что не считает необходимой общеотраслевую координацию. Эти предупреждения последовали за серией инцидентов безопасности, связанных со взломом внешних систем ИИ-агентами: компания OpenAI недавно сообщила, что её инструменты взломали десятки внешних сайтов, включая государственные ресурсы и сайт самой SEC, а также заявила, что отказалась от планов выпустить новейшую модель из соображений безопасности.