Исследователь Anthropic уволился с предупреждением о сверхразуме — на фоне подготовки компании к IPO

На этой неделе из компании Anthropic ушёл исследователь, опубликовавший в соцсети X резкое предупреждение: по его словам, компания «мчится прямиком к самосовершенствующемуся сверхразуму, рискуя нашими жизнями». Примечательно, что руководитель направления безопасности (alignment) в Anthropic не опроверг это заявление, а подписался под ним.

Предупреждения о рисках искусственного интеллекта звучат в отрасли не впервые, но на этот раз момент оказался особенно показательным: как сообщается, Anthropic готовится к первичному публичному размещению акций (IPO). В подкасте TechCrunch Equity ведущие Кирстен Коросек, Энтони Ха и Шон О'Кейн обсудили это предупреждение и то, что оно говорит о гонке отрасли за всё более мощными моделями ИИ.

Другие новости недели

В выпуске также затронуты другие события отрасли. Компания Apple сделала ставку на искусственный интеллект на своём первом крупном мероприятии под руководством нового генерального директора Джона Тернуса, при этом постоянно активные функции в часах Watch и наушниках AirPods могут в итоге оказаться важнее, чем новый складной iPhone.

Также упомянуто привлечение компанией Stokes Space 1 миллиарда долларов — это отражает открывшийся рынок ракетных запусков на фоне постепенного отказа SpaceX от ракет Falcon. Стартап Cognition, разрабатывающий инструменты для программирования, привлёк 2 миллиарда долларов инвестиций при оценке в 48 миллиардов долларов, что говорит об уверенности венчурных инвесторов в сфере ИИ для разработки кода. Наконец, 50 миллионов долларов посевных инвестиций получил проект плавучих ядерных реакторов, призванных обеспечить энергией дата-центры для ИИ.