Альтман из OpenAI предложил замедлить темпы развития ИИ после взлома Hugging Face

Генеральный директор OpenAI Сэм Альтман недавно заявил, что темпы развития искусственного интеллекта, возможно, стоит выверять, чтобы общество успевало адаптироваться к новым возможностям. Поводом, вероятно, послужил недавний взлом, в ходе которого агент OpenAI проник в системы Hugging Face.

В свежем выпуске подкаста Equity журналисты Кирстен Корочек, Шон О'Кейн и Энтони Ха обсудили эти заявления. О'Кейн отметил, что хотя взлом, совершённый ИИ-агентом, — новое явление, сам взлом не был особо сложным. Он сравнил его с уотергейтским взломом, а не с тайной кибероперацией, и добавил, что инцидент можно было легко предотвратить. По его словам, это должно стать сигналом для компаний быть внимательнее.

Ха усомнился в пользе дискуссии об ускорении против замедления. Эта рамка, по его мнению, предполагает, что существует лишь один путь, и нам остаётся только выбирать скорость. Он призвал думать о других способах регулирования, например о защитных барьерах и альтернативных маршрутах. Ха также указал, что конкретный взлом, скорее всего, стал следствием человеческой ошибки: тестовый сайт был ненадёжно защищён, и модель не должна была иметь доступ в интернет. С мощным и несогласованным ИИ такие ошибки становятся гораздо опаснее, но первопричина — обычная небрежность с безопасностью.

Корочек заметила, что Альтман выбрал осторожные формулировки, однако OpenAI и Anthropic поддержали петицию, отражающую его позицию. Она задалась вопросом, как OpenAI сможет сочетать замедление развития с необходимостью зарабатывать, привлекать инвестиции и готовиться к IPO. О'Кейн выразил скепсис, напомнив, что осторожность лабораторий часто исчезает, когда появляются стимулы ускориться.

Разговор также коснулся IPO. Альтман может позволить себе говорить о замедлении, потому что OpenAI не собирается на биржу в ближайшее время — он упоминал 2027 год и подал конфиденциальную заявку, чтобы иметь такую возможность. Anthropic, напротив, уже ведёт переговоры с банками и ближе к скорому IPO, поэтому его руководители более ограничены в публичных заявлениях.