OpenAI выпустила GPT-6 Astra: восторг по поводу "эры AGI" и опасения по поводу безопасности

Новая модель OpenAI

В четверг, 3 сентября, OpenAI представила свою новейшую модель ИИ GPT-6 Astra, назвав её "самой умной и наиболее согласованной моделью в мире". По данным Le Figaro, официальный запуск модели состоялся в пятницу, 4 сентября, тогда как в эфире BFM о её распространении говорили ещё и 7 сентября — это указывает на поэтапный запуск с приоритетным доступом для компаний, участвующих в программе кибербезопасности "Daybreak".

В отличие от предыдущих моделей, которым пользователь должен был давать последовательные команды, Astra способна самостоятельно взять под контроль компьютер и выполнять задачи без постоянного вмешательства человека — просматривать интернет, заполнять налоговые декларации, записываться на приём, создавать и тестировать сайт или разрабатывать видеоигру, сообщает Le Figaro.

"AGI наступил", заявил глава Nvidia

В воскресенье гендиректор Nvidia Дженсен Хуанг заявил в X, что "AGI наступил", поблагодарив команду OpenAI и отметив, что Astra обучалась на чипах Nvidia. Президент OpenAI Грег Брокман заявил: "Добро пожаловать в эру AGI". Однако сам глава OpenAI Сэм Альтман в интервью подкасту "Sources" назвал термин AGI "очень плохо определённым... почти нерелевантным маркетинговым термином", сообщает Business Insider.

Критики, включая исследователя Гэри Маркуса, отмечают, что Хуанг не привёл ни доказательств, ни определения, и что по его же собственным 10 критериям AGI Astra соответствует лишь одному-двум пунктам. Исследователи из ARC Prize, чей тест OpenAI использовала при презентации модели, также воздержались от того, чтобы назвать Astra AGI, отметив, что результаты получены в строго ограниченной тестовой среде.

Впечатляющее достижение и скептицизм

Как сообщает Developpez.com, Astra полностью самостоятельно — без помощи человека и подсказок, опираясь лишь на скриншоты — прошла головоломку Portal от Valve, потратив на это 3336 обращений к инструменту и 571,18 доллара. Формально прохождение заняло около двух часов, но с учётом времени "раздумий" модели процесс растянулся почти на целые сутки. Скептики напоминают, что Portal вышла в 2007 году и подробно разобрана в интернете, поэтому полные прохождения, вероятно, присутствовали в обучающих данных модели.

При этом часть исследователей безопасности ИИ беспокоит не столько то, на что способна Astra, сколько то, как она это делает: её внутренняя архитектура "рекуррентного рассуждения" оставляет меньше читаемых следов для контроля безопасности до совершения действий — некоторые эксперты, которых цитирует Le Figaro, назвали это "худшим событием в истории безопасности ИИ". В эфире BFM эксперты также обсудили инициативу учёных OpenAI по замедлению темпов развития ИИ. Сам запуск прошёл не без проблем — Альтман уже принёс извинения за хаотичный старт, из-за которого часть платных пользователей застряла на экранах загрузки.