Исследователи ИИ публично предупреждают об опасностях суперинтеллекта

Некоммерческая организация Palisade Research, изучающая возможности и мотивацию систем искусственного интеллекта, опубликовала на сайте frominside.ai серию из двенадцати интервью с нынешними и бывшими исследователями ИИ из таких компаний, как OpenAI, Google и Anthropic.

Бывший сотрудник OpenAI и Google DeepMind Джеффри Ирвинг заявил в своём интервью, что оценивает вероятность вымирания человечества примерно как подбрасывание монеты — около 50 процентов. Научный сотрудник Google DeepMind Нил Нанда оценил эту вероятность как минимум в 10 процентов, назвав такую цифру "нелепо высокой".

Опасения по поводу потери контроля

Бывший исследователь OpenAI Дэниел Кокотайло пошёл ещё дальше, заявив, что сверхразумный ИИ будет обладать "практически божественной мощью". Он добавил, что человечество пока не знает, как контролировать такие системы, а значит, скорее всего, их не сможет контролировать никто. По его мнению, ситуация настолько же опасна, насколько это звучит, и допускать её развития нельзя.

Единого решения нет

Хотя несколько опрошенных исследователей выражают схожие опасения, видеосерия не предлагает единого решения проблемы. На сайте также собраны более короткие фрагменты по темам, включая вопрос о том, не являются ли эти предупреждения просто маркетинговым ходом, и почему исследователи продолжают работать над технологией, которую сами считают опасной.

Сотрудница Google Мэри Фуонг признала, что к её словам стоит относиться с определённой долей скепсиса, поскольку ей платит лаборатория, в которой она работает. Нанда, в свою очередь, объяснил, что продолжает работать в этой сфере, поскольку считает, что его работа напрямую снижает экзистенциальные риски, отметив, что компании не прекратят разработку этих систем просто потому, что он уволится.