Покинувший Anthropic исследователь предупреждает об опасностях ИИ
Бывший сотрудник Anthropic Джейкоб Коксон публично предупредил, что искусственный интеллект вскоре получит сверхчеловеческие возможности и реальную власть, однако эксперты отрасли расходятся в оценке серьёзности этих заявлений.
На этой неделе исследователь Джейкоб Коксон покинул одну из ведущих компаний-разработчиков искусственного интеллекта (ИИ) Anthropic и выступил с резкими предупреждениями об опасностях этой технологии. По его словам, ИИ вскоре превратится в систему со сверхчеловеческими способностями, способную взломать практически что угодно, за считанные дни до неузнаваемости изменить целые отрасли и получить реальную власть и ресурсы.
Коксон не первый бывший сотрудник отрасли, который бьёт тревогу подобным образом. Ещё в 2023 году схожие опасения высказал так называемый «крёстный отец ИИ» Джеффри Хинтон, который тогда ушёл из Google именно для того, чтобы иметь возможность свободно говорить о рисках стремительного развития ИИ. С тех пор он не отказался от своих слов.
К предупреждениям Коксона присоединился ещё один бывший сотрудник Anthropic Эван Хубингер, заявивший, что лично оценивает вероятность того, что ИИ в течение следующего десятилетия может стать смертельной угрозой для человечества, как превышающую 10%.
Не все согласны с апокалиптическим сценарием
В интервью BBC Хинтон признал, что точно спрогнозировать подобные риски крайне сложно, поскольку человечество никогда прежде не создавало нечто, что вскоре может стать умнее самого человека. По его мнению, утверждать, что вероятность угрозы составляет всего 1%, было бы безответственно, хотя точную цифру никто рассчитать не может.
Не все специалисты разделяют такую оценку. Директор Института математики и информатики Латвийского университета и ведущий исследователь AiLab Робертс Дарґис назвал заявления о 10-процентной вероятности того, что ИИ за десять лет может представлять угрозу человечеству, преувеличенным «кликбейтом», сравнив это с вероятностью встретить на улице дракона. По его мнению, подобные опасения в целом сильно преувеличены.
