Исследователь ИИ призвал полностью остановить разработку сверхразумного ИИ
Исполнительный директор американского отделения некоммерческой организации ControlAI Коннор Лихи в подкасте TechCrunch Equity заявил, что разработку сверхразумного ИИ нужно полностью остановить, указав на инциденты вроде утечки данных OpenAI через Hugging Face. По его словам, эту некогда маргинальную позицию сейчас начинают поддерживать новые законодательные инициативы.
В свежем выпуске подкаста Equity от TechCrunch исследователь и предприниматель в сфере ИИ Коннор Лихи, ныне исполнительный директор американского отделения некоммерческой организации ControlAI, заявил, что компаниям следует вообще запретить разработку сверхразумного искусственного интеллекта, а не пытаться сделать такие системы безопасными с помощью мер контроля.
В разговоре с ведущей подкаста Ребеккой Беллан Лихи упомянул недавние инциденты в сфере безопасности, включая утечку данных OpenAI через платформу Hugging Face, как подтверждение опасностей, связанных с внедрением ИИ-систем, превосходящих человека по возможностям.
Контроля уже недостаточно
По словам Лихи, риски, связанные с системами, которые люди больше не способны надёжно контролировать, стали слишком велики, чтобы решать их только методами согласования (alignment) и сдерживания. По его мнению, единственный ответственный путь вперёд — не позволять компаниям вообще создавать подобные системы.
Он отметил, что эта позиция, казавшаяся полгода назад маловероятной, сейчас получает поддержку благодаря новой волне законодательных инициатив: власти всё активнее продвигают законы, направленные на ограничение развития передового ИИ.
Организация ControlAI, которую Лихи представляет в США, выступает за гораздо более радикальный подход к безопасности ИИ, чем большинство участников отрасли, требуя полной остановки разработки сверхразумного ИИ вместо опоры исключительно на технические меры защиты.
