Исследователь ИИ призывает остановить разработку суперинтеллекта
В подкасте TechCrunch Equity исследователь Коннор Лихи заявил, что риски создания суперинтеллектуального ИИ стали слишком велики, и призвал полностью запретить такие разработки. Его некоммерческая организация ControlAI продвигает эту позицию через новое законодательство.
Компании, работающие в сфере ИИ, давно говорят о суперинтеллектуальном искусственном интеллекте как о неизбежном этапе развития. Однако недавние инциденты, связанные с безопасностью, включая утечку данных OpenAI на платформе Hugging Face, наглядно показывают риски внедрения систем, чьи возможности превосходят человеческие.
В подкасте Equity от TechCrunch журналистка Ребекка Беллан побеседовала с Коннором Лихи — исследователем ИИ, предпринимателем и недавно назначенным исполнительным директором некоммерческой организации ControlAI в США. Организация выступает за более радикальный подход к безопасности ИИ — полный запрет компаниям на разработку суперинтеллекта.
Почему одного контроля уже недостаточно
Лихи объясняет, почему считает, что риски, связанные со всё более мощными системами ИИ, стали слишком велики, чтобы управлять ими только методами согласования (alignment) и сдерживания (containment). По его словам, идея, которая ещё полгода назад казалась нереалистичной — полный запрет на разработку суперинтеллекта, — сейчас получает поддержку благодаря волне новых законодательных инициатив.
В центре разговора — вопрос о том, что произойдёт, если люди утратят возможность надёжно контролировать системы ИИ, превосходящие человеческие способности. Эта тема приобрела особую актуальность на фоне недавних инцидентов с безопасностью в отрасли.
Эпизод выходит в рамках флагманского подкаста TechCrunch Equity, доступного на YouTube, Apple Podcasts, Overcast, Spotify и других платформах.
