Поддержанное Трампом соглашение о безопасности ИИ опирается на саморегулирование отрасли
Президент США Дональд Трамп подписал с руководителями крупных ИИ-компаний соглашение о безопасности, которое во многом оставляет контроль за соблюдением стандартов самим компаниям. Критики сравнивают это с десятилетиями сопротивления автопрома обязательным ремням безопасности до вмешательства федерального регулирования.
На этой неделе руководители крупнейших ИИ-компаний собрались в Белом доме вместе с президентом Дональдом Трампом, чтобы подписать новое соглашение о безопасности искусственного интеллекта. На практике документ оставляет значительную часть ответственности за соблюдение стандартов безопасности самим ИИ-лабораториям. Сам Трамп обозначил подход предельно просто, заявив, что компании будут «сами себя контролировать» и что «всё получится очень хорошо».
Историческая параллель
Автор проводит параллель с американской автомобильной отраслью 1960-х годов. В 1966 году на дорогах США погибли почти 51 000 человек, и уже тогда было понятно, что ремни безопасности могли бы спасти многие жизни. Автопроизводители не стали внедрять их добровольно — перемены начались только после того, как Конгресс создал Министерство транспорта и принял законы, обязывающие соблюдать стандарты безопасности. К 1968 году ремни безопасности стали обязательными во всех новых автомобилях, и с тех пор число жертв ДТП значительно снизилось, несмотря на резкий рост интенсивности движения.
Разделённые мнения
Некоторые представители ИИ-индустрии, включая Билла Гейтса, публично предупреждают о рисках, связанных с развитием ИИ, и призывают к чётким правилам. Трамп же считает, что существующих правоохранительных органов, таких как Министерство юстиции и ФБР, достаточно для надзора за отраслью. В статье отмечается, что до сих пор неясно, можно ли вообще привлечь ИИ-компании к юридической ответственности, если их модели причиняют вред.
В качестве примера возможных последствий автор приводит недавнее сообщение о том, что американские военные якобы едва не предприняли попытку досмотра китайского судна после того, как ложный отчёт, сгенерированный ИИ, указал на наличие на борту ядерных материалов. По мнению автора, в отличие от ремней безопасности, для рисков, связанных с ИИ, пока не существует простого и немедленного решения. Но нынешний подход — доверить регулирование самой отрасли — оставляет открытым вопрос о том, как предотвратить подобные инциденты в будущем.
