США и Россия исключили этические нормы из проекта глобального договора об ИИ-оружии — СМИ
Американские и российские дипломаты совместно убрали из проекта договора ООН об автономном оружии положения о человеческом контроле и этике, сообщает The Washington Post. Эти правки ослабили планируемое глобальное регулирование смертоносного оружия с ИИ.
В начале сентября сотни дипломатов собрались в Женеве для разработки первого глобального соглашения о регулировании смертоносных автономных вооружений. По данным The Washington Post, ссылающейся на трёх осведомлённых о ходе переговоров лиц и документы, в последний день переговоров представители США и России в течение 15 часов на закрытом заседании переписывали документ, причём каждая страна привлекла примерно по 10 юристов — значительно больше, чем другие делегации.
Что было исключено
По словам источников, американские и российские дипломаты убрали формулировку, требовавшую от автономной системы работать "предсказуемым" и "надёжным" образом, и исключили пункт об обязательном учёте этических соображений при применении ИИ-оружия. Кроме того, было снято требование о том, чтобы люди проверяли определённые ИИ военные цели перед нанесением удара. Один из собеседников издания назвал процесс редактирования соглашения "смертью от тысячи мелких порезов".
Контекст
Бурные дискуссии в Женеве проходили на фоне того, что Пентагон стремится быстро внедрить ИИ в свою боевую стратегию, пока продолжаются споры об экзистенциальных рисках развитого искусственного интеллекта. Как сообщает издание, американские военные уже использовали ИИ компании Anthropic для обнаружения и нанесения ударов почти по 1000 целям в первые 24 часа конфликта с Ираном. Заместитель директора по вопросам вооружений Human Rights Watch Верити Койл предупредила, что ослабление правил приведёт к тому, что машины смогут принимать решения о жизни и смерти без контроля со стороны человека, что увеличит вред гражданскому населению и ускорит переход к более рискованной, автоматизированной войне.
В январе 2023 года Министерство обороны США обновило директиву, регулирующую использование автономных систем вооружений, которая содержала положения, схожие с теми, что позже были исключены из документа ООН, включая требование о привлечении человека к оценке таких систем. В августе 2024 года генеральный секретарь ООН Антониу Гутерреш назвал выбор целей алгоритмами "моральной чертой, которую нельзя переступать", и призвал к 2026 году заключить обязательный международный договор о полном запрете систем, действующих без контроля человека. В декабре 2024 года Генеральная Ассамблея ООН подавляющим большинством голосов приняла первую резолюцию о смертоносном автономном оружии — против выступили только Россия, Беларусь и КНДР.
