Красный Крест предупреждает: регулировать автономное оружие скоро будет поздно
Международный комитет Красного Креста и правозащитники заявляют, что разработка автономного оружия опережает попытки его регулировать. Договорённость обсуждать документ в течение двух лет на конференции ООН в Женеве сочли недостаточной.

Международный комитет Красного Креста (МККК) и правозащитные организации предупредили, что вскоре будет слишком поздно регулировать автономное оружие, поскольку его разработка, судя по всему, идёт быстрее, чем усилия по её ограничению. Предупреждение прозвучало по итогам недельной конференции государств — участников Конвенции ООН о запрещении или ограничении применения конкретных видов обычного оружия, которая завершилась в Женеве; в ней участвовали более 120 стран. Автономное оружие — это военные системы, действующие без контроля человека, часто с использованием искусственного интеллекта или иной робототехники.
Участники договорились в течение двух лет обсуждать документ о регулировании такого оружия. Правозащитники считают, что этого недостаточно для срочных мер.
Требование чётких запретов
Директор МККК по международному праву, движению и партнёрству Кордула Дрёге (Cordula Droege) заявила, что ИИ уже применяется на поле боя и, возможно, в системах вооружений. Без регулирования ограничить его позже будет гораздо сложнее. По её словам, цель не в запрете всех автономных систем, а в закреплении в международном договоре красных линий; нацеливание на людей с помощью машин, по её мнению, должно стать моральной красной линией.
Президент МККК Мирьяна Сполъярич Эггер и генеральный секретарь ООН Антониу Гутерриш призвали принять юридически обязывающий документ с чёткими запретами и ограничениями. МККК, в частности, требует запретить применение автономного оружия против людей.
Уже есть жертвы среди мирных жителей
В источнике приводятся несколько случаев. В июле российский дрон, управляемый системой ИИ, убил трёх мирных жителей в Запорожье на юго-востоке Украины: он пытался поразить заправочную станцию, но врезался в стену. В Газе Израиль использует методы наведения с помощью ИИ для пополнения списков целей, и, как утверждают правозащитники, из-за этого ошибочно гибли гражданские. В Иране удар США по начальной школе унёс жизни 156 мирных жителей, включая 120 школьников; сообщается, что он стал результатом ошибочных разведданных, собранных системами ИИ.
Анна Хехир, руководитель направления управления военным ИИ в Future of Life Institute, сказала, что производители и армии пытаются создать возможности «роя», когда одновременно действуют сотни или тысячи автономных дронов. По её мнению, одна алгоритмическая ошибка может увести за собой весь рой. Существует и риск распространения: негосударственные группы всё чаще используют ИИ, например йеменское движение хуситов.
Старший дипломат, знакомый с переговорами в ООН, отметил, что спустя 13 лет главный вопрос — появилась ли наконец политическая воля всерьёз взяться за регулирование.


