Украина открывает союзникам архив видео с поля боя для обучения ИИ-оружия
Минобороны Украины бесплатно предоставляет оборонным компаниям союзников доступ к Avengers Labs — архиву видео с поля боя, в основном с дронов. Пока соглашение достигнуто только с Британией, а в лицензии нет оговорки о правах человека.
Министерство обороны Украины открывает для оборонных компаний союзных стран платформу Avengers Labs — архив видео с поля боя, на котором обучается украинское оружие с искусственным интеллектом. Доступ бесплатный. Как сообщила в четверг, 12 ноября, газета The New York Times, пока единственное достигнутое соглашение — с Британией: первыми в очереди стоят до 12 британских компаний, а Киев ведёт переговоры с другими правительствами. Тема актуальна, поскольку на следующей неделе в Женеве должны решить, начинать ли переговоры о смертоносных автономных вооружениях.
Оплата программным обеспечением
Компании платят программным обеспечением: любая фирма, обучившая модель на архиве, обязана передать лицензию на результат украинской армии. По данным министерства, в архиве более пяти миллионов размеченных кадров, большинство получено с беспилотных систем через систему поля боя Delta. The New York Times пишет о более чем пяти миллионах видео наблюдения и ударов дронов. Министерство сообщает, что более 30 украинских компаний обучают модели на платформе, а три готовых продукта применяются в бою.
Как проходит обучение
Компании не могут просматривать или скачивать видео, которое хранится в зашифрованном виде в облачном сервисе за пределами Украины. Они запускают модели в изолированной системе, и модель с хорошими показателями по ложноположительным и ложноотрицательным срабатываниям загружается в воздушный дрон, наземный робот или морской дрон. Один руководитель анонимно рассказал, что при обучении доля ложных срабатываний была ниже 5 процентов; проверить это нельзя. Министерство заявляет, что данные анонимизированы и отложены во времени, а иностранные компании получают доступ после завершения процедур экспортного контроля.
Опасения по поводу прав человека
В лицензии нет оговорки о правах человека. Украинские чиновники говорят, что каждое правительство-получатель должно обеспечить соблюдение армией Женевских конвенций. Анна Бачарелли из Human Rights Watch заявила Times, что «чёрный ящик» затрудняет определение ответственности, когда оружие само выбирает цель. Лауреат Нобелевской премии мира Александра Матвийчук, возглавляющая Центр гражданских свобод в Киеве, призвала быть осторожными с передачей данных странам, не принявшим принцип Римского статута, и назвала США.
Конференция по рассмотрению действия Конвенции о конкретных видах обычного оружия пройдёт в Женеве с 16 по 20 ноября и решит, начинать ли переговоры о юридически обязательных правилах.
