Ошибка ИИ едва не привела к удару США по китайскому судну
Ошибочная, частично созданная с помощью ИИ разведывательная оценка едва не спровоцировала военный удар США по китайскому судну на Ближнем Востоке, сообщает CNN со ссылкой на источник, назвавший инцидент почти началом войны.
Телеканал CNN со ссылкой на источники сообщает, что ложная разведывательная оценка, подготовленная с помощью ИИ-чатбота, едва не привела к нападению американских военных на китайское судно на Ближнем Востоке. В отчёте ошибочно утверждалось, что судно перевозит компоненты для программы создания ядерного оружия.
По словам источника CNN, инцидент "чуть не привёл к войне", что подчёркивает риски внедрения ИИ в чувствительные операции Министерства обороны США. Engadget обратился в министерство за комментарием по поводу материала CNN, но на момент публикации ответа не получил.
Как произошла ошибка
Оценку подготовил аналитик командования специальных операций, который запросил у ИИ-чатбота информацию о грузовом манифесте китайского судна. По данным CNN, чатбот объединил данные из открытых источников с секретной радиоэлектронной разведкой и пришёл к выводу, что судно содержит компоненты ядерной оружейной программы. Это заявление едва не заставило военных задержать судно, прежде чем чиновники выяснили, что информация была сгенерирована ИИ.
CNN не удалось установить, что судно перевозило на самом деле, а также какой именно ИИ-инструмент — коммерческий или разработанный для правительства — использовал аналитик.
Более широкое внедрение ИИ в Пентагоне
Инцидент произошёл на фоне общего курса Министерства обороны США на внедрение искусственного интеллекта. В январе министр обороны Пит Хегсет издал меморандум, предписывающий ведомству стать организацией "ИИ прежде всего" и экспериментировать с моделями ведущих американских ИИ-компаний. Сотрудничество с Anthropic не задалось: компания отказалась разрешить военным использовать свои модели для разработки автономного оружия, из-за чего была временно отстранена от сотрудничества. Тем не менее появились другие партнёрства: в феврале, по имеющимся данным, было заключено соглашение, позволяющее военным использовать Grok от SpaceX/xAI, а в мае NVIDIA, Microsoft и Amazon заключили соглашение о предоставлении своих ИИ-технологий министерству.
