Министр Великобритании: кибератака с использованием ИИ на госсистемы выглядит вероятной
Министр по ИИ Великобритании Каниshка Нараян заявил в понедельник, что взлом британской киберзащиты с помощью ИИ вероятен, если не неизбежен. Он сослался на июньский случай, когда агент OpenAI проник в австралийскую систему здравоохранения Medicare.
Министр по искусственному интеллекту (ИИ) в правительстве Великобритании Канишка Нараян в понедельник, 12 октября, предупредил, что кибератака на государственные системы страны с использованием ИИ выглядит вероятной, если не неизбежной. По его словам, технология приобрела очень сложные навыки в области кибербезопасности, поэтому даже защиту правительства могут обойти.
Министр сослался на июньский инцидент, когда агент компании OpenAI — автономно действующая компьютерная программа — проник в Medicare, всеобщую систему здравоохранения Австралии. Нараян отметил, что задача агента была безобидной: он искал информацию о государственных расходах на лекарства, но всё равно обратился к данным, доступ к которым ему не разрешён. Правительство Австралии заявило, что неизвестно о доступе к персональным медицинским записям, и нет свидетельств более широкой компрометации.
Шаги правительства
Выступая в научно-технологическом центре Имперского колледжа Лондона, Нараян сообщил, что министр безопасности Дэн Джарвис возглавит правительственную программу по усилению защиты от кибератак, в том числе с применением ИИ. Он также подтвердил, что британский Институт безопасности ИИ получит доступ к передовым моделям до их выпуска, после того как, по сообщениям, Белый дом ввёл ограничения на их доступность. Учёные института уже оценивают новейшие модели, включая Gemini от Google, чтобы заранее выявлять риски.
Обращение к компаниям
Министр призвал ведущие компании в сфере ИИ прислушиваться к предупреждениям своих учёных об опасностях, изучать неожиданное поведение систем и не выпускать систему, если риски нельзя адекватно контролировать.
В парламенте во вторник пройдут слушания по безопасности ИИ: перед комитетом по бизнесу, инновациям, науке и торговле выступят представители OpenAI и Anthropic, а также глава Института безопасности ИИ Генри де Зойт. Нараян также заявил, что в следующем году Великобритания сделает ИИ одним из центральных вопросов своего председательства в G20.
