Администрация Трампа создала рабочую группу по угрозам, связанным с искусственным интеллектом

Администрация Дональда Трампа предоставила новой рабочей группе «Super Intelligence Force» широкие полномочия определять, как технологическому сектору и федеральному правительству следует реагировать на угрозы национальной безопасности и гражданским свободам, создаваемые быстрым развитием искусственного интеллекта (ИИ). Об этом говорится в уставе группы, который получило издание POLITICO; подлинность документа подтвердили три человека, знакомых с обсуждениями, пожелавшие остаться анонимными. Первой подробности устава опубликовала The Wall Street Journal.

Задачи

Группа должна определить меры, которые повысят способность и правительства, и частного сектора готовиться к угрозам для страны и американцев и реагировать на них. Она также подготовит доклад о рисках ИИ, уделив особое внимание потенциальным угрозам гражданским свободам, кибербезопасности, стандартам для продвинутых моделей и последствиям возможного избыточного регулирования.

Работа затронет финансовые услуги, энергетическую инфраструктуру, транспорт, сельское хозяйство и экстренные службы. В уставе как особо рискованные выделены биобезопасность и угрозы водоснабжению. Группа также изучит действующие механизмы, с помощью которых лаборатории ИИ сообщают правительству о нарушениях безопасности, взломах и обходе ограничений моделей, и предложит, как улучшить реакцию властей.

Руководство и состав

Группу возглавит директор национальной разведки Джей Клейтон в рамках своей новой роли ответственного за ИИ в администрации. Заместителями станут замминистра обороны Эмиль Майкл, глава Управления кадров Скотт Купор и председатель Федеральной торговой комиссии Эндрю Фергюсон. В работе примут участие представители федеральных ведомств, в частности АНБ и Министерства здравоохранения и социальных служб. Тесно вовлечены будут вице-президент Джей Ди Вэнс и руководитель аппарата Сьюзи Уайлс. Советы дадут бывший госсекретарь Кондолиза Райс и бывший советник по ИИ Дэвид Сакс — по национальной безопасности и технологиям соответственно.

Группа будет работать 120 дней, однако Уайлс может продлить её деятельность или передать задачи другому ведомству.

Контекст

В документе ИИ назван и усилителем, и катализатором рисков и возможностей, но ответственность за риски в конечном счёте возложена на лаборатории, разрабатывающие передовые модели. Роль федерального правительства — понимать этот период перемен и обеспечивать соблюдение законов.

Создание группы стало неожиданностью и для Кремниевой долины, и для Капитолия. Оно происходит на фоне того, как Anthropic и OpenAI сообщили об инцидентах кибербезопасности, связанных с новыми моделями с продвинутыми хакерскими возможностями, а часть лидеров отрасли и законодателей призывает замедлить развитие технологии.