Президент Microsoft: Великобритания лучше всех подходит для лидерства в регулировании ИИ

Президент Microsoft Брэд Смит (Brad Smith), руководитель одной из крупнейших технологических компаний США, в подкасте BBC призвал срочно регулировать искусственный интеллект (ИИ). По его словам, «момент настал» для введения глобальных правил безопасности, а возглавить этот процесс лучше всего способна Великобритания, а не США или Европейский союз. Вопрос важен, поскольку надзор за разработчиками ИИ остаётся слабым, а технология создаёт риски для кибербезопасности.

Смит отметил, что за повседневными товарами, такими как молоко и стиральные машины, надзор строже, чем за компаниями, создающими ИИ. Он назвал ИИ одновременно «оружием и инструментом», ставящим под угрозу мировую кибербезопасность.

Роль британского института

Британский Институт безопасности ИИ (AISI), запущенный в 2023 году, получает доступ к крупнейшим моделям ведущих американских лабораторий до их выпуска и быстро стал одним из лидеров в тестировании безопасности ИИ. В последние недели эта роль оказалась под угрозой: президент США Дональд Трамп предостерёг от «глобалистских» организаций, которые, по его утверждению, мешают американским компаниям. В прошлом месяце он, как сообщается, просил Anthropic и OpenAI не передавать новые модели британским тестировщикам. В понедельник AISI подтвердил, что может получать доступ к новейшим моделям и тестировать их.

Смит считает, что Великобритания может регулировать ИИ так, как не может США: в Вашингтоне на Лондон смотрят иначе, чем на Брюссель, и «это сильная сторона».

Почему добровольных мер недостаточно

Заявления Смита прозвучали на фоне призывов технологических лидеров, включая главу Anthropic Дарио Амодеи и главу OpenAI Сэма Альтмана, замедлить развитие ИИ после нескольких случаев, когда ИИ-агенты вышли из-под контроля. В прошлом месяце Трамп собрал в Белом доме руководителей компаний, среди которых OpenAI, Anthropic, Nvidia, AMD, SpaceX, Meta и Google. Они подписали «морально обязывающий» документ, согласившись сотрудничать с «независимыми аудиторами» для оценки безопасности и возможностей своих моделей. Смит назвал это «хорошим шагом», но отметил, что документ не дотягивает до необходимого регулирования. Правилам последуют «хорошие компании», сказал он, а тревогу вызывают менее ответственные.

Он хотел бы ввести юридическую обязанность уведомлять организацию, если в её систему проникли вышедшие из-под контроля ИИ-агенты. Он также, судя по всему, поддерживает одобрение внешних оценщиков перед выпуском ИИ-продукта и положительно отозвался об «аварийных выключателях», позволяющих приостановить или замедлить ИИ, если люди потеряют над ним контроль.