Microsoft представила Copilot как операционную систему для работы и ввела контроль над ИИ-агентами
Глава Microsoft Сатья Наделла заявил, что ИИ-агентам нельзя доверять самоконтроль, поэтому компания вводит идентификаторы агентов, ограничение прав и журналы действий. Вместе с более чем 40 компаниями начата работа над стандартами управления ИИ.

Генеральный директор Microsoft Сатья Наделла на основном докладе конференции Ignite представил Copilot Workspaces — совместную среду, где вместе работают люди и агенты искусственного интеллекта. Компания также пообещала новые средства контроля над агентами и объявила об инициативе по стандартам безопасности ИИ, что важно для бизнеса, решающего, насколько широко допускать агентов к работе.
Общее рабочее пространство
Copilot Workspaces сейчас доступна в рамках программы раннего доступа Microsoft Frontier. Вскоре в неё можно будет добавлять личных агентов Autopilot. По словам Наделлы, до сих пор взаимодействие с ИИ в основном было одиночным, а Workspaces делает его многопользовательским: люди и агенты движутся к общей цели с общим контекстом.
Вопрос доверия
Доверие — третья опора новой экосистемы Frontier от Microsoft. Наделла признал, что внутренняя работа этих моделей по-прежнему трудно поддаётся пониманию, а на вопрос, как можно доверять такой технологии, ответил, что по определению — нельзя. Решением он назвал архитектурную необходимость отделить предоставление интеллекта от полномочий, которые ему даются.
На практике у каждого агента Autopilot будет уникальный идентификатор, а администраторы смогут ограничивать его права или полностью блокировать. Все действия агентов будут записываться для проверки человеком, а перед некоторыми операциями Autopilot сможет запрашивать одобрение человека.
Иными словами, Microsoft не стремится сделать агентов надёжными, а контролирует, что им разрешено делать. Компаниям предстоит решить, какую степень автономии делегировать. Эффективность этих мер против ошибок, несанкционированных действий и утечек данных ещё предстоит доказать.
Инициатива по прозрачности ИИ
Microsoft также объявила об «AI Transparency Initiative», в которой участвуют более 40 крупных компаний, включая Adobe и Mastercard. Цель — разработать открытые отраслевые стандарты управления и безопасности ИИ. Наделла назвал это способом помочь создать открытый стандарт, делающий ИИ безопаснее, прозрачнее и доступнее.


