Защита агентов ИИ в Windows

По мере того как агенты на основе ИИ становятся неотъемлемой частью работы и создания, Windows стремится сделать эти возможности более продуктивными и безопасными для частных лиц и предприятий. Недавно мы объявили, что каждый компьютер Windows 11 компьютером ИИ, который делает мощный ИИ простым на Windows 11. Одним из новых возможностей, которые мы представили, является экспериментальная функция под названием Copilot Actions. Copilot Actions на Windows 11 основывается на нашем объявлении в мае, где мы объявили Copilot Actions в Интернете, позволяя Copilot предпринять реальные действия от вашего имени, как бронирование столика в вашем любимом ресторане или заказ продуктов.

В ближайшее время для участников программы предварительной оценки Windows в Copilot Labs мы просматриваем экспериментальный режим действий Copilot, чтобы выйти за пределы браузера, чтобы выполнять действия непосредственно с локальными файлами в Windows.

Что такое Copilot Actions?

Copilot Actions — это агент ИИ , который выполняет задачи, взаимодействуя с приложениями и файлами, используя визуальное представление и расширенные рассуждения, чтобы щелкать, вводить и прокручивать, как это было бы у человека. Эта возможность преобразует агентов из пассивных помощников в активных цифровых участников совместной работы, которые могут выполнять сложные задачи для повышения эффективности и производительности, такие как обновление документов, организация файлов, резервирование билетов или отправка сообщений электронной почты. После предоставления доступа агенту при интеграции с Windows агент может воспользоваться тем, что у вас уже есть на компьютере, например приложениями и данными, для выполнения ваших задач.

Почему безопасность важна

Сегодня агентический ИИ обладает мощными возможностями. Например, он может выполнять множество сложных задач в ответ на запросы пользователей, преобразуя взаимодействие пользователей со своими компьютерами. По мере внедрения новых возможностей модели ИИ по-прежнему сталкиваются с функциональными ограничениями с точки зрения их поведения. Иногда они могут быть неверными и создавать непредвиденные выходные данные. Кроме того, агентские приложения ИИ представляют новые угрозы безопасности, такие как внедрение через несколько запросов (XPIA), когда вредоносное содержимое, внедренное в элементы пользовательского интерфейса или документы, может переопределять инструкции агента, что приводит к непреднамеренным действиям, таким как кража данных или установка вредоносных программ. Дополнительные сведения см. в статье Защита протокола контекста модели: создание безопасного агентского будущего в Windows . По мере того как мы начинаем создавать агентские возможности в Windows, мы будем включать надежные средства контроля безопасности и конфиденциальности, которые позволяют клиентам уверенно изучать свой потенциал при поддержке четких рекомендаций и соответствующих мер безопасности.

Принципы агентской безопасности и конфиденциальности

Для решения проблем безопасности агентов ИИ требуется соблюдение строгого набора принципов безопасности, чтобы агенты действовали в соответствии с намерениями пользователя и охраняли свою конфиденциальную информацию. Мы устанавливаем набор устойчивых принципов безопасности и конфиденциальности, которые необходимо соблюдать для использования новых агентских возможностей в Windows:

• Отдельные учетные записи агента. Мы создаем возможность для агентов в Windows работать с выделенными учетными записями агентов, отличными от учетной записи пользователя на вашем устройстве. Эта возможность упрощает применение политики для конкретного агента, которое может отличаться от правил, применяемых к другим учетным записям, таким как для пользователей-пользователей. Вы можете предоставить доступ к файлам и другим ресурсам для этих выделенных учетных записей агентов так же, как и с другими пользователями на вашем устройстве, например с семьей или коллегами.
• Ограниченные права агента. Агент начинается с ограниченными разрешениями и получает доступ только к ресурсам, на которые вы явно предоставляете разрешение, например к локальным файлам. Существует четко определенная граница для действий агента, и он не может вносить изменения в ваше устройство без вашего вмешательства. Этот доступ можно отозвать в любое время.
• Операционное доверие. Агенты, которые интегрируются с Windows, должны быть подписаны доверенным источником, чтобы агенты, которые злонамеренно или плохо повели себя, могли быть отозваны и заблокированы с помощью ряда углубленных мер защиты, таких как проверка сертификатов и антивирусная программа.
• Конструкция с сохранением конфиденциальности. Windows предназначена для того, чтобы помочь агентам соблюдать обязательства Корпорации Майкрософт, изложенные в Заявлении о конфиденциальности Майкрософт и ответственном Standard ИИ. Windows поддерживает агенты в сборе и обработке данных только для четко определенных целей, обеспечивая прозрачность и доверие. Дополнительные сведения о наших обязательствах по ответственному продвижению ИИ при обеспечении конфиденциальности и других основных прав см. в отчете о конфиденциальности Майкрософт .

Разработка агентов и обеспечение безопасности, связанных с ИИ, по-прежнему является быстро движущейся областью исследований с активным участием корпорации Майкрософт в партнерстве с более широким сообществом по безопасности. В рамках инициативы Майкрософт по обеспечению безопасности в будущем помощь пользователям, компаниям и разработчикам в решении этих проблем является нашим главным приоритетом, так как люди начинают взаимодействовать с агентами в рамках своих ежедневных рабочих процессов.

Элементы управления безопасностью

Copilot Actions практикует наши принципы безопасности и конфиденциальности. Мы постоянно изучаем и совершенствуем наш подход по мере сбора реальных отзывов из предварительной версии, когда она станет доступной. Мы добавили четыре новых стандартных блока в Windows 11 для поддержки этого исследования. В течение периода предварительной версии мы продолжаем добавлять более детализированные элементы управления безопасностью и конфиденциальностью, прежде чем сделать эти функции широко доступными:

• Пользовательский элемент управления. Действия Copilot отключены по умолчанию и включены только в том случае, если пользователь переключается на следующий параметр Windows в разделе Параметры КомпонентыИИ>Средства>агента>Экспериментальные>агентские функции.
• Учетные записи агента. Отдельная стандартная учетная запись на устройстве, которую агенты используют при действиях от вашего имени, включая авторизацию на уровне агента и управление доступом.
• Рабочая область агента. Автономная среда, в которой агенты могут работать параллельно с пользователем, обеспечивая изоляцию среды выполнения и детализированные разрешения. Эта среда предоставляет агенту такие возможности, как его собственный рабочий стол, ограничивая видимость и доступ агента к действиям на рабочем столе пользователя. Рабочая область агента основана на признанных границах безопасности, которые корпорация Майкрософт защищает в соответствии с нашими давними критериями обслуживания безопасности. Дополнительные сведения о рабочих областях агента см. в разделе Экспериментальные функции агента — Дополнительные сведения.
• Прозрачность пользователей. Способ авторизации, мониторинга и контроля действий агента в рабочей области агента.

В ближайшее время появится больше стандартных блоков, таких как поддержка Microsoft Entra и удостоверений MSA.

Приложения и действия, управляемые Copilot Actions, выполняются под учетной записью агента, а не под учетной записью пользователя компьютера, выполнившего вход. Это различие четко отделяет работу, выполняемую агентом, от других действий в системе, таких как те, которые выполняются пользователем компьютера. Учетные записи агента подготавливаются только тогда, когда пользователи включают рабочую область агента.

Во время экспериментальной предварительной версии Copilot Actions агент имеет доступ к ограниченному набору локальных известных папок пользователя, таких как "Документы", "Загрузки", "Рабочий стол" или "Рисунки", а также к другим ресурсам, доступным для всех учетных записей в системе. Copilot Actions может получить доступ к данным за пределами этих папок, только если пользователь предоставляет авторизацию. Standard механизмы безопасности Windows, такие как списки управления доступом (ACL), помогают предотвратить несанкционированное использование.

Пока Copilot Actions работает, пользователи могут отслеживать ход выполнения, быть в курсе на каждом шаге и контролировать в любое время. При принятии конфиденциальных действий или важных решений Copilot Actions может запросить дополнительное утверждение пользователя для выполнения этих конкретных действий, обеспечивая их согласие и ставя их во главу до того, как произойдет что-либо критическое.

Заглядывая в будущее

Безопасность — это постоянное обязательство. По мере расширения агентских возможностей в Windows мы продолжаем развивать нашу защиту. В предстоящем предварительном выпуске Copilot Actions для участников программы предварительной оценки Windows в Copilot Labs мы с нетерпением ждем получения ценных отзывов, которые помогут нам в дальнейшем сформировать опыт перед более широким выпуском. Кроме того, платформа Windows и ее элементы управления безопасностью будут доступны другим разработчикам в предварительной версии в ближайшее время для тестирования и предоставления входных данных.

Windows 11 является самой безопасной версией Windows, когда-либо созданной. По мере того как мы вступаем в эту новую агентскую эру, наше обязательство ясно: Windows станет наиболее безопасной, надежной и ориентированной на пользователя платформой для агентских вычислений.