Рекомендации по использованию данных, конфиденциальности и безопасности для расширения Microsoft 365 Copilot

При расширении Microsoft 365 Copilot агентами запросы, основанные на запросах, журнале бесед и данных Microsoft 365, могут быть переданы агенту для создания ответа или выполнения команды. При расширении Microsoft 365 Copilot с помощью соединителей Microsoft 365 Copilot внешние данные будут приниматься в Microsoft Graph и остаются в клиенте. В этой статье описываются вопросы конфиденциальности и безопасности данных для разработки различных решений расширения Copilot как внутри компании, так и в качестве коммерческого разработчика.

Основные рекомендации по разработке расширяемости Copilot: корпоративная безопасность и доверие, ответственный ИИ, высококачественный пользовательский интерфейс, высокоценные функциональные возможности

Агенты и действия

Агенты в Microsoft 365 Copilot индивидуально регулируются условиями использования и политиками конфиденциальности. Как разработчик агентов и действий (подключаемых модулей API), вы несете ответственность за защиту данных клиента в пределах вашей службы и предоставление сведений о ваших политиках в отношении персональных данных пользователей. Затем администраторы и пользователи могут просмотреть вашу политику конфиденциальности и условия использования в магазине приложений, прежде чем добавлять или использовать агент.

При интеграции бизнес-рабочих процессов в качестве агентов для Copilot внешние данные остаются в приложении; он не попадает в Microsoft Graph и не используется для обучения Microsoft 365 Copilot LLM. Однако Copilot создает поисковый запрос для отправки агенту от имени пользователя на основе его запросов и журнала бесед с Copilot и данных, к которым у пользователя есть доступ в Microsoft 365. Дополнительные сведения см. в разделе Данные, сохраненные о взаимодействии пользователей с Microsoft 365 Copilot документации Microsoft 365 Copilot администратора.

Обеспечение безопасной реализации декларативных агентов в Microsoft 365

Клиенты и партнеры Microsoft 365 могут создавать декларативные агенты, которые расширяют Microsoft 365 Copilot с помощью специальных инструкций, базовых знаний и действий, вызываемых с помощью описаний REST API, настроенных декларативным агентом. Во время выполнения Microsoft 365 Copilot причины для сочетания запроса пользователя, пользовательских инструкций, которые являются частью декларативного агента, и данных, предоставляемых пользовательскими действиями. Все эти данные могут повлиять на поведение системы, и такая обработка сопряжена с рисками безопасности. В частности, если пользовательское действие может предоставить данные из ненадежных источников (например, электронных писем или запросов в службу поддержки), злоумышленник может создать полезные данные сообщения, которые заставляют агент вести себя так, как злоумышленник управляет, например неправильно отвечать на вопросы или даже вызывать пользовательские действия. Корпорация Майкрософт принимает множество мер для предотвращения таких атак. Кроме того, организации должны включать только декларативные агенты, которые используют доверенные источники знаний и подключаются к доверенным REST API с помощью пользовательских действий. Если необходимо использовать ненадежные источники данных, спроектируйте декларативный агент с учетом возможности нарушения безопасности и не дайте ему возможность выполнять конфиденциальные операции без тщательного вмешательства человека.

Microsoft 365 предоставляет организациям широкие средства управления, которые определяют, кто может приобретать и использовать интегрированные приложения, а также какие приложения включены для групп или отдельных пользователей в клиенте Microsoft 365, включая приложения, использующие декларативные агенты. Такие инструменты, как Copilot Studio, которые позволяют пользователям создавать собственные декларативные агенты, также включают в себя расширенные элементы управления, которые позволяют администраторам управлять коннекторами, используемыми для знаний и для настраиваемых действий.

соединители Microsoft 365 Copilot

Microsoft 365 Copilot представляет только те данные, к которым каждый пользователь может получить доступ, используя те же базовые элементы управления для доступа к данным, которые используются в других службах Microsoft 365. Microsoft Graph учитывает границу доступа на основе удостоверений пользователей, чтобы процесс Microsoft 365 Copilot заземления предоставлял доступ только к содержимому, доступ к которому имеет текущий пользователь. Это также касается внешних данных в Microsoft Graph, полученных из соединителя Microsoft 365 Copilot.

При подключении внешних данных к Microsoft 365 Copilot с помощью соединителя Microsoft 365 Copilot данные передаются в Microsoft Graph. Вы можете управлять разрешениями на просмотр внешних элементов, связывая список управления доступом (ACL) с Microsoft Entra идентификатором пользователя и группы или внешней группой.

Запросы, ответы и данные, доступные через Microsoft Graph, не используются для обучения базовых LLM, в том числе используемых Microsoft 365 Copilot.

Рекомендации для бизнес-разработчиков

Microsoft 365 Copilot предоставляет общий доступ к данным и выполняет поиск в агентах или соединителях, которые включены для Copilot администратором Microsoft 365. Как бизнес-разработчик решений для расширяемости Copilot убедитесь, что вы и ваш администратор знакомы с:

Рекомендации для независимых издателей программного обеспечения

Для отправки пакета приложения в Microsoft Partner Center Microsoft 365 и программу Copilot требуется соблюдение политик сертификации для принятия в магазины продуктов Microsoft 365. Политики и рекомендации по сертификации Майкрософт, касающиеся конфиденциальности, безопасности и ответственного ИИ, включают в себя:

Связанные материалы

  • Last updated on