Планирование данных, конфиденциальности и безопасности

Воспользуйтесь этой статьей при планировании подключаемого модуля. Определите применимые требования сейчас и подтвердите реализацию для конкретного компонента после выбора возможностей и средств разработки.

Схема: основные моменты разработки расширяемости Copilot: корпоративная безопасность и доверие, ответственный ИИ, высококачественное взаимодействие с пользователями, ценные функции

Сопоставление данных и потоков действий

Задокументируйте, как информация входит, перемещается и покидает решение. Включайте запросы, журнал бесед, данные Microsoft 365, данные внешней организации, сгенерированное содержимое, действия, журналы и данные поддержки.

Потенциальный компонент Вопросы планирования
Агент Какие инструкции, знания, контекст беседы, действия и внешние службы может использовать агент?
Навык От каких инструкций, шагов рабочего процесса, входов, выходов и разрешений узла зависит навык?
Соединитель Copilot Синхронизируются ли внешние данные с Microsoft Graph или извлекаются через федеративное подключение? Как обеспечивается доступ к каждому элементу?
Возможность на основе MCP Какие средства и ресурсы предоставляет удаленный сервер? Какие данные отправляются на него и где работает сервер?
API или внешняя служба Какие операции, учетные данные, данные клиентов, журналы и поставщики услуг задействованы?

Обеспечение безопасной реализации декларативных агентов в Microsoft 365

Клиенты и партнеры Microsoft 365 могут создавать декларативные агенты, расширяющие Microsoft 365 Copilot с помощью настраиваемых инструкций, знаний о заземлении и действий, вызываемых через описания REST API, настроенные декларативным агентом. Во время выполнения Microsoft 365 Copilot анализирует сочетание запроса пользователя, пользовательских инструкций, которые являются частью декларативного агента, и данных, предоставленных пользовательскими действиями. Все эти данные могут повлиять на поведение системы, и такая обработка сопряжена с рисками безопасности. В частности, если пользовательское действие может получить данные из ненадежных источников (например, электронной почты или запросов в службу поддержки), злоумышленник может создать полезную нагрузку сообщения, заставляющую вашего агента вести себя так, как он контролирует, например неправильно отвечать на вопросы или даже вызывать пользовательские действия. Корпорация Майкрософт принимает множество мер для предотвращения таких атак. Кроме того, организациям следует включать только декларативные агенты, которые используют надежные источники знаний и подключаются к доверенным REST API с помощью настраиваемых действий. Если необходимо использовать ненадежные источники данных, разрабатывайте декларативный агент с учетом возможности взлома и не позволяйте ему выполнять конфиденциальные операции без осторожного вмешательства человека.

Microsoft 365 предоставляет организациям расширенные средства управления, определяющие, кто может приобретать и использовать интегрированные приложения, а также какие приложения включить для групп или отдельных лиц в клиенте Microsoft 365, включая приложения, использующие декларативные агенты. Такие инструменты, как Copilot Studio, позволяющий пользователям создавать собственные декларативные агенты, также включают расширенные средства управления, позволяющие администраторам управлять соединителями, используемыми как для знаний, так и для пользовательских действий.

Для каждого потока запишите владельца данных, источник, место назначения, расположение, классификацию, хранение, удаление, шифрование, доступность и поведение сбоев.

Планирование удостоверений, проверки подлинности и разрешений

Определите:

  • Идентификаторы пользователя, приложения, пакета, издателя, службы и администратора.
  • Обязательные регистрации, разрешения, области действия и согласие Microsoft Entra.
  • Требования к проверке подлинности и подключению для внешних служб и удаленных серверов MCP.
  • Осуществляется ли доступ делегированным, на основе приложений, межсервисным или комбинацией доступ.
  • Хранение и ротация секретных данных, сертификатов, маркеров, ключей и сведений о подключениях.
  • Поведение решения при сбое проверки подлинности, авторизации или подключения.

Примените минимальные привилегии к каждому компоненту и зависимости. Подключаемый модуль не предоставляет пользователю доступ к данным, доступ к которым у пользователя или компонента не был бы авторизован.

Планирование защиты данных и соответствия требованиям

Рецензия:

  • Сбор, использование, хранение, передача, хранение, экспорт и удаление данных.
  • Существующие разрешения Microsoft 365, метки конфиденциальности, механизмы предотвращения потери данных, хранения, обнаружения электронных данных, аудита и элементы управления соответствием требованиям.
  • Данные и запросы, отправляемые во внешние службы, API, соединители и серверы MCP.
  • Региональные, отраслевые, договорные, организационные требования и требования клиентов.
  • Уведомления о конфиденциальности, условия использования, сведения о поддержке и сторонние поставщики услуг.
  • Данные мониторинга и аудита, необходимые для изучения доступа и действий.

Microsoft Graph и службы Microsoft 365 применяют применимые границы доступа на основе удостоверений к данным, хранящимся в этих службах. Внешние службы по-прежнему несут ответственность за соблюдение собственных требований к удостоверениям, разрешениям, конфиденциальности и соответствию требованиям.

Сведения о конфиденциальности Microsoft 365 Copilot см. в разделе "Данные, конфиденциальность и безопасность для Microsoft 365 Copilot". Сведения о планировании модели "Никому не доверяй" см. в статье "Никому не доверяй" для Microsoft 365 Copilot.

Планирование последовательных действий и ответственное применение ИИ

Определите операции, которые создают, изменяют, отправляют, утверждают, покупают, удаляют или раскрывают информацию. Для каждого последующего действия определите:

  • Разрешенные пользователи и условия.
  • Валидация и проверка авторизации.
  • Требования к подтверждению и надзору за людьми.
  • Безопасный сбой, повторная попытка, отмена и восстановление.
  • Критерии оценки точности, качества, безопасности и неправильного использования.
  • Процедуры мониторинга, реагирования на инциденты, эскалации и приостановки.

Дополнительные сведения см. в статье "Проверка ответственного применения ИИ и приверженность Майкрософт ответственному применению ИИ".

Управление и административные элементы управления для общего доступа к подключаемым модулям

Во время планирования определите результаты, необходимые администраторам и владельцам служб.

  • Просмотрите подключаемый модуль, издателя, запрашиваемый доступ, источники данных, действия и внешние службы.
  • Утверждение и отклонение запросов на приобретение, публикацию, общий доступ или развертывание.
  • Назначение доступности для пользователей и групп.
  • Настройка необходимых подключений, разрешений, согласия и политик организации.
  • Отслеживайте информацию об инвентаризации, активности, отчетах, потреблении и аудите.
  • Ограничение, блокировка, удаление или отмена доступа при изменении требований.

Доступные элементы управления и поверхности администрирования зависят от компонента и интерфейса Майкрософт. При планировании определите требуемые результаты управления. Выберите поддерживаемую модель пакета и администрирования позже и следуйте инструкциям в разделе "Управление доступом и подключениями плагинов ".

Планирование предполагаемой области распространения

Для организации или бизнес-решения привлеките администраторов и владельцев безопасности, которые управляют Microsoft 365, Microsoft Entra, Microsoft Purview, Power Platform, внешними службами и целевым интерфейсом Microsoft.

Для общедоступного или многопользовательского решения спланируйте заявление о конфиденциальности для клиентов, условия использования, удостоверение издателя, согласие клиента, модель поддержки, реагирование на угрозы безопасности и требования к сертификации. Текущие требования к общедоступному распространению см. в разделе:

Выполняйте эти требования

При планировании отслеживайте следующее:

  • Потоки данных и действий.
  • Удостоверения, разрешения, согласие и подключения.
  • Границы доверия и внешние зависимости.
  • Требования к конфиденциальности, безопасности, соответствию и ответственному применению ИИ.
  • Результаты управления и владельцы жизненного цикла.
  • Нерешенные требования, зависящие от выбранных компонентов или инструментов.

Используйте эти требования при выборе возможностей для подключаемого модуля и средств разработки. После внедрения подтвердите их с помощью проверки подключаемого модуля и применимого руководства по безопасности и администрированию для конкретного продукта.

Следующий этап