Примечание.
Для доступа к этой странице требуется авторизация. Вы можете попробовать войти или изменить каталоги.
Для доступа к этой странице требуется авторизация. Вы можете попробовать изменить каталоги.
В этом разделе часто задаваемых вопросов о прозрачности объясняется предполагаемое использование, оценка и ограничения декларативных агентов для Microsoft 365 Copilot. В нем средства защиты платформы отличаются от проверки и мер безопасности, необходимых для вашего агента.
Что такое декларативные агенты?
Декларативные агенты настраивают Copilot с помощью инструкций, источников знаний и поддерживаемых возможностей. Определения и варианты проектирования см. в разделе Декларативные агенты для Microsoft 365 Copilot.
Что могут делать декларативные агенты?
Агенты могут отвечать на вопросы, обобщать настроенные знания и вызывать поддерживаемые действия в Microsoft 365 Copilot и поддерживаемых приложениях. Доступные возможности зависят от средства разработки, лицензирования, политик и интерфейса узла. Дополнительные сведения см. в статье Архитектура декларативного агента.
Каково предполагаемое назначение декларативных агентов?
Используйте декларативные агенты для оказания помощи определенной аудитории в выполнении определенных задач, таких как ответы на вопросы политики организации или получение сведений о заказах. Определите предполагаемый результат, границы и требования к экспертизе человеком. Не представляйте беглые ответы как доказательство компетентности или точности. Инструкции по сценарию см. в разделе Принятие решения о необходимости декларативного агента.
Доступны ли агенты декларативной фиксации для клиентов Microsoft 365 для государственных организаций?
Поддержка декларативного агента для клиентов Microsoft 365 для государственных организаций зависит от облака:
- Облако сообщества для государственных организаций (GCC): доступна полная поддержка декларативного агента.
- Облако сообщества для государственных организаций High (GCCH): поддерживаются агенты Procode, созданные с помощью набора средств агентов Microsoft 365. Построитель агентов теперь также доступен в GCCH.
- Министерство обороны (DoD): ограниченная поддержка — поддерживаются только агенты профессионального кода, созданные с помощью набора средств агентов Microsoft 365. Построитель агентов недоступен для декларативных агентов в DoD.
Как оценивались декларативные агенты? Какие показатели используются для оценки эффективности?
Перед выпуском корпорация Майкрософт тестирует возможности генерации ответов, чтобы оценить точность, обоснованность и ответственное реагирование в соответствии с человеческими предпочтениями. Тестирование ответственного применения ИИ (RAI) оценивает различные типы вреда и измеряет частоту дефектов. Результаты информируют об улучшении модели и смягчении вреда; Они не гарантируют, что каждый ответ правильный, актуальный или уместный.
Проверки RAI также применяются во время проверки манифеста агента и обработки запросов пользователей. Сведения о применимых сбоях проверок и валидации см. в статье Проверка ответственного применения ИИ. Эти проверки не заменяют оценку инструкций, знаний, действий и предполагаемых сценариев вашего агента.
Как создатели должны оценивать конкретного агента?
Определите репрезентативные тестовые случаи с ожидаемым поведением и проверяемыми утверждениями. Измеряйте точность ответов, атрибуцию источника, выполнение задач, использование инструментов и соблюдение границ агента. Включите отсутствующие сведения, ограничения доступа, неподдерживаемые запросы, отмененные действия и сбои служб.
Сравнивайте результаты по версиям и повторно запускайте тесты при изменении инструкций, источников, средств или поведения платформы. Оценка не заменяет ответственную проверку ИИ, тестирование безопасности, тестирование производительности или исследование пользователей. См. Обзор оценки агента и Тестирование и итерация.
Каковы ограничения декларативных агентов и как пользователи могут свести к минимуму эти эффекты?
Сообщите о областях и ограничениях агента и разработайте соответствующие меры безопасности:
- Неправильные или устаревшие ответы. Сгенерированные ответы могут быть неточными или неполными. Оценивайте их по исходному материалу и требуйте проверки человеком, если этого требуют последствия.
- Ограничения извлечения и контекста. Отклик может не включать все релевантное исходное содержимое. Поддерживайте актуальность знаний, следуйте требованиям к конкретным источникам, тестируйте репрезентативные вопросы и целевые хосты.
- Содержимое, не вызывающее доверия. Полученные сведения и результаты работы средства могут содержать инструкции, влияющие на агента. Защита платформы не заменяет проверку разрешений или тщательный человеческий надзор за конфиденциальными операциями.
- Внешние действия. Инструкции не заменяют авторизацию на стороне службы, проверку ввода или бизнес-правила. Настройте соответствующие подтверждения и протестируйте поведение при сбоях и повторных попытках.
Сведения о снижении рисков проекта см. в статье Рекомендации по декларативному агенту. Сведения о границах служб и разрешений см. в разделах "Плановые данные, конфиденциальность и безопасность".
Какие обязанности в отношении данных и конфиденциальности есть у разработчиков агентов?
Проверьте, к каким данным агент имеет доступ, что он отправляет внешним службам, а также применимые разрешения, заявления о конфиденциальности и условия использования. Средства защиты доступа к данным Microsoft 365 не снимают с вас ответственности за обеспечение авторизации и защиты данных во внешних API-интерфейсах и серверах MCP.
Задокументируйте соответствующие требования к потокам данных, хранению и контролю со стороны людей. Работайте с администраторами над доступом и развертыванием, используя управление доступом плагинов и подключениями, вместо того, чтобы предполагать, что совместное использование агента предоставляет доступ к его источникам данных.
Сведения об обязательствах платформы см. в статье "Данные, конфиденциальность и безопасность для Microsoft Copilot". Сведения о защите платформы см. в статье Безопасность для Microsoft Copilot.