Примечание.
Для доступа к этой странице требуется авторизация. Вы можете попробовать войти или изменить каталоги.
Для доступа к этой странице требуется авторизация. Вы можете попробовать изменить каталоги.
По мере того как платформы no code/Low code становятся все более доступными, организации сталкиваются с новыми типами рисков безопасности. Эти платформы позволяют нетехнических пользователей создавать и развертывать пользовательские агенты без централизованной проверки безопасности или элементов управления. Злоумышленники могут попытаться управлять этими агентами, выполнив следующие действия:
- Внедрение вредоносных запросов
- Активация непреднамеренных выполнений инструментов
- Использование источников данных для повышения привилегий или эксфильтрации данных.
Функции защиты агента ИИ
Microsoft Defender устраняет критические пробелы в безопасности с помощью комплексной защиты агента ИИ, которая включает в себя упреждающее воздействие, охоту на угрозы, защиту в режиме реального времени и оповещения. Благодаря защите агента ИИ Microsoft Defender:
- Обнаруживает все пользовательские агенты ИИ, созданные с помощью Microsoft Copilot Studio, и интегрирует их данные в расширенную охоту для упреждающего обнаружения угроз. Эти данные можно использовать для создания пользовательских запросов и поиска потенциальных угроз. Сведения о настройке и использовании инвентаризации агентов ИИ см. в Copilot Studio инвентаризации агентов ИИ (предварительная версия).
- Собирает журналы аудита для пользовательских агентов ИИ, созданных с помощью Copilot Studio, постоянно отслеживает подозрительные действия агентов и включает обнаружение и оповещения. Чтобы включить этот мониторинг, убедитесь, что:
- Обеспечивает защиту в режиме реального времени для блокировки подозрительных или вредоносных действий, инициированных агентами ИИ, и активирует информативные оповещения, интегрированные в среду инцидентов и оповещений XDR. Сведения о настройке защиты в режиме реального времени см. в статье Включение защиты в режиме реального времени для агентов Microsoft Copilot Studio.