Что такое плоскость управления Microsoft Foundry?

Плоскость управления Microsoft Foundry — это единый интерфейс управления, обеспечивающий видимость, управление и контроль для агентов, моделей и средств искусственного интеллекта в организации Foundry. План управления Foundry централизует процесс управления группой агентов ИИ, от сборки до эксплуатации.

По мере развития вашей организации от изолированных копилотов до автономных мультиагентных флотов вам требуется единое управление. Плоскость управления Foundry обеспечивает видимость, управление и контроль, необходимые для надежного масштабирования.

Эта статья предназначена для корпоративных администраторов и разработчиков ИИ, которые управляют агентами ИИ в нескольких проектах. Вы узнаете, что предлагает план управления Foundry, включая управление парком, наблюдаемость, соблюдение соответствия требованиям и возможности безопасности.

Из этой статьи вы узнаете, что предлагает план управления Foundry, включая управление парком, наблюдаемость, соблюдение соответствия требованиям и возможности безопасности.

Предпосылки

Чтобы изучить плоскость управления Foundry, вам потребуется:

• Подписка Azure. Создать бесплатно.
• Литейный проект. Дополнительные сведения см. в разделе Create project.
• Шлюз искусственного интеллекта, настроенный для расширенных функций управления.
• Соответствующие разрешения управления доступом на основе ролей (RBAC) для вашей подписки в Azure.

Когда следует использовать плоскость управления Foundry

Рассмотрите возможность использования управляющей плоскости Foundry, когда в вашей организации:

• Управляет несколькими агентами ИИ в разных проектах или командах.
• Требует централизованной видимости соответствия требованиям и применения политик в флоте ИИ.
• Интегрирует Microsoft Defender и Microsoft Purview для управления ИИ и защиты от угроз.
• Управляет агентами с нескольких платформ, включая Foundry, Майкрософт и источники, отличные от Майкрософт.
• Необходимо отслеживать затраты, использование маркеров и потребление ресурсов во всей среде ИИ.

Без контрольной плоскости Foundry вы управляете агентами, моделями и соответствием с помощью отдельных панелей Azure портала и отдельных представлений для каждого проекта. Платформа управления Foundry добавляет сквозную видимость между проектами, унифицированное применение требований к соответствию и интегрированные сигналы безопасности в одном интерфейсе.

Возможности плоскости управления Foundry

Плоскость управления Foundry объединяет инвентаризацию, наблюдаемость, соответствие и безопасность в один интерфейс, учитывающий роли. Он интегрируется с системами безопасности и управления Майкрософт (Microsoft Defender, Microsoft Purview, Microsoft Entra) для обеспечения управления в масштабе.

На следующей диаграмме показано, как Панель управления Foundry предоставляет унифицированный обзор всего парка с помощью агентов, моделей и инструментов, перечисленных в проектах по подписке.

Плоскость управления Foundry поддерживает следующие задачи.

Управление флотом мультиплатформенных агентов

• Отслеживайте ключевые показатели производительности, такие как активные агенты, завершение выполнения, состояние соответствия требованиям, эффективность затрат и запрещенное поведение на поддерживаемых платформах агентов.

• Используйте глубокие ссылки на возможности оценки и мониторинга для быстрого отладки, диагностики и исправления.

• Визуализируйте состояние парка с помощью виджетов, которые выявляют тенденции и аномалии.

Мониторинг и повышение производительности агента

• Сопоставляйте оповещения, результаты оценки и данные трассировки для быстрого выявления проблем.

• Непрерывно оценивает производительность, качество и размеры рисков агента. Измерения риска могут включать адекватность выполнения задач, разрешение намерений, успешность вызова инструмента, обоснованность, утечка конфиденциальных данных, а также уязвимость к джейлбрейку и междоменным атакам на внедрение запросов (XPIА).

• Используйте агент ИИ Red Teaming и анализ кластера для автоматического анализа уязвимостей и обнаружения первопричин ошибок.

• Просмотр рекомендаций по уточнению запросов, обновлению версий модели и изменениям конфигурации.

Осуществление ограничений для соблюдения требований

• Определите ограничительные политики на уровне предприятия для обеспечения безопасности, соблюдения требований и сохранения качества.

• Примените массовое исправление для исправления несоответствующих конфигураций в вашем флоте.

Безопасные агенты

• Запланируйте автоматическое сканирование red-teaming и мониторинг смещения для текущего тестирования агентов.

• Просматривайте оповещения Defender и Microsoft Purview прямо на панели мониторинга управляющей плоскости Foundry.

• Отслеживание ограничений скорости, использования маркеров и аномалий затрат, чтобы предотвратить неэффективность или злоупотребление.

Ключевые особенности

Описанные ранее возможности упорядочены по панелям, к которым вы получаете доступ, выбрав Operate на правой верхней панели инструментов рабочей области Foundry. Из Operate вы можете отслеживать, управлять и оптимизировать каждого агента, модель и развертывание в вашей подписке.

Каждая панель в режиме "Работа" разработана вокруг определенного задания. Эти панели помогают различным ролям, от строителей до администраторов, управлять ИИ-системами в масштабах.

Обзор

Используйте панель "Обзор" , чтобы понять работоспособность, производительность и соответствие парка.

Эта панель предоставляет обзор на высоком уровне ваших ресурсов ИИ, агрегируя ключевые операционные метрики и метрики соответствия в одном окне. Вы можете:

• Просматривайте ключевые статистические данные, такие как активные агенты, тенденции затрат, коэффициент завершения и предотвращенные действия.
• Детализация аномалий или пиков затрат с помощью контекстных диаграмм и прямых ссылок на инвентаризацию, наблюдаемость или сведения о политике.
• Определите потенциальные риски на ранних этапах с помощью оценок состояния на основе тенденций и резюме оповещений.

Ресурсы

Используйте область ресурсов для отслеживания, анализа и управления каждым агентом, моделью и инструментом из одного места.

Эта область предоставляет единую таблицу для поиска всех ресурсов ИИ в проектах в подписке. Он объединяет критически важные метаданные и индикаторы работоспособности, чтобы вы могли эффективно оценивать и действовать на ваших ресурсах ИИ. Вы можете:

• Фильтрация и сортировка по ключевым атрибутам, таким как версия, теги, оценка работоспособности (процент), затраты, оповещения и использование маркеров для быстрого поиска ресурсов.
• Перейдите из любой записи в таблице инвентаризации агента на вкладку «Оценка» или «Мониторинг» для получения информации перед развертыванием и после него.
• Отображать встроенные рекомендации по уточнению запросов, обновлению моделей или оптимизации конфигураций на основе индикаторов производительности и затрат.
• Сопоставляйте журналы среды выполнения с результатами оценки, чтобы выявить первопричины ошибок или снижения производительности.
• Визуализировать смещение, задержку и кластеры ошибок во время выполнения или сборки, чтобы обнаружить возникающие проблемы рано.
• Интегрируйтесь с агентом Red Teaming ИИ для автоматизации проверки уязвимостей, регрессионного тестирования и воспроизведения проблем.
• Наблюдайте за ограничениями моделей и агентов и изменяйте их.

Compliance

Используйте панель соответствия, чтобы управлять своими системами ИИ и внедрять необходимые ограничения.

Область соответствия позволяет определять, применять и непрерывно отслеживать политики безопасности и соответствия требованиям в ресурсах ИИ. Он предоставляет единый интерфейс для эксплуатации ответственных принципов ИИ, помогая обеспечить безопасность корпоративного уровня и соответствие нормативным требованиям. Вы можете:

• Определение и принудительное применение защиты с помощью глубокой интеграции с Azure Policy, Defender и Microsoft Purview. Эти интеграции помогают обеспечить согласованную работу систем управления идентификацией, защиты данных и противодействия угрозам.
• Применяйте версии политик и отслеживайте назначения для обеспечения полной возможности аудита и трассировки через агентов и среды.
• Отслеживайте состояние соответствия в режиме реального времени, чтобы вы могли выявлять несоответствующие ресурсы и проводить массовое исправление непосредственно из панели управления Foundry.

Управление политиками в Foundry позволяет администраторам и разработчикам внедрять требования к качеству и безопасности в жизненный цикл разработки и развертывания. Эти политики помогают обеспечить безопасную работу всех моделей и соблюдать организационные и нормативные стандарты.

Quota

Используйте область квот для просмотра, настройки и запроса квот.

На панели "Квота" отображаются развертывания модели и сколько квоты потребляет каждое развертывание. Он предоставляет аналитические сведения о шаблонах использования и помогает эффективно управлять ресурсами.

Администратор

Используйте панель администрирования для просмотра, упорядочивания и администрирования всех проектов, пользователей и подключенных ресурсов в среде Foundry.

Эта область расширяет операционное представление за пределами одного проекта. Большая часть работы в Foundry происходит в контексте проекта. Панель Admin предоставляет объектив корпоративного уровня для контроля и настройки нескольких проектов, разрешений пользователей и связанных Azure ресурсов из одного места.

Из Администратора администраторы и продвинутые пользователи могут:

• Получите представление обо всех проектах в своей подписке или клиенте, включая активные, неактивные и архивные рабочие области.
• Можно просмотреть подробную информацию о проекте, такую как владельцы, регион, подключенные службы и состояние соответствия.
• Добавьте или удалите пользователей непосредственно в проекте, для определения детализированных уровней доступа, согласованных с ролями организации.
• Подключайте или управляйте подключенными ресурсами, такими как учетные записи хранилища, вычислительные кластеры и инструменты Foundry, чтобы проекты оставались должным образом обеспечены.
• Назначьте доступ в родительской области (подписке или группе ресурсов), чтобы применить согласованное управление и наследование разрешений в нескольких проектов.

Начните работу с контрольной плоскостью Foundry

Плоскость управления Foundry доступна на портале Foundry. Чтобы начать использовать плоскость управления Foundry, изучите следующие ресурсы:

• Настройка шлюза ИИ. Включение расширенных функций управления в проектах Foundry.
• Настройте мониторинг для парка агентов: включите метрики и диагностические сведения с функциями наблюдаемости.
• Обнаружение агентов в подписке: Узнайте, какие агенты доступны и управляйте ими централизованно.
• Зарегистрируйте настраиваемых агентов: добавьте внешние агенты в реестр плоскости управления Foundry.

Связанный контент

• Управляйте соответствием требованиям и безопасностью в Microsoft Foundry: обеспечьте внедрение ответственных политик ИИ, интегрируйте сигналы Defender и Microsoft Purview и реагируйте на оповещения о соблюдении требований.
• Оптимизируйте затраты и производительность модели: анализ факторов затрат, использования токенов и потребления ресурсов, чтобы максимально повысить рентабельность инвестиций вашего парка агентов.
• Управление агентами в масштабе: отслеживание агентов с поддерживаемых платформ и управление ими в одном едином представлении.
• Непрерывно оценивайте агентов ИИ (предварительная версия): автоматически отслеживайте производительность, качество и аспекты риска агентов.