Агенты в Microsoft Foundry

Служба агента Foundry — это управляемая платформа для создания, развертывания и масштабирования агентов ИИ. Создавайте с помощью любого фреймворка, любой поддерживаемой модели из каталога моделей Foundry и единой точки входа для инференса моделей и инструментов.

Foundry встречает вас в любом месте спектра от декларативного до полного кода: определите агент запроса или агент запроса на основе голосовой связи и позвольте Foundry запустить его, упаковать свой собственный код в качестве размещенного агента или вызвать API ответов из агента, который уже запущен в другом месте. Выбор способа сборки охватывает каждый путь.

Служба агента на первый взгляд

Компонент Что это делает
Среда выполнения агента Размещает и масштабирует prompt-агенты и размещаемые агенты. Управляет беседами, вызовами инструментов и жизненным циклом агента.
Панели инструментов Проверите набор инструментов один раз, например веб-поиск, поиск файлов, интерпретатор кода, серверы MCP и пользовательские функции. Затем предоставьте к ним доступ агентам через единый управляемый MCP-эндпоинт с централизованной аутентификацией, контролем и управлением версиями.
Модели Работает с множеством моделей из каталога моделей Foundry, таких как GPT-4o, Llama и DeepSeek. Переключение моделей без изменения кода агента.
Наблюдаемость Сквозная трассировка, метрики, оценки и интеграция Application Insights. Просмотрите каждое решение, выполняемого агентом, и измеряйте его качество.
Оптимизация Оптимизатор агентов (предварительная версия) оценивает поведение агентов и автоматически генерирует более эффективные инструкции, навыки, описания инструментов и варианты выбора моделей для агентов на основе подсказок и размещённых агентов.
Идентификация и безопасность Microsoft Entra идентификация, RBAC, фильтры содержимого и изоляция виртуальной сети. Доверие корпоративного уровня, встроенное в систему.
Публикация Управляйте версиями агентов, создавайте стабильные конечные точки и делитесь ими через Microsoft Teams, Microsoft Copilot и реестр агентов Entra.

Выбор способа сборки

Tip

Создаёте своего первого агента? Начните с агента подсказок, используя портал Foundry или краткое руководство по созданию агента подсказок с помощью кода.

Foundry предоставляет несколько способов создания — от одиночного вызова модели до полностью контейнеризированного агента. Выберите путь на основе того, что вы пытаетесь сделать:

  • Хотите минимум усилий для работы с текстом?Начните с промпт-агента. Настройка инструкций, модели и средств; Foundry запускает его без кода или инфраструктуры.
  • Хотите использовать управляемый голосовой интерфейс в режиме реального времени?Создайте агент запроса на основе голоса. Настройте голосовое взаимодействие и подключите его через Voice Live, не размещая код оркестрации самостоятельно.
  • Хотите получить полный контроль в Foundry?Разверните размещенный агент. Используйте собственный код и фреймворк в виде контейнера; Foundry запускает его с управляемой конечной точкой, масштабированием и управлением удостоверениями.
  • Уже запускаете код агента в другом месте?Обращайтесь к API Responses напрямую, чтобы использовать модели и инструменты Foundry без необходимости управлять ресурсом агента.

В этом обзоре рассматриваются следующие типы агентов: промпт-агенты, голосовые промпт-агенты и хостируемые агенты. Следующий раздел разбивает значение каждого, чтобы выбрать с уверенностью.

Типы агентов

Служба агента предлагает три типа агента. Ваш выбор определяет, какую часть вы создаёте сами, а какую — берёт на себя Foundry:

  • Промпт-агенты: самый быстрый путь. Определите инструкции, модель и инструменты, и Foundry запускает агент без кода или инфраструктуры для управления.
  • Агенты запроса на основе голоса: управляемые агенты голосовой связи в режиме реального времени. Настройте модель, инструкции, звук и средства, а затем подключитесь к агенту через Voice Live.
  • Размещенные агенты: максимальный контроль. Используйте собственный код и фреймворк, а Foundry запустит их в контейнере с управляемой конечной точкой, масштабированием и управлением идентификацией.

Побудительные агенты

Промпт-агенты полностью задаются через конфигурацию, включая инструкции, выбор модели и инструменты. Создайте их на портале Foundry для быстрого запуска или программно определите их с помощью пакетов SDK или REST API для интеграции с рабочими процессами CI/CD. В любом случае, Foundry запускает агент для вас. Код приложения не поддерживается, а контейнеры или пакеты для оптимизации, масштабирования или мониторинга безопасности отсутствуют.

Два пути для начала работы:

  • Сначала — портал: создайте агента в интерактивном редакторе на портале Foundry, протестируйте его в песочнице, а затем вызовите из кода приложения.
  • Сначала код: определите агента с помощью SDK или REST API в конвейере развертывания, что позволит обеспечить управление версиями, проверку кода и автоматическое развертывание.

Лучше всего подходит: для быстрого старта, внутренних инструментов, продакшен-агентов, которым не нужна пользовательская логика оркестрации, и команд, которым нужна управляемая среда выполнения без лишних затрат на инфраструктуру.

Агенты запроса на основе голосовой связи

Голосовые prompt-агенты — это управляемые агенты для голосовых диалогов в реальном времени. Настройте модель, инструкции, параметры звука, необязательное приветствие и инструменты в определении агента. Служба Foundry Agent Service управляет жизненным циклом агента и использует Voice Live для распознавания речи, управления очередностью реплик, взаимодействия с моделью и синтеза речи.

Голосовые агенты подсказок поддерживают управляемые модели, а там, где это поддерживается, — развертывания собственных моделей. Вы подключаетесь к агенту в режиме реального времени WebSocket, а не отправляете отдельные текстовые запросы. Сведения о настройке и поддерживаемых языках клиента см. в Краткое руководство: создание голосового агента подсказок. Сведения об архитектуре голосовой связи, ресурсах и текущих ограничениях предварительной версии см. в статье о работе агентов на основе голосовых данных.

Лучше всего подходит: для голосовых решений для взаимодействия с клиентами, сценариев колл-центров и приложений, которым требуется аудиовзаимодействие с низкой задержкой без необходимости самостоятельно реализовывать сервис оркестрации голосового взаимодействия.

Размещенные агенты

Размещенные агенты — это агенты на основе кода, которые вы создаете с помощью Agent Framework, LangGraph, OpenAI Agents SDK, Anthropic Agent SDK, GitHub Copilot SDK или собственного кода. Разверните агент либо как образ контейнера, либо как файл .zip с исходным кодом (если вы предоставляете файл .zip, Foundry сам собирает для вас образ), а Foundry запускает его, предоставляя управляемую конечную точку, автоматическое масштабирование, выделенную идентичность Microsoft Entra, сохранение состояния на уровне сеанса и сквозную наблюдаемость.

Под капотом код агента вызывает конечную точку проекта Foundry для вывода модели и оркестрации инструментов, которая предоставляет доступ к моделям Foundry из каталога и единому набору инструментов платформы: стандартные инструменты, такие как поиск файлов, интерпретатор кода и веб-поиск, а также дополнительные средства, такие как SharePoint, WorkIQ и Fabric IQ.

Лучше всего подходит для: агентов, которые обращаются к вашему собственному коду; а также для собственной логики оркестрации, многоагентных систем и пользовательских протоколов (вебхуков, голосовых интерфейсов, AG-UI), в случаях, когда вам нужен полный контроль над логикой агента, а Foundry при этом берёт на себя хостинг, масштабирование и идентификацию.

Сравнение типов агентов

Побудительные агенты Агенты запроса на основе голосовой связи Размещенные агенты
Область редактирования Портал, пакет SDK или REST Определение агента с помощью портала, пакета SDK или REST агентный фреймворк, LangGraph, SDK OpenAI Agents, SDK Anthropic Agent, SDK GitHub Copilot, собственный код
Модели Foundry + средства платформы Да Да, с помощью голосовой трансляции и настроенных средств агента Да (через API ответов в конечной точке проекта Foundry)
Поддержка навыков Да Да Да
Код среды выполнения для поддержки Нет Нет для управляемой голосовой оркестрации Да, логика вашего агента
Вычисление для управления Нет, полностью управляемый Нет, полностью управляемый Контейнерные вычислительные ресурсы под управлением Foundry
Управляемая конечная точка Да Да, WebSocket в реальном времени Да
Autoscale Автоматически, под управлением Foundry; масштабируется в зависимости от объёма запросов Управляется Foundry и Voice Live Автоматическое, под управлением Foundry; масштабирует экземпляры контейнеров в зависимости от числа сеансов и объема запросов
Удостоверение агента (Entra) Да Да Автоматический, отдельный для каждого агента
Модель затрат Вывод по каждому вызову + использование инструмента Использование Voice Live и моделей; см. стоимость услуг Инференс на каждый вызов + использование инструментов + контейнерные вычисления
Оптимально для Быстрый старт, агенты промышленного уровня без специальной оркестрации Взаимодействие в режиме реального времени без размещения кода оркестрации голоса Агенты, вызывающие пользовательский код; во вторую очередь — настраиваемая логика оркестрации

Используйте API Responses для эфемерных агентов

При вызове API ответов непосредственно из собственного кода создается временный агент: определение агента (инструкции, инструменты и модель) живет в коде приложения, а не в качестве сохраненного ресурса в Foundry. Каждый вызов собирает агента в вашем процессе и запускает его через API Responses, поэтому в Foundry не нужно создавать, обновлять или удалять агента.

Используйте этот шаблон, если требуется:

  • Логика агента, входящая в состав вашего приложения. Храните определения вместе с остальной частью кода, используя систему контроля версий и проверку кода, а не в виде отдельного ресурса Foundry, который кому-то пришлось бы синхронизировать с приложением.
  • Возможности Foundry без дополнительных затрат ресурсов. Вы по-прежнему получаете модели из каталога, инструменты платформы, данные в области проекта, аутентификацию On-Behalf-Of, а также средства наблюдаемости и управления на уровне проекта. Через конечную точку вашего проекта Foundry.

См. Краткое руководство: использование API Responses для получения дополнительной информации.

Как работают голосовые агенты

Голосовые промпт-агенты ведут разговоры в реальном времени. Вы настраиваете агент на портале Foundry или через пакет SDK, тестируете его с помощью микрофона и делаете его доступным через браузер или канал телефонного номера. Foundry управляет жизненным циклом агента и оркестрацией голосовой связи, поэтому вы не размещаете эту инфраструктуру самостоятельно.

Important

Голосовые агенты и некоторые связанные с ними возможности мониторинга, оценки, аватаров, WebRTC и телефонии доступны в предварительной версии. Предварительные возможности предоставляются без соглашения об уровне обслуживания и не рекомендуются для рабочих нагрузок в рабочей среде, пока вы не оцените требования к поддержке, безопасности, соответствию нормативным требованиям и доступности.

Агенты на основе голоса поддерживают две архитектуры моделей.

Прямое преобразование речи в речь

Caller audio
  -> realtime speech model
  -> spoken response

Эта архитектура оптимизирована для естественного общения с низкой задержкой. Модель реального времени обрабатывает голосовые и выходные данные напрямую. Поддерживаемые параметры и семейства голосовых параметров зависят от выбранной модели.

Каскадная текстовая модель

Caller audio
  -> speech recognition
  -> text model
  -> speech synthesis
  -> spoken response

Эта архитектура обеспечивает более широкий выбор текстовых моделей и голосов Azure. Он также предоставляет явный контроль над транскрипцией, списками фраз, определением смены говорящего и промежуточными результатами, но каждый этап увеличивает сквозную задержку.

Основные ресурсы

Типичный агент голосовой связи, созданный на портале, использует следующее:

  • Ресурс и проект Foundry.
  • Голосовой агент промптов с поддержкой версий.
  • Полностью управляемая модель Голосовой трансляции или допустимая модель, развернутая клиентом.
  • Возможности Azure Speech в Foundry Tools для транскрипции или синтеза, если это требуется выбранной архитектурой.
  • Application Insights для данных трассировки, мониторинга и оценки.
  • Службы коммуникации Azure и Сетка событий Azure для расширяемости Teams Phone, связанной с входящими вызовами, или подключение проекта Twilio для каналов телефонных номеров Twilio.

При использовании полностью управляемой модели голосовой трансляции вам не нужно развертывать отдельную аудио модель. Доступность и поведение модели загружаются динамически для ресурса и региона.

Границы поддержки на текущем портале

Capability Текущее поведение на основе голоса
Тестирование браузера Поддерживается на игровой площадке агента.
Предварительная версия веб-приложения Доступно, когда конечная точка агента поддерживает протокол Responses.
Номера телефонов Возможности расширения Teams Phone и Twilio.
Прямое SIP-подключение В настоящее время не предлагается в качестве поддерживаемого потока клиентов.
публикация приложения Microsoft Teams и Microsoft 365 Copilot Стандартная карточка текстового агента сейчас не отображается в макете Channels для голосового взаимодействия. Не описывайте это как путь интеграции с телефоном.
Аватар Визуальный вывод браузера через WebRTC; телефонные абоненты получают только звук.
Monitoring Для сводных карточек по голосам, разбивки по токенам и диаграмм задержки соединения требуется Application Insights.
Tracing Голосовые трассировки используют единое представление, ориентированное на трассировку, поскольку у голосовых трассировок нет API Responses response_id.
Evaluation Поддерживается оценка всей беседы на основе существующих бесед. Одноходовая оценка и оценка на основе имитированного диалога в настоящее время не поддерживаются для голосовых агентов.
Создание набора данных из трассировок Действие trace-page в настоящее время недоступно для голосовых агентов.

Доступность и цены

Доступность зависит от региона ресурсов Foundry, выбранной модели, выбранной голосовой связи, подписки и включенных предварительных версий функций. Прежде чем полагаться на определенную модель, проверьте портал.

Потенциальные расходы включают ввод и вывод данных для генеративной модели ИИ, распознавание и синтез речи, обучение пользовательских голосов и их размещение, использование аватаров, прием и хранение данных в Application Insights, вызовы и телефонные номера Службы коммуникации Azure, Microsoft Teams и службы телефонии, а также подключенные инструменты и службы данных. Сведения о затратах см. в разделе "Цены" для агентов на основе голосовой связи.

Документация по голосовому агенту

Article Используйте его для
Создайте голосовой агент для промптов Создайте управляемый голосовой агент, подключитесь к активному сеансу и завершите один ход диалога.
Настройка голосового агента Выберите модель и настройте транскрибирование, языки, голоса, аватары, обнаружение поворотов, улучшение звука, промежуточные ответы и средства.
Интеграция канала телефонии Интегрируйте возможности расширения Teams Phone или Twilio с голосовым агентом.
Трассировка, мониторинг и оценка агента голосовой связи Отслеживайте, контролируйте и оценивайте голосовые разговоры.
Лучшие практики для голосовых агентов Применяйте инструкции, задержку, распознавание, средства безопасности, средства обеспечения конфиденциальности, передачу, тестирование и средства управления выпусками.

Поддержка модели

Служба агента работает с множеством моделей, доступных в каталоге моделей Foundry. Полный список см. на портале Foundry.

Инструменты и наборы инструментов

Агенты действуют в мире с помощью инструментов. Foundry предлагает встроенные средства, такие как веб-поиск, поиск файлов, интерпретатор кода и память, а также позволяет добавлять пользовательские инструменты с помощью функций, спецификаций OpenAPI и серверов MCP. Полный набор см. в обзоре панели элементов.

Набор инструментов группирует эти инструменты в один многократно используемый объект. Вы один раз подбираете инструменты, а Foundry предоставляет к ним доступ через единую управляемую конечную точку, совместимую с MCP, к которой может обращаться любой агент или среда выполнения независимо от используемого фреймворка. Наборы инструментов централизуют аутентификацию, управление и контроль версий, поэтому вы обновляете инструменты в одном месте вместо того, чтобы перенастраивать каждого агента. Создайте новую версию, протестируйте ее и, когда будете готовы, сделайте ее версией по умолчанию. Дополнительные сведения см. в статье "Что такое панель элементов в Foundry?".

Подключение и проверка подлинности на удаленных серверах MCP

Foundry поддерживает удаленные серверы MCP, которые можно добавить в агент, например сервер MCP Azure DevOps. Подключите организацию Azure DevOps для предоставления доступа агентам и настройте подмножество доступных инструментов для управления тем, какие действия могут выполнять агенты. Вы также можете подключить пользовательские серверы MCP, размещенные на Функции Azure, через конечную точку вебхука функций MCP (/runtime/webhooks/mcp) для предоставления пользовательских инструментов вашим агентам.

Поддерживаемые параметры проверки подлинности для серверов MCP и других подключений к инструментам включают:

  • Доступ на основе ключей
  • Microsoft Entra (используя управляемое удостоверение агента или управляемое удостоверение проекта)
  • Сквозная аутентификация OAuth (от имени)
  • Доступ без проверки подлинности, если это необходимо

Эти параметры проверки подлинности также применяются при подключении удаленных серверов MCP с учетными данными и областями, управляемыми в конфигурации средства.

Жизненный цикл разработки

Агентская служба поддерживает полный рабочий процесс «сборка-тестирование-развертывание-мониторинг»:

  1. Создание: определение агента запроса на портале или с помощью пакета SDK или запись размещенного агента, вызывающего API ответов.
  2. Тест: Общайтесь с агентом в песочнице агентов или запускайте локально. Интеграции серверов MCP, включая пользовательские серверы MCP, размещённые в Функции Azure, можно тестировать непосредственно в песочнице, чтобы проверять подключение инструментов, разрешения и поведение перед публикацией.
  3. Трассировка: проверяйте каждый вызов модели, обращение к инструменту и каждое решение с помощью трассировки агента.
  4. Оценка: выполнение вычислений для измерения качества и перехвата регрессий.
  5. Оптимизация. Автоматическое улучшение инструкций размещенного агента с помощью оптимизатора агента.
  6. Опубликовать: Переведите своего агента в управляемый ресурс со стабильной конечной точкой.
  7. Мониторинг. Отслеживание производительности и надежности с помощью метрик служб и панелей мониторинга.

Подробное пошаговое руководство см. в разделе "Жизненный цикл разработки агента".

Корпоративные возможности

Служба агента предоставляет инфраструктуру корпоративного уровня для каждого развернутого агента:

  • Удостоверение агента. Каждый агент может иметь выделенное удостоверение Microsoft Entra, обеспечивая безопасный, ограниченный доступ к ресурсам и API без предоставления общего доступа к учетным данным. Удостоверения агентов могут проверяться на подлинность на внешних серверах MCP, включая размещенные на Функции Azure, и сквозное прохождение OAuth On-Behalf-Of (OBO) поддерживается при соответствующей настройке.
  • Частная сеть. Запуск агентов в Azure виртуальной сети для полной сетевой изоляции и соответствия требованиям к месту расположения данных. Для агентов промптов доступна частная сеть. Размещённые агенты поддерживают использование ваших собственных виртуальных сетей Azure (BYO VNet), где каждый сеанс работает в изолированной песочнице ВМ, подключенной к вашей виртуальной сети.
  • Управление доступом на основе ролей: детализированные разрешения с помощью Microsoft Entra и Azure RBAC. Контролируйте, кто может создавать, вызывать и управлять агентами.
  • Безопасность содержимого: интегрированные фильтры содержимого помогают снизить риски внедрения запросов (включая внедрение перекрестных запросов) и предотвращать небезопасные выходные данные.

Инструкции по настройке среды см. в разделе "Настройка среды".

Публикация и совместное использование

Служба агента обеспечивает встроенное управление версиями и публикацию, чтобы агенты могли переходить от разработки в эксплуатацию с уверенностью.

  • Версионирование: По мере доработки агента автоматически создаются снимки версий. Откат до любой предыдущей версии или сравнение изменений между версиями.
  • Публикация: Преобразование агента в управляемый ресурс со стабильной конечной точкой. Опубликованные агенты наследуют корпоративные удостоверения и элементы управления доступом , настроенные для проекта, и могут вызываться программным способом.
  • Распространение: публикуйте агентов через Microsoft Copilot и Teams и реестр агентов Entra, размещая их там, где ваши пользователи уже работают. Служба агента Foundry поддерживает протоколы OpenResponses и Activity Protocols для публикации Microsoft 365, протокол вызовов для интеграции гибких конечных точек с пользовательскими приложениями и службами, а также протокол A2A для обмена данными между агентами. Общедоступна версия A2A версии 1.0, а версия 0.3 остается в предварительной версии.

Безопасность, конфиденциальность и соответствие требованиям

Служба агента предназначена для корпоративных рабочих нагрузок, где требуются надежные средства управления удостоверениями, сетями, обработкой данных и безопасностью.

  • Средства управления безопасностью: используйте интегрированные средства защиты, чтобы снизить небезопасные выходные данные и снизить риски внедрения запросов, включая атаки на внедрение кросс-запроса (XPIA).
  • Управление изоляцией сети и размещением данных: используйте виртуальные сети и собственные ресурсы для удовлетворения ваших требований.
  • Используйте свои ресурсы: Применяйте свои собственные ресурсы Azure (например, хранилище, Поиск с использованием ИИ Azure и Azure Cosmos DB для состояния беседы), чтобы соответствовать требованиям к соблюдению и эксплуатационным нуждам. См. раздел "Использование собственных ресурсов".
  • Руководство по использованию ИИ. Более широкий набор рекомендаций и ресурсов управления см. в статье Ответственное ИИ для Microsoft Foundry.

Связанное содержимое

  • Последнее обновление: