Поделиться через


Что такое служба агента Azure AI Foundry?

Большинство предприятий не хотят просто чат-боты - они хотят автоматизации, которая быстрее и с меньшим количеством ошибок. Это может означать сводку документов, обработку счетов, управление запросами в службу поддержки или публикацию записей блога. Во всех случаях цель одинакова: освобождение людей и ресурсов, чтобы сосредоточиться на работе с более высоким уровнем ценности, выгрузив повторяющиеся и прогнозируемые задачи.

Крупные языковые модели (LLM) открыли дверь для нового типа автоматизации с системами, которые могут понять неструктурированные данные, принимать решения и создавать содержимое. На практике это может быть трудно для предприятий перейти за рамки демонстраций и в производство. Модели языкового машинного обучения могут изменяться, давать неверную информацию и не иметь подотчетности. Без видимости, применения политик и оркестрации этим моделям трудно доверять в реальных бизнес-процессах.

Azure AI Foundry предназначен для изменения этого. Это платформа, которая объединяет модели, инструменты, платформы и управление в единую систему для создания интеллектуальных агентов. В центре этой системы находится служба агента Azure AI Foundry, которая обеспечивает работу агентов в процессе разработки, развертывания и производственной среды.

График, показывающий, что служба агента Foundry является связующим звеном Azure AI Foundry.

Служба агента AI Foundry соединяет основные части Azure AI Foundry, такие как модели, инструменты и платформы, в одну среду выполнения. Он управляет потоками, оркестрирует вызовы инструментов, обеспечивает безопасность содержимого и интегрируется с системами идентификации, сетей и мониторинга, чтобы гарантировать безопасность, масштабируемость и готовность агентов к работе в производственных условиях.

Абстрагируя сложность инфраструктуры и обеспечивая доверие и безопасность путем проектирования, служба агента ИИ Foundry упрощает переход от прототипа к рабочей среде с уверенностью.

Что такое агент ИИ?

Агенты принимают решения, вызывают инструменты и участвуют в рабочих процессах. Иногда независимо, иногда в сотрудничестве с другими агентами или людьми. Что отличает агентов от помощников, так это автономия: помощники поддерживают людей, а агенты достигают целей. Они являются основой для реальной автоматизации процессов.

Агенты, созданные с помощью AI Foundry, не являются монолитами. Они являются составными единицами. Каждая из них имеет определенную роль, работает на основе правильной модели, оснащена правильными инструментами и развертывается в защищенной, наблюдаемой и управляемой среде выполнения.

Каждый агент имеет три основных компонента:

  • Модель (LLM): возможности анализа и распознавания речи
  • Инструкции. Определение целей, поведения и ограничений агента
  • Средства. Разрешить агенту получать знания или принимать меры

Рисунок, показывающий, что такое агент ИИ?.

Агенты получают неструктурированные входные данные, такие как запросы пользователей, оповещения или сообщения от других агентов. Они создают выходные данные в виде результатов инструментов или сообщений. По пути они могут вызывать инструменты для выполнения извлечения или активации действий.

Как работают агенты в AI Foundry?

Подумайте об Azure AI Foundry как о строке сборки для интеллектуальных агентов. Как и любая современная фабрика, она объединяет различные специализированные станции, каждый отвечает за формирование части окончательного продукта. Вместо компьютеров и конвейерных лент фабрика агентов использует модели, инструменты, политики и оркестрацию для создания агентов, которые являются безопасными, тестируемыми и готовыми к работе. Вот как работает фабрика, шаг за шагом.

Рисунок, показывающий Azure AI Foundry: Фабрика агентов.

1. Модели

Конвейер начинается с выбора модели, которая дает агенту свой интеллект. Выберите из растущего каталога крупных языковых моделей, включая GPT-4o, GPT-4, GPT-3.5 (Azure OpenAI) и другие, такие как Лама. Это ядро рассуждений агента, которое влияет на его решения.

2. Настройка

Затем адаптируйте модель, чтобы она соответствовала вашему варианту использования. Настройте своего агента с помощью тонкой настройки, дистилляции или доменных запросов. Этот шаг позволяет кодировать поведение агента, знания о роли и шаблоны из предыдущей производительности с помощью данных, полученных из реального содержимого потока и результатов инструментов.

3. Средства искусственного интеллекта

Затем обеспечьте вашего агента инструментами. Они позволяют им получать доступ к корпоративным знаниям (например, Bing, SharePoint, поиску ИИ Azure) и выполнять реальные действия (с помощью Logic Apps, Функций Azure, OpenAPI и т. д.). Это повышает способность агента расширять свои возможности.

4. Оркестрация

Затем агенту требуется координация. Подключенные агенты координируют полный жизненный цикл, включая обработку вызовов инструментов, обновление состояния потока, управление повторными попытками и ведение журнала.

5. Наблюдаемость

Наконец, агенты проверяются и отслеживаются. AI Foundry может записывать логи, трассировки и оценки на каждом шаге. Благодаря полной видимости на уровне потока и интеграции Application Insights команды могут проверять каждое решение и постоянно улучшать агенты с течением времени.

6. Доверие

Важно убедиться, что агенты подходят и надежны для назначенной им рабочей нагрузки. AI Foundry применяет функции доверия корпоративного уровня, включая удостоверения через Microsoft Entra, RBAC, фильтры содержимого, шифрование и сетевую изоляцию. Вы определяете, как и где будут работать ваши агенты — используя инфраструктуру, управляемую платформой, или собственную инфраструктуру.

Каков результат? Агент, готовый к эксплуатации: надежный, расширяемый и безопасный для внедрения в рабочие процессы.

Зачем использовать службу агента Azure AI Foundry?

Служба агента Azure AI Foundry предоставляет готовую к работе базу для развертывания интеллектуальных агентов в корпоративных средах. Ниже показано, как оно сравнивается с ключевыми возможностями:

Способность Служба агента Azure AI Foundry
1. Видимость разговоров Полный доступ к структурированным потокам, включая сообщения между пользователем и агентом, а также между агентами. Идеально подходит для пользовательских интерфейсов, отладки и обучения
2. Координация с несколькими агентами Встроенная поддержка обмена сообщениями между агентами.
3. Оркестрация инструментов Выполнение на стороне сервера и повторные попытки выполнения вызовов инструментов со структурированным ведением журнала. Оркестрация вручную не требуется.
4. Доверие и безопасность Интегрированные фильтры содержимого помогают предотвратить неправильное использование и снизить риски внедрения запросов (XPIA). все выходные данные управляются политикой.
5. Интеграция Enterprise Принесите собственное хранилище, индекс поиска ИИ Azure и виртуальную сеть, чтобы удовлетворить потребности в соблюдении требований.
6. Наблюдаемость и отладка Потоки, вызовы инструментов и трассировки сообщений полностью отслеживаемы; Интеграция с Application Insights для телеметрии
7. Управление удостоверениями и политиками Создано на основе Microsoft Entra с полной поддержкой RBAC, журналов аудита и корпоративного условного доступа.

Начало работы со службой агента Foundry

Чтобы приступить к работе со службой агента Foundry, необходимо создать проект Azure AI Foundry в подписке Azure.

Начните с руководства по настройке среды и краткого руководства, если вы впервые используете эту службу.

  1. Проект можно создать с необходимыми ресурсами.
  2. После создания проекта можно развернуть совместимую модель, например GPT-4o.
  3. При развертывании модели можно также начать вызовы API к службе с помощью пакетов SDK.

Дальнейшие шаги

Узнайте больше о моделях , которые могут быть агентами питания.