Что такое служба агента Azure AI Foundry?

Большинство предприятий не хотят просто чат-боты - они хотят автоматизации, которая быстрее и с меньшим количеством ошибок. Это может означать сводку документов, обработку счетов, управление запросами в службу поддержки или публикацию записей блога. Во всех случаях цель одинакова: освобождение людей и ресурсов, чтобы сосредоточиться на работе с более высоким уровнем ценности, выгрузив повторяющиеся и прогнозируемые задачи.

Крупные языковые модели (LLM) открыли дверь для нового типа автоматизации с системами, которые могут понять неструктурированные данные, принимать решения и создавать содержимое. На практике это может быть трудно для предприятий перейти за рамки демонстраций и в производство. Модели языкового машинного обучения могут изменяться, давать неверную информацию и не иметь подотчетности. Без видимости, применения политик и оркестрации этим моделям трудно доверять в реальных бизнес-процессах.

Azure AI Foundry предназначен для изменения этого. Это платформа, которая объединяет модели, инструменты, платформы и управление в единую систему для создания интеллектуальных агентов. В центре этой системы находится служба агента Azure AI Foundry, которая обеспечивает работу агентов в процессе разработки, развертывания и производственной среды.

Служба агента AI Foundry соединяет основные части Azure AI Foundry, такие как модели, инструменты и платформы, в одну среду выполнения. Он управляет потоками, оркестрирует вызовы инструментов, обеспечивает безопасность содержимого и интегрируется с системами идентификации, сетей и мониторинга, чтобы гарантировать безопасность, масштабируемость и готовность агентов к работе в производственных условиях.

Абстрагируя сложность инфраструктуры и обеспечивая доверие и безопасность путем проектирования, служба агента ИИ Foundry упрощает переход от прототипа к рабочей среде с уверенностью.

Что такое агент ИИ?

Агенты принимают решения, вызывают инструменты и участвуют в рабочих процессах. Иногда независимо, иногда в сотрудничестве с другими агентами или людьми. Что отличает агентов от помощников, так это автономия: помощники поддерживают людей, а агенты достигают целей. Они являются основой для реальной автоматизации процессов.

Агенты, созданные с помощью AI Foundry, не являются монолитами. Они являются составными единицами. Каждая из них имеет определенную роль, работает на основе правильной модели, оснащена правильными инструментами и развертывается в защищенной, наблюдаемой и управляемой среде выполнения.

Каждый агент имеет три основных компонента:

• Модель (LLM): возможности анализа и распознавания речи
• Инструкции. Определение целей, поведения и ограничений агента
• Средства. Разрешить агенту получать знания или принимать меры

Агенты получают неструктурированные входные данные, такие как запросы пользователей, оповещения или сообщения от других агентов. Они создают выходные данные в виде результатов инструментов или сообщений. По пути они могут вызывать инструменты для выполнения извлечения или активации действий.

Как работают агенты в AI Foundry?

Подумайте об Azure AI Foundry как о строке сборки для интеллектуальных агентов. Как и любая современная фабрика, она объединяет различные специализированные станции, каждый отвечает за формирование части окончательного продукта. Вместо компьютеров и конвейерных лент фабрика агентов использует модели, инструменты, политики и оркестрацию для создания агентов, которые являются безопасными, тестируемыми и готовыми к работе. Вот как работает фабрика, шаг за шагом.

1. Модели

Конвейер начинается с выбора модели, которая дает агенту свой интеллект. Выберите из растущего каталога крупных языковых моделей, включая GPT-4o, GPT-4, GPT-3.5 (Azure OpenAI) и другие, такие как Лама. Это ядро рассуждений агента, которое влияет на его решения.

2. Настройка

Затем адаптируйте модель, чтобы она соответствовала вашему варианту использования. Настройте своего агента с помощью тонкой настройки, дистилляции или доменных запросов. Этот шаг позволяет кодировать поведение агента, знания о роли и шаблоны из предыдущей производительности с помощью данных, полученных из реального содержимого потока и результатов инструментов.

3. Средства искусственного интеллекта

Затем обеспечьте вашего агента инструментами. Они позволяют им получать доступ к корпоративным знаниям (например, Bing, SharePoint, поиску ИИ Azure) и выполнять реальные действия (с помощью Logic Apps, Функций Azure, OpenAPI и т. д.). Это повышает способность агента расширять свои возможности.

4. Оркестрация

Затем агенту требуется координация. Подключенные агенты координируют полный жизненный цикл, включая обработку вызовов инструментов, обновление состояния потока, управление повторными попытками и ведение журнала.

5. Наблюдаемость

Наконец, агенты проверяются и отслеживаются. AI Foundry может записывать логи, трассировки и оценки на каждом шаге. Благодаря полной видимости на уровне потока и интеграции Application Insights команды могут проверять каждое решение и постоянно улучшать агенты с течением времени.

6. Доверие

Важно убедиться, что агенты подходят и надежны для назначенной им рабочей нагрузки. AI Foundry применяет функции доверия корпоративного уровня, включая удостоверения через Microsoft Entra, RBAC, фильтры содержимого, шифрование и сетевую изоляцию. Вы определяете, как и где будут работать ваши агенты — используя инфраструктуру, управляемую платформой, или собственную инфраструктуру.

Каков результат? Агент, готовый к эксплуатации: надежный, расширяемый и безопасный для внедрения в рабочие процессы.

Зачем использовать службу агента Azure AI Foundry?

Служба агента Azure AI Foundry предоставляет готовую к работе базу для развертывания интеллектуальных агентов в корпоративных средах. Ниже показано, как оно сравнивается с ключевыми возможностями:

Способность	Служба агента Azure AI Foundry
1. Видимость разговоров	Полный доступ к структурированным потокам, включая сообщения между пользователем и агентом, а также между агентами. Идеально подходит для пользовательских интерфейсов, отладки и обучения
2. Координация с несколькими агентами	Встроенная поддержка обмена сообщениями между агентами.
3. Оркестрация инструментов	Выполнение на стороне сервера и повторные попытки выполнения вызовов инструментов со структурированным ведением журнала. Оркестрация вручную не требуется.
4. Доверие и безопасность	Интегрированные фильтры содержимого помогают предотвратить неправильное использование и снизить риски внедрения запросов (XPIA). все выходные данные управляются политикой.
5. Интеграция Enterprise	Принесите собственное хранилище, индекс поиска ИИ Azure и виртуальную сеть, чтобы удовлетворить потребности в соблюдении требований.
6. Наблюдаемость и отладка	Потоки, вызовы инструментов и трассировки сообщений полностью отслеживаемы; Интеграция с Application Insights для телеметрии
7. Управление удостоверениями и политиками	Создано на основе Microsoft Entra с полной поддержкой RBAC, журналов аудита и корпоративного условного доступа.

Начало работы со службой агента Foundry

Чтобы приступить к работе со службой агента Foundry, необходимо создать проект Azure AI Foundry в подписке Azure.

Начните с руководства по настройке среды и краткого руководства, если вы впервые используете эту службу.

1. Проект можно создать с необходимыми ресурсами.
2. После создания проекта можно развернуть совместимую модель, например GPT-4o.
3. При развертывании модели можно также начать вызовы API к службе с помощью пакетов SDK.

Дальнейшие шаги

Узнайте больше о моделях , которые могут быть агентами питания.