Примечание
Для доступа к этой странице требуется авторизация. Вы можете попробовать войти или изменить каталоги.
Для доступа к этой странице требуется авторизация. Вы можете попробовать изменить каталоги.
Большинство предприятий не хотят просто чат-боты - они хотят автоматизации, которая быстрее и с меньшим количеством ошибок. Это может означать сводку документов, обработку счетов, управление запросами в службу поддержки или публикацию записей блога. Во всех случаях цель одинакова: освобождение людей и ресурсов, чтобы сосредоточиться на работе с более высоким уровнем ценности, выгрузив повторяющиеся и прогнозируемые задачи.
Крупные языковые модели (LLM) открыли дверь для нового типа автоматизации с системами, которые могут понять неструктурированные данные, принимать решения и создавать содержимое. На практике это может быть трудно для предприятий перейти за рамки демонстраций и в производство. Модели языкового машинного обучения могут изменяться, давать неверную информацию и не иметь подотчетности. Без видимости, применения политик и оркестрации этим моделям трудно доверять в реальных бизнес-процессах.
Azure AI Foundry предназначен для изменения этого. Это платформа, которая объединяет модели, инструменты, платформы и управление в единую систему для создания интеллектуальных агентов. В центре этой системы находится служба агента Azure AI Foundry, которая обеспечивает работу агентов в процессе разработки, развертывания и производственной среды.
Служба агента AI Foundry соединяет основные части Azure AI Foundry, такие как модели, инструменты и платформы, в одну среду выполнения. Он управляет потоками, оркестрирует вызовы инструментов, обеспечивает безопасность содержимого и интегрируется с системами идентификации, сетей и мониторинга, чтобы гарантировать безопасность, масштабируемость и готовность агентов к работе в производственных условиях.
Абстрагируя сложность инфраструктуры и обеспечивая доверие и безопасность путем проектирования, служба агента ИИ Foundry упрощает переход от прототипа к рабочей среде с уверенностью.
Что такое агент ИИ?
Агенты принимают решения, вызывают инструменты и участвуют в рабочих процессах. Иногда независимо, иногда в сотрудничестве с другими агентами или людьми. Что отличает агентов от помощников, так это автономия: помощники поддерживают людей, а агенты достигают целей. Они являются основой для реальной автоматизации процессов.
Агенты, созданные с помощью AI Foundry, не являются монолитами. Они являются составными единицами. Каждая из них имеет определенную роль, работает на основе правильной модели, оснащена правильными инструментами и развертывается в защищенной, наблюдаемой и управляемой среде выполнения.
Каждый агент имеет три основных компонента:
- Модель (LLM): возможности анализа и распознавания речи
- Инструкции. Определение целей, поведения и ограничений агента
- Средства. Разрешить агенту получать знания или принимать меры
Агенты получают неструктурированные входные данные, такие как запросы пользователей, оповещения или сообщения от других агентов. Они создают выходные данные в виде результатов инструментов или сообщений. По пути они могут вызывать инструменты для выполнения извлечения или активации действий.
Как работают агенты в AI Foundry?
Подумайте об Azure AI Foundry как о строке сборки для интеллектуальных агентов. Как и любая современная фабрика, она объединяет различные специализированные станции, каждый отвечает за формирование части окончательного продукта. Вместо компьютеров и конвейерных лент фабрика агентов использует модели, инструменты, политики и оркестрацию для создания агентов, которые являются безопасными, тестируемыми и готовыми к работе. Вот как работает фабрика, шаг за шагом.
1. Модели
Конвейер начинается с выбора модели, которая дает агенту свой интеллект. Выберите из растущего каталога крупных языковых моделей, включая GPT-4o, GPT-4, GPT-3.5 (Azure OpenAI) и другие, такие как Лама. Это ядро рассуждений агента, которое влияет на его решения.
2. Настройка
Затем адаптируйте модель, чтобы она соответствовала вашему варианту использования. Настройте своего агента с помощью тонкой настройки, дистилляции или доменных запросов. Этот шаг позволяет кодировать поведение агента, знания о роли и шаблоны из предыдущей производительности с помощью данных, полученных из реального содержимого потока и результатов инструментов.
3. Средства искусственного интеллекта
Затем обеспечьте вашего агента инструментами. Они позволяют им получать доступ к корпоративным знаниям (например, Bing, SharePoint, поиску ИИ Azure) и выполнять реальные действия (с помощью Logic Apps, Функций Azure, OpenAPI и т. д.). Это повышает способность агента расширять свои возможности.
4. Оркестрация
Затем агенту требуется координация. Подключенные агенты координируют полный жизненный цикл, включая обработку вызовов инструментов, обновление состояния потока, управление повторными попытками и ведение журнала.
5. Наблюдаемость
Наконец, агенты проверяются и отслеживаются. AI Foundry может записывать логи, трассировки и оценки на каждом шаге. Благодаря полной видимости на уровне потока и интеграции Application Insights команды могут проверять каждое решение и постоянно улучшать агенты с течением времени.
6. Доверие
Важно убедиться, что агенты подходят и надежны для назначенной им рабочей нагрузки. AI Foundry применяет функции доверия корпоративного уровня, включая удостоверения через Microsoft Entra, RBAC, фильтры содержимого, шифрование и сетевую изоляцию. Вы определяете, как и где будут работать ваши агенты — используя инфраструктуру, управляемую платформой, или собственную инфраструктуру.
Каков результат? Агент, готовый к эксплуатации: надежный, расширяемый и безопасный для внедрения в рабочие процессы.
Зачем использовать службу агента Azure AI Foundry?
Служба агента Azure AI Foundry предоставляет готовую к работе базу для развертывания интеллектуальных агентов в корпоративных средах. Ниже показано, как оно сравнивается с ключевыми возможностями:
Способность | Служба агента Azure AI Foundry |
---|---|
1. Видимость разговоров | Полный доступ к структурированным потокам, включая сообщения между пользователем и агентом, а также между агентами. Идеально подходит для пользовательских интерфейсов, отладки и обучения |
2. Координация с несколькими агентами | Встроенная поддержка обмена сообщениями между агентами. |
3. Оркестрация инструментов | Выполнение на стороне сервера и повторные попытки выполнения вызовов инструментов со структурированным ведением журнала. Оркестрация вручную не требуется. |
4. Доверие и безопасность | Интегрированные фильтры содержимого помогают предотвратить неправильное использование и снизить риски внедрения запросов (XPIA). все выходные данные управляются политикой. |
5. Интеграция Enterprise | Принесите собственное хранилище, индекс поиска ИИ Azure и виртуальную сеть, чтобы удовлетворить потребности в соблюдении требований. |
6. Наблюдаемость и отладка | Потоки, вызовы инструментов и трассировки сообщений полностью отслеживаемы; Интеграция с Application Insights для телеметрии |
7. Управление удостоверениями и политиками | Создано на основе Microsoft Entra с полной поддержкой RBAC, журналов аудита и корпоративного условного доступа. |
Начало работы со службой агента Foundry
Чтобы приступить к работе со службой агента Foundry, необходимо создать проект Azure AI Foundry в подписке Azure.
Начните с руководства по настройке среды и краткого руководства, если вы впервые используете эту службу.
- Проект можно создать с необходимыми ресурсами.
- После создания проекта можно развернуть совместимую модель, например GPT-4o.
- При развертывании модели можно также начать вызовы API к службе с помощью пакетов SDK.
Дальнейшие шаги
Узнайте больше о моделях , которые могут быть агентами питания.