Развертывание агентов в Azure Databricks

Чтобы запустить агент в продакшене, нужно развернуть его код в управляемой вычислительной системе, которая обрабатывает запросы от ваших пользователей и приложений. Развернутый агент состоит из трёх уровней: ваш фреймворк или обвязка, сервер агента и среда выполнения агента. Agent Bricks предоставляет опции на каждом уровне — от DurableAgentServer до Agent Runtime в приложениях Databricks.

Вычислительный стек агента

Развернутый агент состоит из трёх слоёв. Каждый слой охватывает слой, расположенный над ним.

Стек вычислений агента: ваш фреймворк или обвязка, обёрнутые агентным сервером, который предоставляет API вызова и работает на Agent Runtime.

Слой Что делает Параметры в Azure Databricks
Каркас или обвязка Запускает цикл агента: вызывает модели и инструменты и решает, что делать дальше. Любой фреймворк или харнесс, такой как LangGraph или OpenAI Agents SDK, либо мета-харнесс, например Omnigent.
Сервер агента Обворачивает цикл агента в HTTP-сервер. Агентный сервер предоставляет API вызова, управляет клиентскими соединениями и отвечает за надёжность. DurableAgentServer (рекомендуется), серверы legacy agent или собственный сервер.
Среда выполнения агента Запускает агент-сервер на управляемых вычислениях и отвечает за хостинг, идентификацию и масштабирование. Agent Runtime в приложениях Databricks.

Следующие термины описывают, как слои взаимодействуют:

Срок Что это означает
API вызова HTTP-API, который клиенты вызывают для запуска агента. См. агенты запросов, развернутые на Azure Databricks.
Serve Среда выполнения агента запускает сервер агента, который обслуживает вашего агента через API вызова.
Deploy Поместите свой код агента в среду выполнения агента.

Note

Databricks Sandbox — это не слой вычислительного стека. Это инструмент, который ваш агент вызывает для запуска кода в изолированной среде, отдельной от системы выполнения агента, с ограниченным доступом к данным, регулируемым политиками. Используйте песочницу, когда ваш агент пишет и запускает код, например, скрипты анализа данных. Чтобы добавить в проект CLI инструмент sandbox, запустите agentbricks tools add sandbox.

Каркас или обвязка

Фреймворк или обвязка — это код вашего агента. Он запускает цикл, который выполняет рассуждение с использованием модели, вызывает инструменты и решает, когда отвечать. Agent Bricks не требует конкретного фреймворка.

Каркас или обвязка Когда использовать
Templates Запуск нового агента. Agent Bricks CLI создает каркас проектов для LangGraph и OpenAI Agents SDK. Шаблоны отделяют код вашего фреймворка от кода, который соединяет его с агент-сервером.
Существующие агенты Перенос агента, который вы уже создали с помощью LangGraph или OpenAI Agents SDK. Запустите agentbricks init --existing в его каталоге. См. Подключение существующего агента.
Мета-жгут Композиция нескольких оркестраторов, таких как кодирующие агенты, в один агент с помощью Omnigent.

сервер агента

Агент-сервер — это библиотека, которая обворачивает ваш агентный цикл и превращает его в сервис. Он определяет API, который вызывают клиенты, отслеживает каждый запуск и определяет, что происходит при прерывании запуска.

сервер агента Когда использовать
DurableAgentServer (рекомендуется) Новые агенты созданы с помощью CLI Agent Bricks.
Устаревшие серверы агентов Поддержание агентов, построенных на основе шаблонов приложений. Для сравнения DurableAgentServer с устаревшими серверами агентов см. «Сравнение серверов агентов в Azure Databricks».
Ваш собственный сервер Агенты, которым нужны кастомные конечные точки, форматы запросов или протоколы. Запустите agentbricks init --server customили оставьте свой существующий сервер.

Среда выполнения агента

Среда выполнения агента — это управляемая вычислительная среда, в которой выполняется ваш агент-сервер. Вы развёртываете код, а не провизируете серверы самостоятельно.

Среда выполнения агента Когда использовать
Среда выполнения агента Новые агенты. Запускает вашего агента в Databricks Apps. agentbricks deploy предоставляет ресурсы, необходимые вашему агенту, предоставляет ему доступ к ним и развертывает его по стабильному аутентифицированному конечному адресу.
Обслуживание моделей (устаревшее) Ранее агенты развертывались на конечных точках Model Serving. См . раздел "Развертывание агента для приложений ИИ (обслуживание моделей)". Чтобы перенести их в приложения Databricks, см. Перенос агента из Model Serving в Databricks Apps.

Развертывание с помощью CLI Agent Bricks

CLI Agent Bricks соединяет три слоя. Он создаёт каркас для вашего кода фреймворка, запускает его локально на DurableAgentServer и развёртывает в Agent Runtime:

agentbricks init my-agent --framework langgraph
cd my-agent
agentbricks dev
agentbricks deploy my-agent

Чтобы создать и развернуть первого агента, смотрите быстрый старт Agent Bricks.

Разрешения на развертывание агента

Пользователь или принципал сервиса, который запускает agentbricks deploy, должен получить разрешение для выполнения следующих задач:

  • Создайте приложения Databricks или управляйте существующим приложением для повторного развертывания. См. настройку разрешений для приложения Databricks.
  • Создайте хранилища памяти и сессий, объявленные в agent.toml, или управляйте существующими хранилищами, чтобы Agent Bricks мог предоставить субъекту-службе приложения доступ к ним.
  • Создайте эксперимент MLflow, который проект использует для трассировки, или отредактируйте его, если он уже существует.
  • Предоставьте сервисному принципалу приложения доступ к ресурсам, которые инструменты указывают с помощью --auth app, например EXECUTE для функции Unity Catalog, CAN RUN на Genie Agent или SELECT для таблицы в области sandbox.

Agent Bricks предоставляет доступ только к ресурсам, которые agent.toml непосредственно объявляет. Если инструмент использует другие ресурсы, такие как таблицы, используемые Genie Agent, или объекты, которые вызывает функция Unity Catalog, предоставьте субъекту-службе приложения доступ к ним самостоятельно. Если процесс развертывания не может применить необходимое разрешение, он останавливается до загрузки кода и оставляет текущее развертывание запущенным.

Дополнительные ресурсы