Краткое руководство по AI Runtime

Databricks рекомендует начать с Databricks CLI, чтобы запустить свою первую нагрузку AI Runtime. CLI Databricks позволяет отправлять, мониторить и управлять бессерверными GPU-нагрузками с вашего терминала. Если предпочитаете блокноты, посмотрите быстрый старт AI Runtime Notebook.

Requirements

  • Рабочая область Azure Databricks с включённым AI Runtime. См. Требования.
  • Git установлен и доступен на вашем PATH для запуска примера Python. CLI использует Git для упаковки локального кода.

Запустите первую нагрузку

  1. Установите или обновите CLI Databricks и аутентифицируйте его в вашем рабочем пространстве. См. статью "Установка или обновление интерфейса командной строки Databricks " и проверки подлинности для интерфейса командной строки Databricks.

    Убедитесь, что команды air доступны:

    databricks air --help

  2. Создайте файл минимальной рабочей нагрузки. Следующий workload.yaml запрос запрашивает один GPU A10 и запускает nvidia-smi, чтобы вывести имя GPU:

    experiment_name: air-quickstart
compute:
  num_accelerators: 1
  accelerator_type: GPU_1xA10
command: nvidia-smi --query-gpu=name --format=csv,noheader

  3. Отправьте ворклоад и транслируйте его логи с помощью databricks air run:

    databricks air run --file workload.yaml --watch

    CLI возвращает ID запуска задания и ссылку на запуск в вашем рабочем пространстве. --watch держит терминал подключённым и транслирует логи до завершения нагрузки.

    Submitting experiment: air-quickstart
Submitted workload with Job Run ID: 783940125630184
View job run at: https://example.cloud.databricks.com/jobs/runs/783940125630184?o=1234567890123456

Monitoring run and streaming logs...
...
Environment setup completed at Thu Oct 1 14:23:45 UTC 2026
NVIDIA A10

Tip

Чтобы получить помощь в написании конфигурации рабочей нагрузки и управлении запусками, установите навык databricks-ai-runtime для вашего AI-агента. См. Использование навыков агента в AI Runtime.

Запускайте свой собственный код на Python

Для загрузки и запуска локального кода на Python создайте air-quickstart каталог со следующими файлами:

air-quickstart/
├── workload.yaml
└── main.py

Tip

Чтобы начать с запускаемого проекта, а не создавать эти файлы вручную, клонируйте репозиторий AI Runtime cookbook и переходите в каталог CLI getting-start:

git clone https://github.com/databricks-solutions/ai-runtime-cookbook.git
cd ai-runtime-cookbook/getting-started/air-cli

Используйте следующий минимальный код на Python, чтобы проверить, что AI Runtime запускает загруженный код на GPU:

import torch

print("Hello from Python on AI Runtime")
print(f"GPU: {torch.cuda.get_device_name(0)}")

Чтобы расширить этот пример, вы можете заменить main.py своим собственным обучением, пакетным инференсом или другим применением ИИ.

Используйте следующую конфигурацию для workload.yaml:

experiment_name: python-quickstart
environment:
  version: 6
  dependencies:
    - torch==2.11.0
compute:
  num_accelerators: 1
  accelerator_type: GPU_1xH100
code_source:
  root_path: .
command: python "$CODE_SOURCE_PATH/main.py"

Эта конфигурация использует следующие настройки и запускает main.py на одной видеокарте H100:

  • environment.version Выберите Standard environment version 6.
  • environment.dependencies устанавливает PyTorch 2.11.0 в выбранную среду.
  • root_path: . загружает каталог, содержащий workload.yaml. Во время выполнения $CODE_SOURCE_PATH указывает на загруженный каталог.

Отправьте workload из каталога, который содержит workload.yaml:

databricks air run --file workload.yaml --watch

Потоковые логи включают:

...
Hello from Python on AI Runtime
GPU: NVIDIA H100 80GB HBM3

Чтобы провести полное обучение, тонкую настройку, пакетную инференцию и рабочие нагрузки Ray, клонируйте AI Runtime Cookbook и выполните рецепт.

Для настройки среды, источников кода, вычислений и других параметров рабочей нагрузки см. справочник Workload YAML.

Осматривайте и контролируйте свой запуск

CLI печатает ID запуска задания, когда вы отправляете нагрузку. Используйте его для проверки запуска:

databricks air get <job-run-id>

databricks air get показывает состояние запуска, конфигурацию и тайминг. Он также связан с запуском задания и, когда доступен, с запуском MLflow.

Чтобы потоково выводить логи после отправки задания или возобновить прерванную потоковую передачу логов, выполните:

databricks air logs <job-run-id>

CLI также предоставляет команды для вывода списка и проверки запусков, потоковой передачи журналов и отмены активных запусков. См. airсправку по командам.

Reference

Дополнительные ресурсы

  • Последнее обновление: