Примеры интерфейса командной строки среды выполнения ИИ

Important

Эта функция доступна в общедоступной предварительной версии.

Ниже приведены полные сквозные примеры рабочих нагрузок, которые вы запускаете из CLI air с помощью air run -f train.yaml. В каждом примере показан реальный паттерн работы с несколькими GPU H100, включая YAML-файл рабочей нагрузки, команды инициализации и код. Начните с руководства по быстрому запуску, если вы ещё не отправляли запуск.

Example Description
Настройка многоузлового LLM с помощью FSDP Защищенная настройка Ллама-3.1-8B в 16 gpu H100 (2 узла) с помощью torchrun и PyTorch Полностью сегментированных данных Parallel (FSDP). Записывает журналы в MLflow и контрольные точки в том каталога Unity.
Распределенное обучение с помощью Ray Train Распределённая донастройка методом параллелизма данных с использованием TorchTrainer в Ray Train на 8 GPU H100 на одном узле, по одному рабочему процессу на каждый GPU.
Пакетный вывод с помощью Ray Data и vLLM Офлайн‑пакетный инференс LLM с помощью Ray Data и vLLM на 8 GPU H100 на одном узле, с запуском по одной реплике vLLM на каждом GPU и записью результатов в том Unity Catalog в формате Parquet.