Примеры интерфейса командной строки среды выполнения ИИ

Important

Эта функция доступна в общедоступной предварительной версии.

Ниже приведены полные сквозные примеры рабочих нагрузок, которые вы запускаете из CLI air с помощью air run -f <config>.yaml. Каждый из них включает YAML-файл рабочей нагрузки, все bootstrap-скрипты и полный код. Начните с руководства по быстрому запуску, если вы ещё не отправляли запуск.

Example	Description
Настройка многоузлового LLM с помощью FSDP	Защищенная настройка Ллама-3.1-8B в 16 gpu H100 (2 узла) с помощью torchrun и PyTorch Полностью сегментированных данных Parallel (FSDP). Записывает журналы в MLflow и контрольные точки в том каталога Unity.
Рэй, привет, мир	Минимальные рабочие примеры для Ray Core, Ray Train, Ray Data и Ray Tune, включая общий шаблон загрузки для запуска кластеров Ray на AI Runtime.
Распределенное обучение с помощью Ray Train	Распределённая донастройка методом параллелизма данных с использованием TorchTrainer в Ray Train на 8 GPU H100 на одном узле, по одному рабочему процессу на каждый GPU.
Пакетный вывод с помощью Ray Data и vLLM	Офлайн‑пакетный инференс LLM с помощью Ray Data и vLLM на 8 GPU H100 на одном узле, с запуском по одной реплике vLLM на каждом GPU и записью результатов в том Unity Catalog в формате Parquet.
Поиск по гиперпараметрам с помощью Ray Tune	Поиск гиперпараметров LoRA для Qwen2.5-0.5B с помощью Ray Tune на 4 узлах 1xA10, запуская по одному испытанию на GPU и досрочно останавливая неэффективные испытания с помощью планировщика ASHA.