Ejemplos de la CLI del entorno de ejecución de IA

Important

Esta característica está en versión preliminar pública.

Los siguientes ejemplos son cargas de trabajo completas, de extremo a extremo, que envías desde la CLI air con air run -f <config>.yaml. Cada uno incluye la carga de trabajo YAML, cualquier script de arranque y el código completo. Comience con el inicio rápido si no ha enviado una ejecución antes.

Example	Description
Ajuste de LLM de varios nodos con FSDP	Ajuste fino supervisado de Llama-3.1-8B con 16 GPU H100 (2 nodos) mediante torchrun y PyTorch Fully Sharded Data Parallel (FSDP). Registra en MLflow y puntos de control en un volumen de Unity Catalog.
Ray, hola mundo	Ejemplos mínimos de funcionamiento para Ray Core, Ray Train, Ray Data y Ray Tune, incluyendo el patrón compartido de arranque para ejecutar clústeres Ray en AI Runtime.
Entrenamiento distribuido con Ray Train	Ajuste fino distribuido de datos paralelos con Ray Train TorchTrainer en 8 GPU H100 en un solo nodo, con un trabajo por GPU.
Inferencia por lotes con Ray Data y vLLM	Inferencia por lotes de LLM desatendida con Ray Data y vLLM, con 8 GPU H100 en un único nodo, ejecutando una réplica de vLLM por GPU y escribiendo los resultados en un volumen de Unity Catalog en formato Parquet.
Búsqueda de hiperparámetros con Ray Tune	Búsqueda de hiperparámetros de LoRA para Qwen2.5-0.5B con Ray Tune en 4 nodos con 1xA10, ejecutando una prueba por GPU y deteniendo de forma temprana las pruebas con bajo rendimiento mediante el programador ASHA.