Exemples d’utilisation de l’interface de ligne de commande Databricks pour AI Runtime

Importante

Cette fonctionnalité est disponible en préversion publique.

Les exemples suivants sont des charges de travail complètes de bout en bout que vous soumettez depuis le CLI Databricks avec databricks air run -f <config>.yaml. Chacun inclut le YAML de la charge de travail, tous les scripts bootstrap et le code complet. Commencez par le démarrage rapide si vous n’avez pas envoyé d’exécution avant.

Example	Description
Réglage d’optimisation de LLM à plusieurs nœuds avec FSDP	Ajustement fin supervisé de Llama-3.1-8B sur 16 GPU H100 (2 nœuds) à l’aide de torchrun et de PyTorch Fully Sharded Data Parallel (FSDP). Les logs sont envoyés à MLflow et les points de contrôle sont stockés dans un volume Unity Catalog.
Ray, bonjour le monde	Exemples fonctionnels minimaux pour Ray Core, Ray Train, Ray Data et Ray Tune, y compris le patron bootstrap partagé pour exécuter des clusters Ray sur AI Runtime.
Entraînement distribué avec Ray Train	Ajustement distribué à parallélisme de données avec le TorchTrainer de Ray Train sur 8 GPU H100 (un seul nœud), avec un worker par GPU.
Inférence par lots avec Ray Data et vLLM	Inférence batch de LLM en mode hors ligne avec Ray Data et vLLM sur 4 nœuds A10, avec une réplique vLLM exécutée par nœud et écrivant les résultats dans un volume Unity Catalog au format Parquet.
Recherche d’hyperparamètres avec Ray Tune	Recherche d’hyperparamètres LoRA pour Qwen2.5-0.5B avec Ray Tune sur 4 nœuds 1xA10, en exécutant un essai par GPU et en stoppant les essais sous-performants tôt avec le planificateur ASHA.