Esempi di CLI Databricks per l'esecuzione AI

Importante

Questa funzionalità è in Anteprima Pubblica.

I seguenti esempi sono flussi di lavoro completi, dall'inizio alla fine, che vengono inviati dalla CLI di Databricks con databricks air run -f <config>.yaml. Ognuno include il carico di lavoro YAML, eventuali script di bootstrap e il codice completo. Inizia con il quickstart se non hai mai inviato un'esecuzione prima.

Example	Description
Ottimizzazione LLM a più nodi con FSDP	Ottimizzazione supervisionata di Llama-3.1-8B in 16 GPU H100 (2 nodi) usando torchrun e PyTorch Fully Sharded Data Parallel (FSDP). Registra i log in MLflow e i checkpoint in un volume di Unity Catalog.
Ray, ciao mondo	Esempi minimi di funzionamento per Ray Core, Ray Train, Ray Data e Ray Tune, incluso il pattern bootstrap condiviso per eseguire cluster Ray su AI Runtime.
Training distribuito con Ray Train	Ottimizzazione parallela dei dati distribuita con Ray Train TorchTrainer tra 8 GPU H100 in un singolo nodo, con un ruolo di lavoro per GPU.
Inferenza batch con Ray Data e vLLM	Inferenza batch offline di un LLM con Ray Data e vLLM su 4 nodi A10, con una replica di vLLM in esecuzione su ciascun nodo e scrittura dei risultati in un volume di Unity Catalog in formato Parquet.
Ricerca iperparametrica con Ray Tune	Ricerca degli iperparametri LoRA per Qwen2.5-0.5B con Ray Tune su 4 nodi 1xA10, eseguendo un trial per GPU e interrompendo anticipatamente i trial meno performanti con lo scheduler ASHA.