Runtime di intelligenza artificiale

AI Runtime è un'offerta di calcolo GPU serverless completamente gestita da Databricks per i tuoi carichi di lavoro di addestramento, fine-tuning e deep learning più ampi.

• GPU serverless: A10 e H100 on-demand, accessibili tramite la CLI Databricks, notebook, job e Ray.
• Ambienti gestiti: ambienti precostruiti e dataloader pronti per addestramento e messa a punto, oppure porta il tuo container Docker.
• Osservabilità integrata: tracciamento degli esperimenti tramite MLflow, logging e agenti di debug.
• Orchestrazione: programma i carichi di lavoro della GPU e usali nelle pipeline CI/CD.

Get started

Impara a conoscere il runtime AI ed esegui il tuo primo carico di lavoro.

Get started	Descrizione
🚀 Avvio rapido	Esegui il tuo primo carico di lavoro su AI Runtime dal tuo terminale.
🧭 Panoramica	Scopri le cose chiave su AI Runtime: quali GPU sono disponibili, come funziona e i limiti.
💡 Esempi	Sfoglia tutorial su notebook e ricette di CLI Databricks eseguibili organizzate per compito.

Collegati alle GPU

Accedi alle GPU tramite la CLI Databricks, notebook, Jobs o tramite Ray.

Feature	Descrizione
Interfaccia della riga di comando di Databricks	Invia e gestisci i lavori di addestramento GPU distribuiti dal tuo laptop usando le configurazioni di job YAML.
Computer portatili	Collega un notebook a AI Runtime e sviluppa in modo interattivo, senza configurazione di cluster.
Lavori	Programmare un workload GPU su AI Runtime come lavoro ricorrente e orchestrarlo con attività upstream e downstream.
Raggio	Esegui Ray Core, Ray Data, Ray Train e Ray Tune su AI Runtime.

Sviluppo dei carichi di lavoro

Carica i dati in modo efficiente, configura il tuo ambiente e sviluppa carichi di lavoro con agenti di codifica.

Feature	Descrizione
Carica dati nelle GPU	Trasmetti dati da volumi del Catalogo Unity con loader tolleranti ai guasti progettati per un alto utilizzo della GPU.
Ambienti precostruiti	Inizia da un ambiente Standard minimale o da un ambiente AI Databricks preinstallato con framework ML.
Immagini Docker personalizzate	Usa una tua immagine Docker quando il carico di lavoro richiede librerie di sistema personalizzate o dipendenze.
Agenti di codifica	Usa Genie Code e la skill agente databricks-ai-runtime per creare, inviare e gestire i carichi di lavoro della GPU.

Monitorare, eseguire il debug e distribuire

Monitorare gli esperimenti, ispezionare i log, diagnosticare i guasti e programmare i carichi di lavoro di produzione.

Feature	Descrizione
MLflow per il debug	Monitora esperimenti, metriche e run con MLflow.
Visualizzare i log	Visualizza l'output dell'addestramento, monitora l'uso delle risorse GPU mentre il codice viene eseguito e fai il debug con Genie Code.
Pianifica i carichi di lavoro	Distribuisci codice di addestramento con Declarative Automation Bundles, programma le esecuzioni e crea flussi di lavoro multi-task di GPU e CPU.
Distribuisci modelli addestrati	Distribuisci modelli addestrati su AI Runtime su Model Serving.

Guides

Esplora guide di migrazione, tutorial e risorse tecniche per AI Runtime.

Resource	Descrizione
Perché usare AI Runtime	Confronta AI Runtime con Classic Compute e Databricks Runtime ML per costi, esperienza dello sviluppatore e scala.
Migrazione da Slurm	Mappare i tuoi script batch Slurm, i launcher distribuiti e lo storage condiviso sulla CLI di Databricks.
Migra i carichi di lavoro classici delle GPU	Sposta un carico di lavoro di deep learning esistente da un cluster classico di Databricks a AI Runtime.
Ottimizza le prestazioni del carico di lavoro	Migliorare il flusso di formazione e rendere i lavori di lunga durata più resilienti ai fallimenti.