Guida introduttiva rapida al notebook AI Runtime

Importante

Questa funzionalità è in Anteprima Pubblica.

Usa AI Runtime per passare da un notebook vuoto a PyTorch su una GPU in pochi clic. Collega un notebook a una GPU serverless senza cluster da configurare, e ottieni il monitoraggio GPU, un terminale sul nodo GPU e Genie Code integrato.

Un notebook AI Runtime collegato a una GPU serverless, con chiamate per selezionare il tipo di GPU, configurare l'ambiente, monitorare l'utilizzo, usare l'agente per programmare e aprire un terminale.

Requirements

Il tuo workspace deve avere abilitato AI Runtime ed essere in una regione supportata. Vedi requisiti.

Passo 1: Collega un notebook a una GPU

  1. Crea o apri un notebook.
  2. Dal menu a tendina di calcolo in alto del notebook, seleziona GPU serverless.
  3. Nel campo Acceleratore , seleziona 1xA10.
  4. Clicca su Applica, poi Conferma.

Tip

Inizia con 1xA10 per lo sviluppo e i carichi di lavoro piccoli. Passa a 1xH100 o 8xH100 quando ti serve più memoria GPU o addestramento distribuito multi-GPU. Vedi Opzioni hardware.

Passo 2: Esegui il tuo primo codice GPU

L'ambiente AI di Databricks predefinito include PyTorch, Transformers, vLLM, pandas e molti altri pacchetti preinstallati. Per l'elenco completo, vedi l'ambiente di IA Databricks.

Esegui il seguente notebook per confermare che la GPU è collegata e esegui un passaggio di addestramento:

Notebook di avvio rapido di AI Runtime

Ottieni il notebook

Ora ti stai allenando sul calcolo serverless GPU.

Esplora il notebook GPU

Il notebook è dotato di strumenti per aiutarti a lavorare sulla GPU. Puoi cambiare ambiente base, monitorare l'utilizzo della GPU, aprire un terminale sul nodo GPU e usare Genie Code per scrivere e fare il debug del tuo codice.

Cambiare ambiente

Clicca su Ambiente nel pannello destro per scegliere un ambiente base o un acceleratore diverso. Vedi Configurare l'ambiente.

Il pannello laterale Ambiente con il menu a tendina Ambiente base aperto, che mostra le versioni Standard e AI dell'ambiente.

Osserva l'utilizzo della GPU

Clicca sulle risorse GPU nel pannello destro per vedere l'utilizzo live della GPU e la memoria mentre il codice gira. Vedi Risorse per il monitoraggio GPU.

Il pannello delle risorse GPU mostra le tabelle di utilizzo della GPU e di utilizzo della memoria nel tempo.

Apri un terminale sul nodo GPU

Fai clic su Terminal in basso a destra per aprire una shell sul nodo GPU. Esegui nvidia-smi, ispeziona i file o debugga direttamente i processi. Vedere Eseguire i comandi della shell nel terminale Web di Azure Databricks.

Un terminale web che esegue nvidia-smi su un nodo GPU H100.

Lascia che Genie Code scriva e debugi per te

Clicca su Codice Genie nel pannello destro e descrivi cosa vuoi. L'agente può scrivere codice di addestramento, risolvere conflitti di dipendenza e debug di guasti GPU. Vedi Usa il codice Genie con il runtime di IA.

Il pannello del Codice Genio con un prompt che chiede all'agente di risolvere un conflitto tra le librerie torchao.

Passaggi successivi