AI Runtime quickstart

Databricks raadt aan te beginnen met de Databricks CLI om je eerste AI Runtime-workload uit te voeren. De Databricks CLI stelt je in staat om serverless GPU-workloads vanaf je terminal in te dienen, monitoren en beheren. Als je de voorkeur geeft aan notebooks, zie AI Runtime Notebook quickstart.

Requirements

  • Een Azure Databricks werkruimte met AI Runtime ingeschakeld. Zie Vereisten.
  • Zorg dat Git is geïnstalleerd en beschikbaar is op uw PATH om het Python-voorbeeld uit te voeren. De CLI gebruikt Git om lokale code te verpakken.

Uw eerste workload uitvoeren

  1. Installeer of werk de Databricks CLI bij en meld je aan bij je werkruimte. Zie De Databricks CLI en verificatie voor de Databricks CLI installeren of bijwerken.

    Tip

    Als je met meerdere Azure Databricks-profielen werkt, voeg -p <profile> dan aan je commando's toe om er één te selecteren. Stel DATABRICKS_CONFIG_PROFILE=<profile> ook in voordat je ze uitvoert.

    Controleer of de commando's air beschikbaar zijn:

    databricks air --help

  2. Maak een minimaal workload-bestand. Het volgende workload.yaml vraagt één A10 GPU aan en voert nvidia-smi uit om de GPU-naam af te drukken:

    experiment_name: air-quickstart
compute:
  num_accelerators: 1
  accelerator_type: GPU_1xA10
command: nvidia-smi --query-gpu=name --format=csv,noheader

  3. Dien de workload in en stream de logs met databricks air run:

    databricks air run --file workload.yaml --watch

    De CLI geeft de Job Run ID terug en een link naar de run in je werkruimte. --watch houdt de terminal verbonden en streamt logs totdat de werklast is afgerond.

    Submitting experiment: air-quickstart
Submitted workload with Job Run ID: 783940125630184
View job run at: https://example.cloud.databricks.com/jobs/runs/783940125630184?o=1234567890123456

Monitoring run and streaming logs...
...
Environment setup completed at Thu Oct 1 14:23:45 UTC 2026
NVIDIA A10

Tip

Om hulp te krijgen bij het schrijven van je workloadconfiguratie en het beheren van runs, installeer dan de databricks-ai-runtime skill voor je AI-agent. Zie Gebruik agentvaardigheden met AI Runtime.

Voer je eigen Python-code uit

Om lokale Python-code te uploaden en uit te voeren, maak je een air-quickstart map aan met de volgende bestanden:

air-quickstart/
├── workload.yaml
└── main.py

Tip

Om te beginnen met een uitvoerbaar project, in plaats van deze bestanden handmatig te maken, kloon je de AI Runtime cookbook repository en ga je naar de CLI getting-started-directory:

git clone https://github.com/databricks-solutions/ai-runtime-cookbook.git
cd ai-runtime-cookbook/getting-started/air-cli

Gebruik de volgende minimale Python-code om te verifiëren dat AI Runtime de geüploade code op de GPU uitvoert:

import torch

print("Hello from Python on AI Runtime")
print(f"GPU: {torch.cuda.get_device_name(0)}")

Om dit voorbeeld uit te breiden, kun je vervangen main.py door je eigen training, batch-inferentie of andere AI-toepassing.

Gebruik de volgende configuratie voor workload.yaml:

experiment_name: python-quickstart
environment:
  version: 6
  dependencies:
    - torch==2.11.0
compute:
  num_accelerators: 1
  accelerator_type: GPU_1xH100
code_source:
  root_path: .
command: python "$CODE_SOURCE_PATH/main.py"

Deze configuratie gebruikt de volgende instellingen en draait main.py op één H100 GPU:

  • environment.version selecteert standaardomgeving versie 6.
  • environment.dependencies installeert PyTorch 2.11.0 in de geselecteerde omgeving.
  • root_path: . uploadt de map die workload.yaml bevat. Tijdens runtime $CODE_SOURCE_PATH wijst naar de geüploade map.

Dien de workload in vanuit de map die workload.yaml bevat:

databricks air run --file workload.yaml --watch

De gestreamde logs omvatten:

...
Hello from Python on AI Runtime
GPU: NVIDIA H100 80GB HBM3

Om volledige training, finetuning, batch-inferentie en Ray-workloads uit te voeren, kloon je het AI Runtime Cookbook en voer je een recept uit.

Om omgevingen, codebronnen, rekenkrachten en andere workload-instellingen te configureren, zie Workload YAML-referentie.

Inspecteer en monitor je run

De CLI drukt de Job Run ID af wanneer je de workload indient. Gebruik het om de run te inspecteren:

databricks air get <job-run-id>

databricks air get toont de runstatus, configuratie en timing. Het linkt ook naar de Job-run en, indien beschikbaar, naar de MLflow-run.

Om logs na verzending te streamen of een onderbroken stream te hervatten, voer uit:

databricks air logs <job-run-id>

De CLI biedt ook commando's om runs te vermelden en te inspecteren, logs te streamen en actieve runs te annuleren. Zie de air commandoreferentie.

Reference

Aanvullende bronnen

  • Laatst bijgewerkt om