AI Runtime Notebook Schnellstart

Important

Dieses Feature befindet sich in der Public Preview.

Nutze AI Runtime, um mit wenigen Klicks von einem leeren Notizbuch zu PyTorch auf einer GPU zu wechseln. Schließen Sie ein Notebook an eine serverlose GPU an, ohne Cluster zum Einrichten, und erhalten Sie GPU-Überwachung, ein Terminal am GPU-Knoten und integrierten Genie-Code.

Ein KI-Runtime-Notebook, das an eine serverlose GPU angeschlossen ist, mit Aufrufen zur Auswahl des GPU-Typs, zur Konfiguration der Umgebung, zur Überwachung der Auslastung, zur Nutzung des Agenten zum Programmieren und zum Öffnen eines Terminals.

Requirements

Ihr Arbeitsbereich muss KI-Runtime aktiviert haben und sich in einer unterstützten Region befinden. Siehe Anforderungen.

Schritt 1: Schließen Sie ein Notebook an eine GPU an

  1. Erstellen oder Öffnen eines Notizbuchs
  2. Im Compute-Dropdown-Menü oben im Notizbuch wählen Sie Serverless GPU.
  3. Im Beschleunigerfeld wählen Sie 1xA10 aus.
  4. Klicken Sie auf Bewerbung und dann auf Bestätigen.

Tip

Beginnen Sie mit 1xA10 für Entwicklung und kleine Workloads. Wechsel zu 1xH100 oder 8xH100 , wenn du mehr GPU-Speicher oder Multi-GPU-verteiltes Training brauchst. Siehe Hardware-Optionen.

Schritt 2: Führe deinen ersten GPU-Code aus

Die Standard-Databricks-KI-Umgebung enthält vorinstallierte PyTorch, Transformers, vLLM, Pandas und viele weitere Pakete. Die vollständige Liste finden Sie in der Databricks KI-Umgebung.

Führe das folgende Notebook aus, um zu bestätigen, dass die GPU angeschlossen ist, und führe einen Trainingsschritt durch:

KI-Laufzeit-Schnellstartnotebook

Notebook abrufen

Du trainierst jetzt auf serverloser GPU-Berechnung.

Entdecken Sie das GPU-Notebook

Das Notizbuch wird mit Werkzeugen geliefert, die dir helfen, an der GPU zu arbeiten. Du kannst die Basisumgebung wechseln, die GPU-Auslastung überwachen, ein Terminal am GPU-Knoten öffnen und Genie Code verwenden, um deinen Code zu schreiben und zu debuggen.

Umgebungen wechseln

Klicken Sie im rechten Panel auf Umgebung, um eine andere Basisumgebung oder einen anderen Beschleuniger auszuwählen. Weitere Informationen finden Sie unter "Einrichten Ihrer Umgebung".

Die Umgebungsseitenleiste mit geöffneter Dropdownliste „Basisumgebung“, in der die Versionen von Standard und KI-Umgebung angezeigt werden.

Beobachten Sie die GPU-Nutzung

Klicke im rechten Panel auf GPU-Ressourcen , um die aktuelle GPU-Auslastung und den Speicher während des Laufens deines Codes zu sehen. Siehe Live-GPU-Ressourcen überwachen.

Der GPU-Ressourcenbereich zeigt GPU-Auslastungs- und Speichernutzungsdiagramme über die Zeit.

Öffne ein Terminal am GPU-Knoten

Klicken Sie unten rechts auf Terminal, um eine Shell auf dem GPU-Knoten zu bekommen. nvidia-smi ausführen, Dateien überprüfen oder Prozesse direkt debuggen. Siehe Ausführen von Shellbefehlen im Azure Databricks-Webterminal.

Ein Webterminal, in dem nvidia-smi auf einem H100-GPU-Knoten ausgeführt wird.

Lass Genie Code für dich schreiben und debuggen

Klicken Sie im rechten Panel auf Genie Code und beschreiben Sie, was Sie möchten. Der Agent kann Trainingscode schreiben, Abhängigkeitskonflikte beheben und GPU-Fehler debuggen. Siehe Use Genie Code with AI Runtime.

Das Genie-Code-Fenster mit einem Prompt, der den Agenten bittet, einen Torchao-Bibliothekskonflikt zu beheben.

Nächste Schritte

  • Zuletzt aktualisiert um