Verbinden Sie sich mit AI Runtime von einem Notebook aus

Von Bedeutung

Dieses Feature befindet sich in der Public Preview.

Das Anhängen eines Notebooks an AI Runtime ist die Hauptmethode, um Trainings durchzuführen und Workloads feinabzustimmen. Du entwickelst interaktiv mit einer GPU und planst das gleiche Notebook dann als wiederkehrenden Job ein, sobald es produktionsreif ist.

Tipp

  • Schließen Sie ein Notebook an die serverlose GPU an, um interaktiv auf einer GPU zu entwickeln, ohne Cluster-Setup.
  • Planen Sie dasselbe Notebook als wiederkehrenden Job über die Notebook-Benutzeroberfläche, die Jobs API oder Declarative Automation Bundles.
  • Für Multi-GPU-Training aus einem Notebook siehe Verteiltes Training in Notebooks.

Tipp

Diese Seite behandelt Notizbücher. Um AI Runtime auf einen anderen Weg zu erreichen, sehen Sie, wie Sie sich von einer IDE über einen SSH-Tunnel verbinden können, Jobs von Ihrem Laptop mit der AI Runtime CLI senden oder Ray ausführen können. Um Trainingscode (nicht ein Notizbuch) mit Declarative Automation Bundles zu produzieren, siehe Productionize Training workloads.

Verbinden Sie sich mit einem Notizbuch

Dies ist die primäre Möglichkeit, KI-Runtime zu verwenden. Stellen Sie die Verbindung zu Ihrem Notebook her und konfigurieren Sie die Umgebung:

  1. Klicken Sie in einem Notizbuch oben auf das Dropdownmenü "Compute", und wählen Sie "Serverless GPU" aus.

    Das Notebook-Compute-Dropdown-Menü, wobei Serverless GPU als Compute für ein Notebook mit KI-Runtime ausgewählt ist.

  2. Klicken Sie auf das Symbol Um den Seitenbereich "Umgebung " zu öffnen.

  3. Wählen Sie im Feld "Beschleuniger" einen Beschleuniger aus. Wählen Sie für verteilte Schulungsworkloads 8xH100 aus. Siehe Hardware-Optionen für Hinweise zur Wahl eines Beschleunigers.

  4. Wählen Sie Standard v6 für die Standardumgebung oder AI v6 für die KI-Umgebung aus dem Basisumgebungsfeld .

  5. Klicken Sie auf Übernehmen und Bestätigen Sie dann, dass Sie KI-Laufzeit auf Ihre Notebook-Umgebung anwenden möchten.

    Die Seitenleiste „Umgebung“ mit den Feldern für Beschleuniger und Basisumgebung für ein KI-Runtime-Notebook.

Hinweis

Die Verbindung zu Ihrem Compute-System wird nach 60 Minuten Inaktivität automatisch beendet.

Tipp

Für Vorgänge, die keine GPUs erfordern (z. B. Klonen eines Git-Repositorys, Konvertieren von Datenformaten oder explorative Datenanalyse), fügen Sie Ihr Notizbuch an einen CPU-Cluster an, um GPU-Ressourcen beizubehalten.

Ein Notebook planen

Man kann Notizbücher, die AI Runtime nutzen, als wiederkehrende Jobs planen, entweder über die Notebook-Benutzeroberfläche oder programmatisch. Weitere Details finden Sie unter Erstellen und Verwalten von geplanten Notizbuchaufträgen .

Von Bedeutung

Das Ausführen eines geplanten Notebook-Jobs, der eine Workspace-Basisumgebung nutzt, einschließlich der Databricks-KI-Umgebung, befindet sich in der Beta-Phase. Ein Workspaceadministrator muss die Vorschau „Unterstützung für serverlose Workspace-Basisumgebungen in Jobs“ aktivieren. Siehe Manage Azure Databricks Previews.

Um aus dem Notizbuch zu planen, das du ausführen möchtest:

  1. Wählen Sie oben rechts die Schaltfläche "Zeitplan" aus.
  2. Wählen Sie "Zeitplan hinzufügen" aus.
  3. Füllen Sie das Formular " Neuer Zeitplan" mit dem Namen "Auftrag", " Zeitplan" und "Berechnen" auf.
  4. Wählen Sie "Erstellen" aus.

Das neue Zeitplanformular für einen geplanten Notebook-Auftrag mit den Feldern Jobname, Zeitplan und Rechenressourcen.

Sie können aufträge auch über die Benutzeroberfläche für Aufträge und Pipelines erstellen und planen. Eine schrittweise Anleitung finden Sie unter Erstellen eines neuen Auftrags .

Hinweis

Das Hinzufügen von Abhängigkeiten mithilfe des Bereichs "Umgebungen " wird für geplante KI-Runtime-Aufträge nicht unterstützt. Abhängigkeiten müssen programmgesteuert in Ihrem Notizbuch installiert werden (z. B. %pip install). Die automatische Wiederherstellung wird nicht unterstützt. Wenn Ihr Auftrag aufgrund von inkompatiblen Paketen fehlschlägt, müssen Sie manuell korrigieren und erneut ausführen.

Implementieren Sie für Workloads, die die maximal 7-tägige Laufzeit überschreiten, manuelle Prüfpunkte, um die Wiederaufnahme zu ermöglichen. Wir empfehlen die Verwendung von Unity-Katalog-Volumen über UCVolumeWriter und UCVolumeReader von serverless_gpu.data. Siehe Modell-Checkpointing.

Planen Sie mit der Jobs API und den Deklarativen Automatisierungspaketen

Sie können AI-Runtime-Notebook-Jobs programmatisch erstellen und verwalten, indem Sie die Databricks Jobs API oder Declarative Automation Bundles verwenden. Konfigurieren Sie den Computetyp als serverlose GPUs in Ihrer Einzelvorgangs- oder Bundledefinition, um Bereitstellungspipelines zu automatisieren.

Um Ihren eigenen Trainingsbefehl gegen ein Codeverzeichnis statt in einem Notebook auszuführen und um Multitask-Jobs und geplante Pipelines zu erstellen, siehe Trainings-Workloads produktionsreif machen.

Das folgende Beispiel zeigt eine Declarative Automation Bundles-Konfiguration für einen geplanten AI-Runtime-Notebook-Job unter Verwendung der Standardumgebung:

resources:
  jobs:
    sample_job:
      name: sample_job_h100

      trigger:
        periodic:
          interval: 1
          unit: DAYS

      parameters:
        - name: catalog
          default: ${var.catalog}
        - name: schema
          default: ${var.schema}

      environments:
        - environment_key: default
          spec:
            environment_version: '6'

      tasks:
        - task_key: notebook_task
          notebook_task:
            notebook_path: /Workspace/Users/your_email/your_notebook
          environment_key: default
          compute:
            hardware_accelerator: GPU_8xH100

Um die Databricks AI environment anstelle der Standardumgebung zu verwenden, setzen Sie base_environment im Umgebungsfeld databricks_ai_v6 auf die ID der KI-Umgebung (zum Beispiel spec für AI v6) und verweisen Sie im Feld environment_key der Aufgabe darauf:

Von Bedeutung

Die Auswahl einer Databricks-KI-Umgebung als Arbeitsplatz-Basisumgebung in einem Job befindet sich in der Beta-Phase. Ein Workspaceadministrator muss die Vorschau „Unterstützung für serverlose Workspace-Basisumgebungen in Jobs“ aktivieren. Siehe Manage Azure Databricks Previews.

resources:
  jobs:
    sample_job:
      name: sample_job_aiv6_h100

      trigger:
        periodic:
          interval: 1
          unit: DAYS

      parameters:
        - name: catalog
          default: ${var.catalog}
        - name: schema
          default: ${var.schema}

      environments:
        - environment_key: aiv6
          spec:
            base_environment: databricks_ai_v6

      tasks:
        - task_key: notebook_task
          notebook_task:
            notebook_path: /Workspace/Users/your_email/your_notebook
          environment_key: aiv6
          compute:
            hardware_accelerator: GPU_8xH100
  • Last updated on