Freigeben über

Verwenden der serverlosen GPU-Berechnung in Microsoft Dev Box

In diesem Artikel wird erläutert, was serverlose GPU-Compute ist, wie es funktioniert, und wichtige Szenarien für die Verwendung. Mit serverlosem GPU-Compute in Microsoft Dev Box (Vorschau) können Sie Entwicklungsumgebungen mit GPU-Beschleunigung hochfahren – keine zusätzliche Einrichtung erforderlich. Dev Box serverless GPU Compute ermöglicht Entwicklern die Verwendung von GPU-Ressourcen bei Bedarf ohne permanente Infrastruktur oder komplexe Einrichtung.

Häufige Szenarien für serverlose GPU-Compute umfassen rechenintensive Workloads wie KI-Modellschulungen, Rückschlüsse und Datenverarbeitung. Die Serverlose GPU-Berechnung ermöglicht Folgendes:

  • Verwenden von GPU-Ressourcen nur, wenn Sie sie benötigen
  • Skalieren von GPU-Ressourcen basierend auf Workloadanforderungen
  • Zahlen Sie nur für die von Ihnen verwendete GPU-Zeit
  • Arbeiten in der sicheren Netzwerkumgebung Ihrer Organisation

Diese Funktion integriert Microsoft Dev Box in Azure-Container-Apps, um GPU-Energie bereitzustellen, ohne dass Entwickler die Infrastruktur verwalten müssen.

Serverlose GPU-Compute in Dev Box verwendet Azure Container Apps (ACA). Wenn eine Fachkraft in der Entwicklung eine GPU-fähige Shell oder ein Tool startet, werden für Dev Box automatisch folgende Aktionen ausgeführt:

  • Erstellt eine Verbindung mit einer serverlosen GPU-Sitzung.
  • Stellt die erforderlichen GPU-Ressourcen zur Bereitstellung
  • Stellt diese Ressourcen über das Terminal oder die integrierte Entwicklungsumgebung des Entwicklers zur Verfügung.
  • Beendet die Sitzung automatisch, wenn sie nicht mehr benötigt wird.

Voraussetzungen

  • Ein Azure-Abonnement
  • Ein Microsoft Dev Box-Projekt

Konfigurieren der serverlosen GPU

Administratoren steuern den serverlosen GPU-Zugriff auf Projektebene über Dev Center. Zu den wichtigsten Verwaltungsfunktionen gehören:

  • GPU-Zugriff aktivieren/deaktivieren: Steuern Sie, ob Projekte serverlose GPU-Ressourcen verwenden können.
  • Festlegen gleichzeitiger GPU-Grenzwerte: Legen Sie die maximale Anzahl von GPUs fest, die gleichzeitig in einem Projekt verwendet werden können.

Der Zugriff auf serverlose GPU-Ressourcen wird über Eigenschaften auf Projektebene verwaltet. Wenn das Serverlose GPU-Feature für ein Projekt aktiviert ist, können alle Dev Boxes in diesem Projekt GPU-Compute verwenden. Dieses einfache Zugriffsmodell entfernt die Notwendigkeit benutzerdefinierter Rollen oder poolbasierter Konfigurationen.

Registrieren der serverlosen GPU für das Abonnement

  1. Melden Sie sich beim Azure-Portal an.
  2. Navigieren Sie Ihren Abonnements.
  3. Wählen Sie Einstellungen>Vorschaufunktionen aus.
  4. Wählen Sie Dev Box Serverless GPU Preview und dann "Registrieren" aus. Screenshot der Azure-Abonnementseite mit dem Feature

Aktivieren der serverlosen GPU für ein Projekt

  1. Gehen Sie zu Ihrem Projekt.
  2. Wählen Sie Einstellungen>Dev-Box-Einstellungen.
  3. Wählen Sie unter KI-Workloads die Option Aktivieren und dann Anwenden aus. Screenshot der Seite

Herstellen einer Verbindung mit einer GPU

Nachdem Sie serverlose GPU aktiviert haben, sehen Dev Box-Benutzer in diesem Projekt GPU-Optionen in ihren Terminal- und VS-Codeumgebungen.

Sie können eine Verbindung mit einer der folgenden Methoden herstellen:

Methode 1: Starten einer Gpu-Shell für Dev Box

  1. Öffnen Sie Windows Terminal in Ihrem Entwicklerfeld.
  2. Führen Sie den folgenden Befehl aus: 
    devbox gpu shell
  3. Verbindet Sie mit einem vorkonfigurierten GPU-Container.

Methode 2: Verwenden von VS Code mit Remotetunneln

  1. Öffnen Sie Windows Terminal in Ihrem Entwicklerfeld.
  2. Führen Sie den folgenden Befehl aus: 
    devbox gpu shell
  3. Starten Sie Visual Studio Code.
  4. Installieren der Erweiterung für Remotetunnel
  5. Stellen Sie eine Verbindung mit dem Tunnel gpu-session her.

Verwandte Inhalte