Überwachen, debuggen und bereitstellen

Verfolgen Sie Experimente, inspizieren Sie Logs, planen Sie Produktions-GPU-Workloads und stellen Sie die Modelle bereit, die Sie mit AI Runtime trainieren.

Thema Description
Läufe, Logs und Metriken nachverfolgen Verfolgen Sie Experimente, Metriken und Artefakte mit MLflow und sehen Sie sich Logs und GPU-Ressourcenverbrauch an.
GPU-Workloads planen Bereitstellen Sie Trainingscode mit Declarative Automation Bundles ein, planen Sie Läufe und erstellen Sie Multitask-GPU- und CPU-Workflows.
Eine Workload in ein Bundle umwandeln Wandeln Sie eine AI Runtime-Workload-YAML in deklarative Automatisierungspakete um, um sie als persistenten Job zu verwalten.
Bundle-Aufgaben konfigurieren Paketieren Sie den Trainingscode, wählen Sie GPU-Compute und Umgebungen aus und übergeben Sie die Konfiguration an Bundle-Aufgaben.
Trainierte Modelle bereitstellen Protokollieren, registrieren und bereiten Sie Modelle, die auf der KI-Laufzeit trainiert wurden, um Modellbereitstellungs-Endpunkte auf CPU- oder GPU-Compute zu implementieren.
Verwenden Sie Ihre Notebook-Umgebung Registrieren Sie ein Modell aus einem KI-Runtime-Notebook als Express-Deployment, sodass der Endpunkt dieselbe Umgebung und Pakete wie das Notebook verwendet.
LLMs bereitstellen Stellen Sie ein LLM bereit, das auf AI Runtime auf einem GPU-Endpunkt hinter einer OpenAI-kompatiblen API trainiert ist.