Monitoruj, debuguj i wdrażaj

Śledź eksperymenty, kontroluj logi, planuj produkcyjne obciążenia GPU i wdrażaj modele trenowane w AI Runtime.

Temat Description
Śledź przebiegi, logi i metryki Śledź eksperymenty, metryki i artefakty za pomocą MLflow oraz przeglądaj logi i zużycie zasobów GPU.
Planuj obciążenia GPU Wdrażaj kod treningowy z pakietami Deklaratywnej Automatyzacji, planuj uruchomienia i buduj wielozadaniowe workflowy GPU i CPU.
Przekonwertować zadanie robocze na pakiet Przekonwertuj obciążenie AI Runtime YAML na Declarative Automation Bundles, aby zarządzać nim jako trwałym zadaniem.
Konfiguruj zadania pakietu Pakowanie kodu treningowego, wybór obliczeń GPU i środowisk oraz przekazywanie konfiguracji do zadań pakietowych.
Udostępniaj wytrenowane modele Loguj, rejestruj i wdrażaj modele trenowane w AI Runtime do punktów końcowych Model Serving na infrastrukturze CPU lub GPU.
Udostępniaj w środowisku swojego notebooka Zarejestruj model z notatnika AI Runtime jako wdrożenie ekspresowe, tak aby punkt końcowy korzystał z tego samego środowiska i pakietów co notatnik.
Udostępniaj modele LLM Obsługuj LLM wytrenowany na AI Runtime w punkcie końcowym GPU za pośrednictwem interfejsu API kompatybilnego z OpenAI.