Überwachen der Anwendung für generative KI
Fortgeschrittene Anfänger
KI-Techniker
Azure
Azure KI Services
Erfahren Sie, wie Sie die Leistung Ihrer generativen KI-Anwendung mithilfe von Azure AI Foundry überwachen. In diesem Modul lernen Sie wichtige Metriken wie Latenz und Tokenverwendung nachzuverfolgen, um fundierte, kostengünstige Bereitstellungsentscheidungen zu treffen.
Lernziele
Am Ende dieses Moduls können Sie:
- Verstehen Sie, warum die Überwachung entscheidend ist, wenn Gen KI-Apps in Richtung Produktionsreife weiterentwickelt werden.
- Identifizieren und Interpretieren wichtiger Leistungsmetriken: Latenz, Durchsatz, Tokenverwendung und Fehlerraten.
- Verwenden Sie Azure Monitor zusammen mit Azure AI Foundry, um das App-Verhalten zu beobachten und zu analysieren.
- Wenden Sie Einblicke an, um Leistung, Kosten und Benutzerfreundlichkeit in GEN-KI-Lösungen zu optimieren.
Voraussetzungen
Bevor Sie dieses Modul starten, sollten Sie mit folgenden Kenntnissen vertraut sein:
- Grundlegende Softwareentwicklungskonzepte
- Grundlegende KI-Konzepte
- Grundlegende Azure-Konzepte
Erste Schritte mit Azure
Wählen Sie das für Sie geeignete Azure-Konto aus. Nutzen Sie die Vorausbezahlung, oder testen Sie Azure kostenlos für bis zu 30 Tage. Registrieren: