Obserwowanie modelu za pomocą kodu Genie

Ważna

Ta funkcja jest dostępna w publicznej wersji testowej.

W tym artykule opisano, jak kod Genie może ułatwić diagnozowanie problemów, analizowanie wydajności i uzyskiwanie wskazówek dotyczących punktów końcowych obsługujących model.

Uwaga / Notatka

Genie Code obsługuje obecnie wyłącznie punkty końcowe dla niestandardowych modeli.

Z czym może pomóc genie Code?

Gdy używasz kodu Genie na stronie punktu końcowego obsługującego model, staje się ono towarzyszem obserwacji dla obsługi modelu. Może analizować kondycję punktu końcowego, diagnozować błędy wdrażania, badać problemy z opóźnieniami i udostępniać wskazówki dotyczące najlepszych rozwiązań — wszystko w okienku Kod genie.

Genie Code to doradca tylko do odczytu w tym trybie. Może on sprawdzać punkty końcowe i udostępniać zalecenia, ale nie może modyfikować konfiguracji ani wdrożeń. Zawiera jasne instrukcje krok po kroku i linki do dokumentacji, dzięki czemu możesz samodzielnie wprowadzać zmiany.

Wprowadzenie

Aby rozpocząć pracę:

1. Przejdź do strony punktu końcowego obsługującego model.
2. Kliknij Aby otworzyć okienko Kod genie.
3. W prawym dolnym rogu wybierz pozycję Agent. Powoduje to włączenie trybu agenta Genie Code.
4. Wprowadź monit opisujący, z czym potrzebujesz pomocy. Na przykład "Sprawdź kondycję tego punktu końcowego" lub "Dlaczego moje opóźnienie jest tak wysokie?"

Capabilities

Kontrole kondycji i diagnostyka

Kod Genie umożliwia analizowanie stanu i konfiguracji punktu końcowego w celu zidentyfikowania potencjalnych problemów:

• Sprawdź kondycję i stany wdrożenia punktu końcowego.
• Przejrzyj konfigurację pod kątem najlepszych rozwiązań.
• Ocena skalowania i wykorzystania zasobów.

Rozwiązywanie problemów i analiza

Kod Genie może pomóc w rozwiązywaniu problemów z punktami końcowymi:

• Diagnozowanie niepowodzeń wdrażania przy użyciu dzienników kompilacji, zdarzeń i stanu punktu końcowego.
• Badanie problemów z dużym opóźnieniem lub przekroczeniem limitu czasu przy użyciu metryk, zdarzeń i danych tabeli wnioskowania.
• Analizowanie wzorców błędów z dzienników usług i tabel wnioskowania.
• Identyfikowanie błędów konfiguracji lub ograniczeń zasobów.
• Porównaj bieżące i planowane konfiguracje z oceną ryzyka.

Wskazówki i najlepsze rozwiązania

Kod Genie zawiera zalecenia na podstawie konfiguracji punktu końcowego:

• Zalecamy optymalne konfiguracje skalowania dla obciążeń produkcyjnych i programistycznych.
• Wyjaśnij stany i przejścia punktu końcowego.
• Przewodnik po konfigurowaniu monitorowania i obserwacji.
• Wyszukaj dokumentację usługi Azure Databricks i podaj linki do odpowiednich artykułów.

Przypadki użycia

Spróbuj wykonać następujące podpowiedzi, aby rozpocząć pracę:

• Kontrole kondycji:
  • "Sprawdź kondycję tego punktu końcowego".
  • "Czy mój punkt końcowy jest poprawnie skonfigurowany?"
  • "Przejrzyj konfigurację skalowania punktu końcowego".
• Błędy wdrażania:
  • "/diagnose" lub "Dlaczego moje wdrożenie nie powiodło się?"
  • "Pomóż mi naprawić błędy wdrażania".
  • "Mój punkt końcowy jest zablokowany w stanie oczekiwania".
• Debugowanie opóźnienia:
  • "Dlaczego moje opóźnienie jest tak wysokie?"
  • "Przeanalizuj skok opóźnienia od dziś rano."
  • "Pokaż mi metryki wydajności z ostatnich 24 godzin".
• Przegląd konfiguracji:
  • "Co zmieniło się w mojej oczekującej konfiguracji?"
  • "Czy moje ustawienie współbieżności jest odpowiednie dla środowiska produkcyjnego?"
  • "Pokaż mi konfigurację tabeli wnioskowania".
• Historia żądań:
  • "Pokaż mi ostatnie żądania do tego punktu końcowego".
  • "Jakie błędy napotykają moi użytkownicy?"
  • "Analizowanie wzorców błędów z ostatniego tygodnia".

Dodatkowe informacje

• Kod Genie
• Korzystanie z kodu Genie
• Monitorowanie jakości modelu i kondycji punktu końcowego
• Przewodnik debugowania dotyczący obsługi modeli
• Optymalizowanie punktów końcowych obsługujących model dla środowiska produkcyjnego