Sdílet prostřednictvím


Sledovat Azure OpenAI

Poznámka:

Tento dokument se týká portálu Microsoft Foundry (Classic).

🔍Informace o novém portálu najdete v dokumentaci k Microsoft Foundry (nové).

Tento článek popisuje:

  • Typy dat monitorování, které můžete pro tuto službu shromažďovat.
  • Způsoby analýzy dat

Poznámka:

Pokud už tuto službu nebo Azure Monitor znáte a chcete jenom vědět, jak analyzovat data monitorování, přečtěte si část Analyzovat na konci tohoto článku.

Pokud máte důležité aplikace a obchodní procesy, které spoléhají na prostředky Azure, musíte monitorovat a dostávat výstrahy pro váš systém. Služba Azure Monitor shromažďuje a agreguje metriky a protokoly ze všech komponent systému. Azure Monitor poskytuje přehled o dostupnosti, výkonu a odolnosti a upozorní vás na problémy. K nastavení a zobrazení dat monitorování můžete použít Azure Portal, PowerShell, Azure CLI, ROZHRANÍ REST API nebo klientské knihovny.

Přehledy

Azure OpenAI poskytuje předefinované řídicí panely pro každý z vašich prostředků Azure OpenAI. Prostředek můžete monitorovat dvěma klíčovými řídicími panely:

  • Řídicí panel metrik v rozhraní prostředků Azure OpenAI ve Foundry
  • Řídicí panel v podokně přehledu na webu Azure Portal

Pokud chcete získat přístup k řídicím panelům monitorování, přihlaste se k webu Azure Portal a vyberte podokno přehledu pro některý z vašich prostředků Azure OpenAI. Pokud chcete zobrazit řídicí panel metrik Foundry na webu Azure Portal, vyberte podokno přehledu a přejděte na portál Microsoft Foundry. V části Nástroje vyberte řídicí panel metrik.

Snímek obrazovky znázorňující předem otevřené řídicí panely pro prostředek Azure OpenAI na webu Azure Portal

Řídicí panely jsou seskupené do čtyř kategorií: požadavky HTTP, využití založené na tokenech, využití PTU a jemné ladění.

Shromažďování a směrování dat ve službě Azure Monitor

Azure OpenAI shromažďuje stejné druhy dat monitorování jako jiné prostředky Azure. Azure Monitor můžete nakonfigurovat tak, aby generoval data v protokolech aktivit, protokolech prostředků, protokolech virtuálních počítačů a metrikách platformy. Další informace najdete v tématu Monitorování dat z prostředků Azure.

Metriky platformy a protokol aktivit služby Azure Monitor se shromažďují a ukládají automaticky. Tato data je možné směrovat do jiných umístění pomocí nastavení diagnostiky. Protokoly prostředků služby Azure Monitor se neshromažďují a neukládají, dokud nevytvoříte nastavení diagnostiky a pak protokoly směrujete do jednoho nebo více umístění.

Při vytváření nastavení diagnostiky určíte, které kategorie protokolů se mají shromažďovat. Další informace o vytváření nastavení diagnostiky pomocí webu Azure Portal, Azure CLI nebo PowerShellu najdete v tématu Vytvoření nastavení diagnostiky pro shromažďování protokolů platformy a metrik v Azure.

Mějte na paměti, že použití nastavení diagnostiky a odesílání dat do protokolů služby Azure Monitor má spojené další náklady. Další informace najdete v tématu Výpočty a možnosti nákladů služby Azure Monitor.

Metriky a protokoly, které můžete shromažďovat, jsou popsány v následujících částech.

Typy zdrojů

Azure používá koncept typů prostředků a ID k identifikaci všeho v předplatném. Typy prostředků jsou také součástí ID prostředků pro každý prostředek spuštěný v Azure. Například jedním z typů prostředků pro virtuální počítač je Microsoft.Compute/virtualMachines. Seznam služeb a jejich přidružených typů prostředků najdete v tématu Poskytovatelé prostředků.

Azure Monitor podobně řadí základní monitorovací data do metrik a protokolů podle typů prostředků, také nazývaných jako jmenné prostory. Různé metriky a protokoly jsou k dispozici pro různé typy prostředků. Vaše služba může být přidružená k více než jednomu typu prostředku.

Další informace o typech prostředků pro Azure OpenAI najdete v referenčních informacích k datům monitorování Azure OpenAI.

Úložiště dat

Pro použití Azure Monitoru:

  • Data metrik se ukládají v databázi metrik služby Azure Monitor.
  • Data protokolů se ukládají v úložišti protokolů služby Azure Monitor. Log Analytics je nástroj v portálu Azure, který umožňuje dotazování na toto úložiště.
  • Protokol aktivit Azure je samostatné úložiště s vlastním rozhraním na webu Azure Portal.

Volitelně můžete směrovat data metriky a protokolu aktivit do úložiště protokolů služby Azure Monitor. Log Analytics pak můžete použít k dotazování na data a jejich korelaci s jinými daty protokolů.

Mnoho služeb může použít nastavení diagnostiky k odesílání metrik a dat protokolů do jiných umístění úložiště mimo Azure Monitor. Mezi příklady patří Azure Storage, hostované partnerské systémy a partnerské systémy mimo Azure pomocí služby Event Hubs.

Podrobné informace o tom, jak Azure Monitor ukládá data, najdete na datové platformě Azure Monitoru.

Metriky služby Azure Monitor

Azure Monitor poskytuje metriky platformy pro většinu služeb. Tyto metriky jsou:

  • Individuálně definované pro každý namespace.
  • Uložená v databázi metrik časových řad služby Azure Monitor.
  • Zjednodušené a schopné podporovat upozorňování téměř v reálném čase.
  • Používá se ke sledování výkonu prostředku v průběhu času.

Kolekce: Azure Monitor shromažďuje metriky platformy automaticky. Není nutná žádná konfigurace.

Směrování: Některé metriky platformy můžete také směrovat do protokolů služby Azure Monitor / Log Analytics, abyste je mohli dotazovat s jinými daty protokolů. Zkontrolujte nastavení exportu DS pro každou metriku a zjistěte, jestli můžete pomocí nastavení diagnostiky směrovat metriku do protokolů služby Azure Monitor nebo Log Analytics.

Seznam všech metrik, které je možné shromáždit pro všechny prostředky ve službě Azure Monitor, najdete v tématu Podporované metriky ve službě Azure Monitor.

Azure OpenAI má společnou podobnost s podmnožinou Nástrojů Foundry. Seznam dostupných metrik pro Azure OpenAI najdete v referenčních informacích k datům monitorování Azure OpenAI.

Protokoly zdrojů Azure Monitor

Logy zdrojů umožňují náhled do operací, které byly provedeny prostřednictvím prostředku Azure. Protokoly se generují automaticky, ale pokud je chcete uložit nebo dotazovat, musíte je směrovat do protokolů služby Azure Monitor. Protokoly jsou uspořádané do jednotlivých kategorií. Daný obor pojmenování může mít více kategorií záznamů prostředků.

Kolekce: Protokoly zdrojů se neshromažďují a neukládají, dokud nevytvoříte diagnostické nastavení a nesměrujete protokoly do jednoho nebo více umístění. Při vytváření nastavení diagnostiky určíte, které kategorie protokolů se mají shromažďovat. Existuje několik způsobů, jak vytvořit a udržovat nastavení diagnostiky, včetně webu Azure Portal, prostřednictvím kódu programu a služby Azure Policy.

Směrování: Navrhované výchozí nastavení je směrovat záznamy o prostředcích do protokolů služby Azure Monitor, tak, aby bylo možné je dotazovat pomocí jiných dat protokolu. K dispozici jsou také jiná umístění, jako je Azure Storage, Azure Event Hubs a někteří monitorovací partneři Microsoftu. Pro více informací se podívejte na protokoly prostředků Azure a umístění protokolů prostředků.

Podrobné informace o shromažďování, ukládání a směrování protokolů prostředků najdete v části Nastavení diagnostiky ve službě Azure Monitor.

Seznam všech dostupných kategorií protokolů prostředků ve službě Azure Monitor najdete v tématu Podporované protokoly prostředků ve službě Azure Monitor.

Všechny protokoly prostředků v Azure Monitor mají stejná hlavičková pole, za kterými následují pole specifická pro službu. Běžné schéma je uvedeno ve Azure Monitor resource log schema.

Dostupné kategorie protokolů prostředků, přidružené tabulky Log Analytics a schémata protokolů pro Azure OpenAI najdete v referenčních informacích k datům monitorování Azure OpenAI.

Protokol aktivit Azure

Protokol aktivit obsahuje události na úrovni předplatného, které sledují operace každého prostředku Azure tak, jak jsou viditelné zvenčí; například vytvoření nového prostředku nebo spuštění virtuálního počítače.

Shromažďování: Události protokolu aktivit se automaticky generují a shromažďují v samostatném úložišti pro zobrazení na webu Azure Portal.

Směrování: Data protokolu aktivit můžete odesílat do protokolů služby Azure Monitor, abyste je mohli analyzovat společně s dalšími daty protokolů. K dispozici jsou také jiná umístění, jako je Azure Storage, Azure Event Hubs a někteří monitorovací partneři Microsoftu. Další informace o směrování protokolu aktivit najdete v tématu Přehled protokolu aktivit Azure.

Analýza dat monitorování

Existuje mnoho nástrojů pro analýzu dat monitorování.

Nástroje služby Azure Monitor

Azure Monitor podporuje následující základní nástroje:

Mezi nástroje, které umožňují složitější vizualizaci, patří:

  • Řídicí panely , které umožňují kombinovat různé druhy dat do jednoho podokna na webu Azure Portal.
  • Sešity a přizpůsobitelné sestavy, které můžete vytvořit v portálu Azure. Sešity mohou obsahovat text, metriky a dotazy na logy.
  • Grafana, otevřený nástroj platformy, který exceluje v provozních řídicích panelech Grafana umožňuje vytvářet řídicí panely, které obsahují data z více zdrojů, než je Azure Monitor.
  • Power BI, služba obchodní analýzy, která poskytuje interaktivní vizualizace napříč různými zdroji dat. Power BI můžete nakonfigurovat tak, aby automaticky naimportovali data protokolů ze služby Azure Monitor, abyste mohli tyto vizualizace využívat.

Konfigurace nastavení diagnostiky

Všechny metriky se dají exportovat pomocí nastavení diagnostiky ve službě Azure Monitor. Pokud chcete analyzovat protokoly a data metrik pomocí dotazů Log Analytics služby Azure Monitor, musíte nakonfigurovat nastavení diagnostiky pro prostředek Azure OpenAI a pracovní prostor služby Log Analytics.

Snímek obrazovky, který ukazuje, jak otevřít stránku nastavení diagnostiky pro prostředek Azure OpenAI na webu Azure Portal

Po konfiguraci nastavení diagnostiky můžete pracovat s metrikami a daty protokolu pro prostředek Azure OpenAI v pracovním prostoru služby Log Analytics.

Nástroje pro export ve službě Azure Monitor

Data ze služby Azure Monitor můžete získat do jiných nástrojů pomocí následujících metod:

Pokud chcete začít s rozhraním REST API pro Azure Monitor, přečtěte si průvodce rozhraním REST API pro monitorování Azure.

Dotazy pro Kusto

Data monitorování můžete analyzovat v protokolech služby Azure Monitor nebo v úložišti Log Analytics pomocí dotazovacího jazyka Kusto (KQL).

Důležité

Když na portálu vyberete protokoly z nabídky služby, otevře se Log Analytics s oborem dotazu nastaveným na aktuální službu. Tento obor znamená, že dotazy protokolu budou obsahovat pouze data z tohoto typu prostředku. Pokud chcete spustit dotaz, který obsahuje data z jiných služeb Azure, vyberte Protokoly z nabídky Azure Monitor. Podrobnosti najdete v tématu Rozsah dotazů protokolu a časový rozsah ve službě Azure Monitor Log Analytics .

Seznam běžných dotazů pro libovolnou službu najdete v rozhraní dotazů Log Analytics.

Po nasazení modelu Azure OpenAI můžete posílat volání pro dokončení pomocí prostředí playground v Foundry.

Veškerý text, který zadáte do dětského hřiště Dokončení nebo do dětského hřiště pro dokončování chatu, generuje metriky a data protokolu pro váš prostředek Azure OpenAI. V pracovním prostoru služby Log Analytics pro váš prostředek můžete dotazovat data monitorování pomocí dotazovacího jazyka Kusto .

Důležité

Možnost Otevřít dotaz na stránce prostředků Azure OpenAI přejde na Azure Resource Graph, který není popsaný v tomto článku. Následující dotazy používají prostředí dotazů pro Log Analytics. Nezapomeňte postupovat podle kroků v části Konfigurace nastavení diagnostiky pro přípravu pracovního prostoru služby Log Analytics.

  1. Na stránce prostředku Azure OpenAI v části Monitorování v levém podokně vyberte Protokoly.

  2. Vyberte pracovní prostor služby Log Analytics, který jste nakonfigurovali pomocí diagnostiky pro prostředek Azure OpenAI.

  3. Na stránce pracovního prostoru služby Log Analytics v části Přehled v levém podokně vyberte Protokoly.

    Na webu Azure Portal se ve výchozím nastavení zobrazí okno Dotazy s ukázkovými dotazy a návrhy. Toto okno můžete zavřít.

V následujících příkladech zadejte dotaz Kusto do oblasti úprav v horní části okna Dotazu a pak vyberte Spustit. Výsledky dotazu se zobrazí pod textem dotazu.

Následující dotaz Kusto je užitečný pro počáteční analýzu dat Azure Diagnostics (AzureDiagnostics) o vašem prostředku:

AzureDiagnostics
| take 100
| project TimeGenerated, _ResourceId, Category, OperationName, DurationMs, ResultSignature, properties_s

Tento dotaz vrátí vzorek 100 položek a zobrazí podmnožinu dostupných sloupců dat v protokolech. Ve výsledcích dotazu můžete vybrat šipku vedle názvu tabulky a zobrazit všechny dostupné sloupce a přidružené datové typy.

Snímek obrazovky znázorňující výsledky dotazu Log Analytics pro data azure Diagnostics o prostředku Azure OpenAI

Pokud chcete zobrazit všechny dostupné sloupce dat, můžete z dotazu odebrat řádek | project ... parametrů oborů:

AzureDiagnostics
| take 100

Pokud chcete prozkoumat data metrik Azure proAzureMetrics váš prostředek, spusťte následující dotaz:

AzureMetrics
| take 100
| project TimeGenerated, MetricName, Total, Count, Maximum, Minimum, Average, TimeGrain, UnitName

Dotaz vrátí vzorek 100 položek a zobrazí podmnožinu dostupných sloupců dat metrik Azure:

Snímek obrazovky znázorňující výsledky dotazu Log Analytics pro data metrik Azure o prostředku Azure OpenAI

Poznámka:

Když v nabídce Azure OpenAI pro váš prostředek vyberete Protokoly monitorování>, otevře se Log Analytics s rozsahem dotazu nastaveným na aktuální prostředek. Viditelné dotazy protokolu zahrnují pouze data z daného prostředku. Pokud chcete spustit dotaz, který obsahuje data z jiných prostředků nebo dat z jiných služeb Azure, vyberte protokoly z nabídky Azure Monitoru na webu Azure Portal. Další informace najdete v tématu Rozsah dotazu protokolu a časový rozsah ve službě Azure Monitor Log Analytics .

Výstrahy

Upozornění služby Azure Monitor vás aktivně upozorňují, když se v datech monitorování nacházejí konkrétní podmínky. Upozornění umožňují identifikovat a řešit problémy ve vašem systému, než si je zákazníci všimnou. Další informace najdete v tématu Upozornění služby Azure Monitor.

Existuje mnoho zdrojů běžných upozornění pro prostředky Azure. Příklady běžných upozornění pro prostředky Azure najdete v části Ukázkové dotazy na protokolová upozornění. Web AMBA (Baseline Alerts) služby Azure Monitor poskytuje poloautomatickou metodu implementace důležitých upozornění, řídicích panelů a pokynů pro metriky platformy. Web se vztahuje na neustále se rozšiřující podmnožinu služeb Azure, včetně všech služeb, které jsou součástí cílové zóny Azure (ALZ).

Unifikované schéma upozornění standardizuje příjem notifikací služby Azure Monitor. Další informace najdete v tématu Běžné schéma upozornění.

Typy výstrah

Na libovolnou metriku nebo zdroj protokolových dat na datové platformě Azure Monitoru můžete nastavit upozornění. Existuje mnoho různých typů upozornění v závislosti na službách, které monitorujete, a na datech monitorování, která shromažďujete. Různé typy upozornění mají různé výhody a nevýhody. Další informace naleznete v tématu Volba správného typu upozornění monitorování.

Následující seznam popisuje typy upozornění služby Azure Monitor, které můžete vytvořit:

  • Upozornění na metriky vyhodnocují metriky prostředků v pravidelných intervalech. Metriky můžou být metriky platformy, vlastní metriky, protokoly ze služby Azure Monitor převedené na metriky nebo metriky Application Insights. Upozornění na metriky můžou také použít více podmínek a dynamických prahových hodnot.
  • Protokolová upozornění umožňují uživatelům použít dotaz Log Analytics k vyhodnocení protokolů prostředků v předem definovaných intervalech.
  • Upozornění protokolu aktivit se aktivují, když dojde k nové události protokolu aktivit, která odpovídá definovaným podmínkám. Upozornění na stav prostředků a upozornění na stav služby jsou upozornění z protokolu aktivit, která informují o stavu vašich služeb a prostředků.

Některé služby Azure také podporují upozornění inteligentního zjišťování, výstrahy Prometheus nebo doporučená pravidla upozornění.

U některých služeb můžete monitorovat škálování použitím stejného pravidla upozornění na metriku u více prostředků stejného typu, které existují ve stejné oblasti Azure. Jednotlivá oznámení se odesílají pro každý monitorovaný prostředek. Pro informace o podporovaných službách a cloudech Azure viz Monitorování více prostředků pomocí jednoho pravidla upozornění.

Nastavení upozornění

Požadavky na upozorňování každé organizace se liší a můžou se v průběhu času měnit. Obecně platí, že všechny výstrahy by měly být použitelné a měly by mít konkrétní zamýšlenou odpověď, pokud dojde k výstraze. Pokud výstraha nevyžaduje okamžitou odpověď, může být podmínka zachycena v sestavě, nikoli v upozornění. Některé případy použití můžou vyžadovat upozorňování, kdykoli existují určité chybové podmínky. V jiných případech můžete potřebovat upozornění na chyby, které překročí určitou prahovou hodnotu pro určené časové období.

Chyby pod určitými prahovými hodnotami se často dají vyhodnotit prostřednictvím pravidelné analýzy dat v protokolech služby Azure Monitor. Při analýze dat protokolu v průběhu času můžete zjistit, že určitá podmínka neproběhne v očekávaném časovém období. Tuto podmínku můžete sledovat pomocí výstrah. V některých případech je absence události v protokolu stejně důležitá jako chyba.

V závislosti na typu aplikace, kterou vyvíjíte pomocí Azure OpenAI, může Azure Monitor Application Insights nabídnout více výhod monitorování na aplikační vrstvě.

Pravidla upozornění Azure OpenAI

Můžete nastavit upozornění na libovolnou metriku, položku protokolu nebo položku protokolu aktivit uvedenou v referenčních informacích monitorování Azure OpenAI.

Doporučení poradce

U některých služeb, pokud během operací prostředků dojde k kritickým nebo bezprostředním změnám, zobrazí se na stránce Přehled služby na portálu výstraha. Další informace a doporučené opravy výstrahy najdete v doporučeních Advisoruv části Monitorování v nabídce vlevo. Během normálních operací se nezobrazují žádná doporučení poradce.

Další informace o Azure Advisoru najdete v přehledu Azure Advisoru.