Monitorování stavu a výkonu agenta v rámci vašeho vozového parku

S tím, jak vaše organizace škáluje z izolovaných kopilotů na autonomní víceagentové flotily, se stává kritickým udržovat viditelnost a kontrolu. Řídicí rovina Microsoft Foundry poskytuje jednotné příkazové centrum, kde můžete monitorovat všechny agenty, modely a nástroje v rámci celé společnosti od sestavení po produkci.

Monitorování vozového parku plní více účelů:

  • Týmoví manažeři získají dohled nad provozem agentů a produktivitou týmu.
  • Správci vynucují zásady správného řízení a sledují stav dodržování předpisů.
  • Správci nákladů optimalizují útratu a identifikují neefektivní prostředky.
  • Týmy zabezpečení monitorují zakázané chování a porušení zásad.

V tomto článku se dozvíte, jak pomocí funkcí roviny řízení Foundry sledovat stav agenta, výkon, dodržování předpisů a nákladovou efektivitu ve velkém měřítku. Pomocí centralizovaného monitorování můžete včas identifikovat problémy, optimalizovat spotřebu prostředků a zajistit, aby vaše systémy AI fungovaly bezpečně a spolehlivě.

Požadavky

Poznámka

Tato funkce je dostupná jenom na portálu Foundry (nový). Vyhledejte v banneru portálu a ověřte, že používáte Foundry (new).

Jak funguje monitorování

Ovládací rovina Foundry objeví všechny agenty, ke kterým máte přístup. Používá prostředky Application Insights, které hostují vaše agenty, aby vám pomohly tyto agenty monitorovat a diagnostikovat.

Foundry Control Plane podporuje:

Vzhledem k tomu, že řídicí plošina Foundry agreguje informace mezi prostředky v rámci předplatného, mohou různí uživatelé v závislosti na svém přístupu vidět různé uvedené agenty.

Foundry Řídicí rovina agreguje protokoly a metriky dostupné pro každý prostředek Application Insights, který je připojený k jednotlivým agentům.

Diagram architektury, který znázorňuje, jak Řídicí rovina Foundry využívá Application Insights ke shromažďování protokolů a metrik napříč prostředky

Foundry Control Plane vyžaduje, aby agenti protokolovali diagnostické informace podle standardů OpenTelemetry se sémantickými konvencemi pro aplikace generativní AI. Pro každý prostředek nemusíte konfigurovat Application Insights, ale důrazně se doporučuje. Pokud řídicí rovina obsahuje tato data, může poskytovat:

  • Metriky stavu flotily agentů: Sledování aktivních agentů, míry dokončení úloh a trendů chyb v celé flotile agentů.
  • Sledování nákladů a výkonu: Monitorování využití tokenů, spotřeby rozpočtu a efektivity prostředků ve všech agentech
  • Detekce anomálií: Identifikace špiček nákladů, snížení výkonu a nově vznikajících problémů prostřednictvím analýzy trendu
  • Podrobná analýza: Přechod z metrik na úrovni flotily na jednotlivé trasování agentů a protokoly pro podrobné šetření

Důležité

Agenti běžící na prostředcích bez Application Insights nemají metriky stavu, sledování nákladů ani podrobné trasování.

Konfigurace monitorování

Pro každý projekt, ve kterém chcete nakonfigurovat monitorování, postupujte takto:

  1. Přihlaste se k Microsoft Foundry. Ujistěte se, že je zapnutý přepínač New Foundry . Tyto kroky odkazují na Foundry (nové).

  2. Na panelu nástrojů vyberte Operace.

  3. V levém podokně vyberte Admin.

  4. V části Všechny projekty zadejte do vyhledávacího pole název projektu.

  5. Vyberte projekt.

  6. Vyberte kartu Připojené prostředky .

  7. Ověřte, že pro kategorii AppInsights existuje přidružený prostředek.

    Snímek obrazovky portálu pro správu, který ukazuje, jak ověřit, jestli má projekt přidružený prostředek Application Insights

  8. Pokud žádný přidružený prostředek neexistuje, přidejte ho tak, že vyberete Přidat připojení a pak vyberete Application Insights.

    Tip

    Trasování můžete odesílat buď do různých prostředků Application Insights, nebo do stejného prostředku, a to podle vašich požadavků na řízení a zabezpečení.

Váš projekt je teď nakonfigurovaný pro pozorovatelnost a trasování. Pokud chcete ověřit, že je monitorování aktivní, přejděte na portálu Foundry na Přehled provozu>, vyberte projekt z rozevíracího seznamu a ověřte, že se na řídicím panelu zobrazují metriky agenta. Naplnění metrik po počáteční konfiguraci může trvat několik minut.

Zobrazení metrik

Agregované metriky pro všechny agenty ve vybraném projektu můžete zobrazit pomocí Foundry. Podokno Přehled poskytuje přehled o stavu vozového parku, dodržování předpisů a trendech výkonu.

  1. Přihlaste se k Microsoft Foundry. Ujistěte se, že je zapnutý přepínač New Foundry . Tyto kroky odkazují na Foundry (nové).

  2. Na panelu nástrojů vyberte Operace.

  3. Prohlédněte si metriky zobrazené v podokně Přehled , ve kterém se ve výchozím nastavení zobrazují běžné metriky a přehledy všech zjištěných agentů v rámci předplatného.

    Animace podokna Přehled zobrazující skóre stavu na základě trendů, souhrny výstrah a agregované metriky dodržování předpisů pro flotilu

  4. V rozevíracím seznamu projektů v případě potřeby vyberte projekt, pro který chcete určit rozsah metrik.

  5. Vyberte rozsah dat pomocí selektorů kalendářních dat v pravém horním rohu.

Podokno Přehled zobrazuje skóre stavu na úrovni vozového parku, souhrny výstrah, počty aktivních agentů, míry chyb a metriky dodržování předpisů pro vybraný časový rozsah. Pomocí tohoto zobrazení můžete rychle vyhodnotit provozní stav vašeho vozového parku a identifikovat oblasti, které vyžadují pozornost.

Zobrazení metrik jednotlivých agentů

Všechna vaše aktiva v rámci konkrétního projektu spolu s metrikami nejvyšší úrovně můžete zobrazit ve Foundry.

  1. Přihlaste se k Microsoft Foundry. Ujistěte se, že je zapnutý přepínač New Foundry . Tyto kroky odkazují na Foundry (nové).

  2. Na panelu nástrojů vyberte Operace.

  3. V levém podokně vyberte Prostředky.

  4. Vyberte kartu Agenti .

    Snímek obrazovky záložky Agenti zobrazující všechny registrované agenty s metrikami nejvyšší úrovně.

    Na záložce jsou uvedeny podrobnosti o agentech zjištěných v rámci předplatného. Další informace o těchto podrobnostech najdete v inventáři agentů.

  5. Pokud chcete zobrazit podrobnější informace o výkonu jednotlivých agentů, vyberte agenta. Podokno, které se zobrazí, poskytuje rychlé přehledy o stavu vybraného agenta a nedávné aktivitě. Slouží k identifikaci problémů a provádění nápravných akcí.

    Snímek obrazovky s podoknem Foundry, které zobrazuje podrobnosti vybraného agenta

    Podokno obsahuje tyto oddíly:

    • Aktivní výstrahy: Umožňuje zobrazit zásady, zabezpečení a vyhodnocovací výstrahy seskupené podle závažnosti a provést akci.
    • Aktivita: Podívejte se na klíčové metriky, jako je míra chyb v průběhu času, celkové informace o spuštění a informace o využití tokenu.

Další informace o správě jednotlivých agentů najdete v tématu Správa agentů ve velkém měřítku.

Řešení potíží s monitorováním

Pokud na řídicím panelu nevidíte očekávané metriky nebo agenty, zkontrolujte následující běžné příčiny:

  • Nezobrazují se agenti v panelu Prostředky: Ověřte, že máte oprávnění ke čtení k předplatnému a projektu, ve kterém jsou agenti nasazeni. Různí uživatelé vidí různé agenty v závislosti na úrovni přístupu.
  • Metriky jsou prázdné nebo chybí: Ověřte, že je prostředek Application Insights připojený k projektu (viz Konfigurace monitorování). Naplnění metrik po počátečním připojení může trvat několik minut.
  • Metriky stavu nebo tras nejsou dostupné pro konkrétního agenta: Agent může běžet na prostředku bez toho, aby měl nastavenu službu Application Insights. Připojte prostředek Application Insights k projektu agenta, abyste umožnili stavová data a podrobné trasování.
  • Data o nákladech se nezobrazují: Ověřte, že máte roli Cost Management Reader v rámci svého předplatného.

Související obsah

  • Last updated on