Nastavení trasování v Microsoft Foundry

Důležité

Položky označené (Preview) v tomto článku jsou aktuálně ve verzi Public Preview. Tato verze Preview je poskytována bez smlouvy o úrovni služeb a nedoporučujeme ji pro produkční úlohy. Některé funkce nemusí být podporované nebo můžou mít omezené možnosti. Další informace najdete v tématu Supplementální podmínky použití pro Microsoft Azure Verze Preview.

Poznámka

Trasování je obecně dostupné pouze pro rychlé agenty. Hostovaní agenti, agenti pracovních postupů a externí agenti jsou k dispozici v předběžném náhledu.

Pomocí trasování můžete ladit agenty AI a monitorovat jejich chování v produkčním prostředí. Trasování zaznamenává podrobnou telemetrii, včetně latence, výjimek, obsahu dotazů a operací načítání, abyste mohli problémy rychleji identifikovat a opravit.

Doporučeným výchozím bodem je trasování na straně serveru. Foundry ho automaticky povolí, jakmile k projektu připojíte prostředek Application Insights. Nejsou potřeba žádné změny kódu a trasování je k dispozici během několika minut po jeho povolení. Trasování na straně serveru funguje pro všechny agenty hostované v Foundry. Pokud potřebujete přehled o vlastním kódu aplikace – například pro trasování vlastní logiky kolem volání agenta – můžete jako druhý krok doplnit instrumentaci na straně klienta.

Požadavky

Připojení Application Insights k projektu Foundry

Foundry ukládá trasování v Application Insights pomocí sémantických konvencí OpenTelemetry.

  1. Přihlaste se k Microsoft Foundry. Ujistěte se, že je zapnutý přepínač New Foundry . Tyto kroky se vztahují na Foundry (nové).
  2. Otevřete projekt Foundry.
  3. V levém navigačním panelu vyberte Agenti.
  4. Nahoře vyberte Stopy.
  5. Napravo vyberte Připojit a vytvořte nebo připojte prostředek Application Insights:
    • Pokud chcete připojit existující prostředek, vyberte prostředek a pak vyberte Připojit.
    • Pokud chcete vytvořit nový prostředek, vyberte Vytvořit nový a dokončete konfiguraci pomocí průvodce.

Snímek obrazovky s kartou Agenti zobrazující trasování a tlačítko pro připojení

Po úspěšném připojení se zobrazí potvrzovací zpráva.

Po připojení zdroje je projekt připravený k použití trasování.

Pokud panel zpráv nebo tlačítko Připojit nevidíte, tady je alternativní způsob, jak povolit Azure Monitor Application Insights.

  1. V rozevírací nabídce vyberte Podrobnosti projektu u názvu vašeho projektu. Snímek obrazovky nabídky názvu projektu s zvýrazněnými podrobnostmi projektu.
  2. Přejděte na kartu Připojené prostředky a pak vyberte Přidat připojení. Snímek obrazovky s podrobnostmi projektu se zvolenou kartou Připojené prostředky, která zvýrazňuje možnost Přidat připojení
  3. V nabídce Zvolit připojení vyberte Application Insights. Snímek obrazovky s možností Zvolit připojení zvýrazněnou službou Application Insights

Důležité

Ujistěte se, že máte oprávnění, která potřebujete k dotazování telemetrie.

Nástroje pro agenty AI

Zvolte přístup, který odpovídá způsobu sestavení a spuštění agenta.

Trasování na straně serveru na portálu Foundry

Začněte sledování na straně serveru. Foundry zaznamenává trasování protokolů pro běžné scénáře agentů a pracovních postupů, aniž by bylo nutné měnit váš kód.

  • Foundry automaticky zaznamenává záznamy na straně serveru pro agenty pro výzvy, agenty hostitele a pracovní postupy v portálu Foundry. Jakmile je trasování v projektu Foundry povolené, budete mít přístup k předem připraveným trasováním za posledních 90 dnů.
  • Foundry také umožňuje snadnou integraci s nejlepšími architekturami agentů.

Trasování na straně klienta pomocí sady Microsoft Foundry SDK (Python)

Nainstalujte OpenTelemetry a plug-in pro sledování Azure SDK pomocí:

pip install azure-ai-projects azure-identity opentelemetry-sdk azure-core-tracing-opentelemetry

Důležité

Použití koncového bodu projektu ve vaší aplikaci vyžaduje konfiguraci Microsoft Entra ID. Pokud nenakonfigurujete Microsoft Entra ID, použijte připojovací řetězec pro Application Insights.

Po spuštění agenta můžete začít zobrazovat a analyzovat trasování na portálu Foundry.

Podrobné pokyny a příklady kódu specifické pro sadu SDK najdete v tématu Tracing with azure-ai-projects (Python SDK) a Telemetry pro agenty.

Provádění místního trasování pomocí rozšíření Microsoft Foundry Toolkit for Visual Studio Code

Rozšíření Microsoft Foundry Toolkit pro Visual Studio Code umožňuje trasování místně ve VS Code pomocí místního kolektoru kompatibilního s OTLP, který je ideální pro vývoj a ladění.

Sada nástrojů podporuje architektury AI, jako je služba Foundry Agents Service, OpenAI, Anthropic a LangChain prostřednictvím OpenTelemetry. Trasování můžete okamžitě zobrazit ve VS Code bez nutnosti přístupu ke cloudu.

Podrobné pokyny k nastavení a příklady kódu specifické pro sadu SDK najdete v tématu Trasování v sadě Foundry Toolkit.

Zobrazení a analýza trasování

Zobrazení stop na portálu Foundry

V projektu Foundry přejděte na kartu Trasování v agentech nebo pracovních postupech. Můžete vyhledávat, filtrovat nebo řadit stopy nahrané za posledních 90 dní.

Výběrem trasování můžete procházet jednotlivé rozsahy, identifikovat problémy a sledovat, jak vaše aplikace reaguje. To vám pomůže ladit a určit problémy v aplikaci.

Zobrazení trasování v Azure Monitor

Vaše trasování se odesílá do Azure Monitor Application Insights, takže je tam můžete zobrazit.

Další informace o odesílání sledování do Azure Monitor a vytváření prostředků Azure Monitor najdete v dokumentaci Azure Monitor OpenTelemetry.

Zobrazení výsledků konverzace

Konverzace je trvalý kontext kompletní historie dialogu mezi uživatelem a agentem. V portálu Foundry můžete zobrazit výsledky Konverzace pro vašeho agenta, které jsou k dispozici hned po vybalení, spolu s tracemi na stránce Traces.

Můžete vyhledat konverzaci podle identifikátoru odpovědi nebo vyhledávat podle identifikátoru trasování, který se vztahuje k této konverzaci. Pak vyberte ID konverzace a zkontrolujte konverzaci:

  • Podrobnosti historie konverzací
  • Informace o odpovědích a tokeny během běhu
  • Seřazené akce, kroky spuštění a volání nástrojů
  • Vstupy a výstupy mezi uživatelem a agentem

Snímek obrazovky podokna Podrobnosti konverzace ve Foundry zobrazující ID konverzace s časovou osou sledování a podrobnostmi o běhu a krocích.

Ověřit, že trasování funguje

  1. Ověřte, že je váš projekt připojený k Application Insights. V případě potřeby postupujte podle kroků v připojení Application Insights k projektu Foundry.

  2. Spusťte agenta nebo pracovní postup alespoň jednou (například pomocí portálu nebo aplikace).

  3. V projektu Foundry otevřete zobrazení Tras a ověřte, že se objeví nová trasa.

    Když trasování funguje správně, zobrazí se seznam nedávných tras s časovými razítky, dobami trvání a indikátory stavu. Výběrem trasování zobrazíte podrobnosti rozsahu.

Pokud nové trasování nevidíte, počkejte několik minut a obnovte stránku, pak se podívejte na řešení potíží.

Zabezpečení a ochrana osobních údajů

Trasování může zaznamenávat citlivé informace (například vstupy uživatelů, výstupy modelu a argumenty a výsledky nástrojů). Pomocí těchto postupů můžete snížit riziko:

  • Neukládejte tajné kódy, přihlašovací údaje ani tokeny do výzev, argumentů nástrojů ani atributů span.
  • Redigujte nebo minimalizujte osobní údaje a další citlivý obsah, než se zobrazí v telemetrii.
  • Zacházejte s daty trasování jako s produkční telemetrií a použijte stejné řízení přístupu a zásady uchovávání informací, které používáte pro protokoly a metriky.

Další pokyny najdete v tématu Zabezpečení a ochrana osobních údajů.

Uchovávání dat a náklady

Foundry ukládá trasování v prostředku Application Insights připojeném k vašemu projektu. Uchovávání dat a fakturace se řídí konfigurací Application Insights a Log Analytics.

Řešení potíží

Problém Příčina Rozlišení
Nevidíte žádné stopy na portálu Foundry Trasování není aktivní, není žádný nedávný provoz, nebo zpracování dat je zpožděné Potvrďte připojení Application Insights, vygenerujte nový provoz agenta a aktualizujte po několika minutách.
Při dotazování nebo zobrazení telemetrie se zobrazí chyby autorizace. Chybějící oprávnění RBAC ve službě Application Insights nebo Log Analytics Potvrďte přístup v řízení přístupu (IAM) pro připojené prostředky. U dotazů protokolu přiřaďte roli čtenáře Log Analytics.
Trasování na straně klienta se nezobrazuje Instrumentace není nainstalovaná nebo nakonfigurovaná Znovu zkontrolujte instalaci balíčku a postupujte podle pokynů sady SDK, které jsou uvedeny v dokumentaci pro trasování na straně klienta pomocí sady Microsoft Foundry SDK (Python).
Citlivý obsah se objevuje ve stopách. Výzvy, argumenty nástroje nebo výstupy obsahují citlivá data. Před vstupem do telemetrie můžete citlivá data redactovat a postupovat podle pokynů v části Zabezpečení a ochrana osobních údajů.

Související obsah

Teď, když je trasování nastavené, prozkoumejte tyto prostředky, abyste si prohlubovali porozumění a rozšířili možnosti pozorovatelnosti:

  • Last updated on