Trasování a zpracování dat

Trasování ve Foundry je funkce monitorovatelnosti v Microsoft Foundry, která zachycuje data zákazníků od agentů AI. Pomáhá vývojářům a operátorům pochopit chování systému, řešit problémy a optimalizovat výkon.

Trasování zaznamenává informace, jako jsou:

  • Uživatelské vstupy a výzvy
  • Vstupy a výstupy agentů a modelů
  • Volání nástrojů a mezikroky
  • Metadata spouštění (časové razítka, latence, využití tokenů, chyby atd.)

Tato data můžou zahrnovat uživatelsky generovaný obsah a provozní telemetrii.

Tato data slouží k poskytnutí přehledu o tom, jak agenti fungují, což umožňuje odstraňování problémů a zvyšování výkonu v pracovních postupech agentů. Foundry používá standardy OpenTelemetry a ukládá data trasování v připojených telemetrických systémech Azure Monitor Application Insights.

Important

Když pro projekt povolíte AppInsights, AppInsights zaznamenává trasování, které pomáhá monitorovat a vyhodnocovat interakce uživatelů s agenty. Členové projektu s rolí Log Analytics Reader v AppInsights můžou zobrazit data tras, která můžou obsahovat osobní údaje a obsah zákazníka. Pokud jsou podkladové Log Analytics tabulky chráněné (jejich úroveň ochrany je nastavená na chráněno), členové potřebují k zobrazení dat trasování roli Privileged Monitoring Data Reader. Zkontrolujte, jaká data trasování se shromažďují a kdo může tato data zobrazit a používat. Další informace najdete v následující části.

Výchozí stav:

  • Trasování je ve výchozím nastavení vypnuté.
  • Data trasování se neshromažďují ani neukládají, pokud je výslovně nepovolí vlastník účtu Foundry nebo vlastník Foundry.

Mohou se účtovat další ceny služby Azure Monitor App Insights.

Tím zajistíte, že zákazníci zachovají kontrolu nad zahájením shromažďování dat.

Povolit trasování

Trasování je povolené, když je projekt připojený k prostředku Azure Monitor Application Insights. Mezi běžné toky povolení patří:

  • Vytvoření nebo připojení prostředku Application Insights během vytváření projektu
  • Vytvoření nebo připojení prostředku Application Insights k existujícímu projektu, který nemá připojený prostředek Application Insights.

Když povolíte trasování:

  • Trasovací data se začnou shromažďovat a ukládat pro všechny agenty v rámci projektu.
  • K zobrazení tras v uživatelském rozhraní Foundry Tracing potřebují uživatelé přístup k projektu Foundry a oprávnění ke čtení pro připojený pracovní prostor služby Application Insights nebo Log Analytics. Například role, jako jsou Čtenář služby Log Analytics, Čtenář monitorování nebo Čtenář v prostředku Application Insights, pracovním prostoru Log Analytics nebo v příslušném nadřazeném rozsahu, mohou tento přístup udělit. Pokud jsou podkladové tabulky Log Analytics chráněné, potřebují přiřazené osoby pro čtení těchto dat také roli Privileged Monitoring Data Reader.

Zakázání trasování

Trasování vypnete takto:

  • Odpojení nebo odebrání prostředku Application Insights

Po zakázání trasování:

  • V daném projektu se u agentů neshromažďují žádná nová trasovací data.
  • Dříve shromážděná data podléhají zásadám uchovávání informací služby Application Insights.

Note

Přesný postup zakázání trasování závisí na povrchu uživatelského rozhraní nebo sady SDK a měl by odpovídat produktové dokumentaci.

Kde se ukládají data

Důležité informace o sdílení dat

  • Data trasování můžou být přístupná uživatelům s příslušnými oprávněními k připojenému prostředku telemetrie.
  • V závislosti na konfiguraci můžou uživatelé ve stejném projektu nebo tenantovi vidět data.
  • Uživatelé potřebují k zobrazení trasování v uživatelském rozhraní Foundry Tracing přístup k projektu Foundry a oprávnění ke čtení v připojeném pracovním prostoru Application Insights nebo Log Analytics. Například role jako Log Analytics Reader, Monitoring Reader nebo Reader u prostředku Application Insights, v pracovním prostoru Log Analytics nebo v příslušném nadřazeném rozsahu mohou tento přístup udělit. Pokud jsou podkladové tabulky Log Analytics chráněné, přiřazené osoby také potřebují roli Privileged Monitoring Data Reader ke čtení těchto dat.
  • Další informace a důležité poznámky specifické pro hostované agenty najdete v tématech hostované agenty a proměnné prostředí vkládané platformou hostovaného agenta.

Zákazníci zodpovídají za konfiguraci řízení přístupu a zajištění dodržování zásad organizace.

Ochrana osobních údajů

Trasování může zaznamenávat osobní údaje, včetně:

  • Výzvy a odpovědi uživatelů
  • Obsah specifický pro aplikaci

Osvědčené postupy

  • Vyhněte se zaznamenávání tajných údajů, přihlašovacích údajů nebo tokenů.
  • Odstraňte nebo minimalizujte osobní údaje před jejich zaznamenáním do protokolu.
  • Použijte řízení přístupu a zásady uchovávání informací pro trasování dat.

Ovládací prvky ochrany dat

  • Odstranění osobních údajů: Odstraňte osobní údaje, například e-mailové adresy a telefonní čísla.
  • Omezte přístup k trasovacím datům pečlivým řízením toho, kterým uživatelům je přiřazena role RBAC Log Analytics Reader. Pokud jsou podkladové Log Analytics tabulky chráněné, spravujte také, kdo má roli Privileged Monitoring Data Reader, protože uděluje přístup pro čtení chráněným tabulkám.
  • Konfigurovatelné zásady: Řídí, jaká data se zaznamenávají a zobrazují.

Tyto ovládací prvky pomáhají řídit rizika a dodržovat požadavky na ochranu osobních údajů.

Odpovědnosti zákazníka

Když povolíte trasování, zodpovídáte za:

  • Informování koncových uživatelů o shromažďování dat, včetně typů shromažďovaných dat, účelu, viditelnosti, jejich možností a dalších informací potřebných k tomu, aby mohli přiměřenou volbu (pokud je to možné).
  • Zajištění dodržování předpisů, ochrany osobních údajů, právních a zákonných požadavků.
  • Konfigurace vhodných řízení přístupu a zásad uchovávání dat

Shrnutí

Foundry Tracing je výkonná funkce pozorovatelnosti, která umožňuje ladění, monitorování a optimalizaci agentů AI. Je to:

  • Ve výchozím nastavení je vypnuto.
  • Explicitně povoleno připojením prostředků telemetrie.
  • Navrženo tak, aby zákazníci měli kontrolu nad shromažďováním dat a nakládáním s nimi.

Související obsah

  • Poslední aktualizace v