Beobachtbarkeit für Fabric-Datenagenten in Microsoft Foundry

Du kannst einen Fabric-Datenagenten als Werkzeug zu einem Agenten hinzufügen, den du in Microsoft Foundry baust. Nachdem Sie es verbunden haben, ruft der Foundry-Agent den Fabric-Datenagenten an, um Fragen zu beantworten, die in Ihren Unternehmensdaten basieren, die in Fabric OneLake gespeichert sind.

Dieser Artikel handelt von der Beobachtbarkeit für dieses Setup. Wenn Sie einen Agenten in Foundry erstellen und einen Fabric-Datenagenten damit verbinden, möchten Sie sehen, was der Datenagent bei jeder Anfrage gemacht hat, nicht nur die endgültige Antwort. Foundry Observability gibt dir diese Sichtbarkeit. Die Protokolle und Traces des Datenagenten werden an denselben Ort geschickt, an den dein Foundry-Agent bereits berichtet, sodass du einer Anfrage von Ende zu Ende folgen kannst, vom Foundry-Agenten über den Fabric-Datenagenten bis zu den Datenquellen, die er abgefragt hat.

Der Rest dieses Artikels erklärt, wo diese Telemetrie gespeichert wird, wie sie dorthin gelangen, wie man sie liest, wer sie sehen kann und wie man sie steuert.

Für einen allgemeinen Überblick siehe Observability in generativer KI. Um einen Fabric-Datenagenten mit Foundry zu verbinden, siehe Consume a Data Agent in Microsoft Foundry.

Gießereiprojekte und Anwendungseinblicke

Ein Foundry-Projekt ist der Ort, an dem man seine Agenten aufbaut und betreibt. Foundry speichert Agent-Traces in einer Azure Monitor Application Insights-Ressource, und jedes Projekt verbindet sich mit einer solchen Ressource.

Als Ersteller des Agenten richten Sie das einmal ein. Öffnen Sie in Ihrem Foundry-Projekt den Abschnitt Agenten, wählen Sie Traces aus, und wählen Sie dann Verbinden aus. Sie können eine neue Application Insights-Ressource erstellen oder eine bereits existierende verbinden. Nachdem du die Ressource verbunden hast, aktiviert Foundry automatisch serverseitige Nachverfolgung für das Projekt. Du musst keine Codeänderungen vornehmen, und innerhalb von Minuten beginnen Traces zu fließen.

Die Beziehung ist einfach: Das Projekt verweist auf eine Application Insights-Ressource, und jeder Agent in diesem Projekt sendet seine Spuren dorthin. Das Projekt definiert, wo Telemetrie gesammelt wird; Application Insights ist der Ort, an dem sie sich befindet und wo Sie sie abfragen können.

Sie können Traces im Traces-Tab Ihres Foundry-Agenten anzeigen oder sie direkt in der verbundenen Application Insights-Ressource abfragen. Das Gießerei-Portal zeigt Spuren der letzten 90 Tage.

Für die Schritt-für-Schritt-Einrichtung siehe Tracing einrichten für KI-Agenten in Microsoft Foundry.

Wie die Protokolle und Ablaufverfolgungen des Fabric-Daten-Agents Ihr Projekt erreichen

Um einen Fabric-Datenagenten mit Foundry zu verbinden, arbeiten Sie in einem Foundry-Projekt. Wenn Sie eine Application Insights-Ressource mit diesem Projekt verbinden, sendet der Fabric-Datenagent seine Logs und Traces an dieselbe Ressource. Die Telemetrie deines Foundry-Agenten und die Telemetrie des Fabric-Datenagenten landen an einem Ort, sodass du sie zusammen lesen kannst.

Der Ablauf funktioniert folgendermaßen:

  1. Verbinden Sie in Ihrem Foundry-Projekt eine Application Insights-Ressource, wie im vorherigen Abschnitt beschrieben.
  2. Füge in diesem Projekt einen Fabric-Datenagenten als Werkzeug zu einem Foundry-Agenten hinzu.
  3. Wenn der Foundry-Agent läuft, ruft er den Fabric-Datenagenten auf, um Einblicke aus den Unternehmensdaten in Fabric OneLake zu erhalten.
  4. Fabric validiert die Application Insights-Ressource, die mit dem Projekt verbunden ist, und sendet dann die Logs und Traces des Datenagenten an sie.
  5. Die Telemetrie des Datenagenten erscheint neben den Traces Ihres Foundry-Agenten, sowohl in der verbundenen Application Insights-Ressource als auch in der Traces-Ansicht des Agenten.

Das Ergebnis ist, dass die Arbeit, die der Fabric-Datenagent leistet, Teil der Spur für die Anfrage wird. Du siehst, dass dein Foundry-Agent den Datenagenten angerufen hat, und du siehst, was der Datenagent getan hat, um seine Antwort zu liefern, einschließlich der Abfragequellen, wie lange jeder Schritt gedauert hat und ob jeder Schritt erfolgreich war.

Lesen Sie die Spuren

Foundry Observability zeichnet jede Anfrage als Trace auf. Ein Trace besteht aus Spans, und jeder Span stellt eine Arbeitseinheit mit eigenem Startzeitpunkt, eigener Dauer und eigenem Status dar. Spans sind verschachtelt, sodass das Lesen eines Trace von oben nach unten zeigt, welchen Pfad eine Anfrage genommen hat und wo die Zeit aufgewendet wurde.

Ein Fabric-Daten-Agent fügt dem Trace zwei Arten von Spans hinzu:

  • Agent Span: die Gesamtlaufzeit des Fabric-Datenagenten für eine einzelne Anfrage.
  • Tool-Span: eine einzelne Datenquelle oder ein Tool, das der Data Agent anruft, während er die Anfrage beantwortet. Eine Anfrage kann mehr als einen Tool-Span erzeugen.

Das folgende Beispiel zeigt einen Foundry-Agenten, der einen Fabric-Datenagenten aufruft, der zwei Datenquellen abfragt, um die Frage zu beantworten:

Request (trace)
└─ Foundry agent run
   └─ Fabric data agent (called as a tool)
      └─ Agent span            Overall run of the Fabric data agent
         ├─ Tool span          First data source the data agent queried
         └─ Tool span          Second data source the data agent queried

Die folgende Tabelle beschreibt jede Ebene der Spur und die Art der damit verbundenen Metadaten.

Grad Emittiert von Repräsentiert Beispiel-Metadaten
Foundry-Agentenlauf Giesserei Der Foundry-Agent, der die Benutzeranfrage bearbeitet Gesprächs-ID, Status, Dauer
Fabric Data Agent (Werkzeugaufruf) Giesserei Der Punkt, an dem der Foundry-Agent den Fabric-Datenagenten anruft Anzeigename des Agenten, Status, Dauer
Agentenspannweite Fabric-Datenagent Die Gesamtlaufzeit des Fabric-Datenagenten für die Anfrage Anzeigename des Agenten, Gesprächs-ID, Status, Dauer
Werkzeugspannweite Fabric-Datenagent Jede Datenquelle oder jedes Werkzeug, das der Data Agent anruft, um zu antworten Name der Datenquelle, Argumentationsschritt-ID, Status, Dauer

Mit dieser Struktur können Sie die entscheidenden Fragen beantworten, wenn etwas nicht stimmt:

  • Wenn eine Reaktion langsam ist, zeigt die Dauer jeder Spanne an, welcher Schritt die längste Zeit in Anspruch nahm.
  • Wenn eine Antwort falsch ist, zeigt das Werkzeug, welche Datenquellen abgefragt wurden und in welcher Reihenfolge.
  • Wenn eine Anfrage fehlschlägt, zeigt der Status jeder Spanne an, wo der Fehler aufgetreten ist.

Wer kann die Protokolle und Spuren sehen

Die Application Insights-Ressource, die die Logs und Traces des Data Agents speichert, regelt den Zugriff. Jeder, der Lesezugriff auf diese Ressource hat, kann die Telemetrie sehen. Eine Ressource mit einem Projekt zu verbinden, gewährt keinen Zugriff auf die Daten, die es enthält.

Wo du die Daten ansiehst Erforderlicher Zugriff
Application Insights Eine Rolle mit Leseberechtigungen für die verbundene Application Insights-Ressource, wie Monitoring Reader oder Log Analytics Reader
Microsoft Foundry-Projekt Leseberechtigungen für die verbundene Application Insights-Ressource sowie eine Foundry-Projektrolle als Foundry-Nutzer oder höher

Der Zugang zu einem Foundry-Projekt allein schließt keinen Zugang zur Telemetrie ein. Leseberechtigung für die Application Insights-Ressource ist immer erforderlich.

Mandanteneinstellung für Betriebsmetadaten

Eine Tenant-Einstellung im Fabric-Admin-Portal steuert, ob Fabric-Datenagenten operative Metadaten zur Beobachtbarkeit in Foundry senden. Diese Einstellung ist standardmäßig aktiviert.

Die Einstellung sendet nur operative Metadaten. Diese Metadaten umfassen Agenten-Anzeigenamen, Datenquellennamen, Argumentationsschritt-IDs und Konversations-IDs. Fabric sendet keine Kundeninhalte. Benutzereingaben und Antworten der Datenagenten bleiben innerhalb der Compliance-Grenzen von Fabric und sind in dieser Telemetrie nicht enthalten.

Note

Ein Fabric-Administrator kann es für den Mieter deaktivieren. Mietereinstellungen können bis zu einer Stunde dauern, bis sie wirksam werden.

Das Setting lautet wie folgt.

Fabric-Datenagenten können operative Metadaten zur Beobachtbarkeit in Microsoft Foundry senden

Agent-Ersteller können operative Metadaten nutzen, um die Gesundheit der Agenten zu überwachen, Probleme zu erkennen und zu verstehen, wie ihre veröffentlichten Agenten über Anwendungen und Dienste hinweg eingesetzt werden. Diese Erkenntnisse helfen Entwicklern von Agenten, deren Zuverlässigkeit und Leistung zu verbessern.

Wenn Sie diese Einstellung aktivieren, senden Fabric-Datenagenten operative Metadaten an eine konfigurierte Application Insights-Ressource zur Verarbeitung und Speicherung. Diese Daten umfassen Agentenanzeigenamen, Datenquellennamen, Argumentationsschritt-IDs und Konversations-IDs. Die Application Insights-Ressource, die diese Daten verarbeitet und speichert, könnte sich außerhalb der geografischen Region, der Compliance-Grenze Ihres Tenants oder einer nationalen Cloud-Instanz Ihres Mieters befinden.

Um auf die operativen Metadaten zuzugreifen, benötigen Sie eine Rolle mit Leseberechtigungen (wie Monitoring Reader oder Log Analytics Reader) auf der konfigurierten Application Insights-Ressource. Nutzer mit diesem Zugriff können die Daten in Application Insights einsehen. Benutzer können die Daten auch über ein Foundry-Projekt einsehen, das mit der konfigurierten Application Insights-Ressource verbunden ist. Der Zugriff über Foundry erfordert einen rollenbasierten Zugriff auf das Foundry-Projekt (Foundry User oder höher) zusätzlich zu Leseberechtigungen für die Application Insights-Ressource. Der Zugang zu einem Foundry-Projekt allein beinhaltet keinen Zugriff auf die Telemetriedaten.

Von Bedeutung

Die Application Insights-Ressource, die diese Metadaten speichert, könnte sich außerhalb der geografischen Region, der Compliance-Grenze oder der nationalen Cloud-Instanz Ihres Tenants befinden. Überprüfen Sie Ihre Anforderungen an Datenresidenz und Compliance, bevor Sie die Einstellung aktiviert lassen.