Κοινοποίηση μέσω


Παρατηρησιμότητα παράγοντα

Σημαντικό

Πρέπει να είστε μέρος του προγράμματος προεπισκόπησης Σύνορα για να αποκτήσετε πρώιμη πρόσβαση στον Παράγοντα Microsoft 365. Η Frontier σάς συνδέει απευθείας με τις τελευταίες καινοτομίες τεχνητής νοημοσύνης της Microsoft. Οι προεπισκοπήσεις για τα σύνορα υπόκεινται στους υφιστάμενους όρους προεπισκόπησης των συμβάσεων πελατών σας. Καθώς αυτές οι δυνατότητες είναι ακόμα σε εξέλιξη, η διαθεσιμότητά τους και οι δυνατότητές τους ενδέχεται να αλλάξουν με την πάροδο του χρόνου.

Για να συμμετέχετε στο οικοσύστημα του Παράγοντα 365, πρέπει να προσθέσετε τον Παράγοντα 365 Δυνατότητες τήρησης στον πράκτορά σας. Το Agent 365 Observability βασίζεται στο OpenTelemetry (OTel) και παρέχει ένα ενοποιημένο πλαίσιο για την καταγραφή της τηλεμετρίας με συνέπεια και ασφάλεια σε όλες τις πλατφόρμες αντιπροσώπων. Με την υλοποίηση αυτού του απαιτούμενου στοιχείου, επιτρέπετε στους διαχειριστές IT να παρακολουθούν τη δραστηριότητα του παράγοντα σας στο Κέντρο διαχείρισης της Microsoft (MAC) και να επιτρέπετε στις ομάδες ασφαλείας να χρησιμοποιούν το Defender και το Purview για συμμόρφωση και εντοπισμό απειλών.

Βασικά πλεονεκτήματα

  • Ορατότητα από άκρο σε άκρο: Καταγράψτε ολοκληρωμένη τηλεμετρία για κάθε κλήση παράγοντα, συμπεριλαμβανομένων περιόδων λειτουργίας, κλήσεων εργαλείων και εξαιρέσεων, δίνοντάς σας πλήρη ιχνηλασιμότητα σε όλες τις πλατφόρμες.
  • Ασφάλεια και ενεργοποίηση συμμόρφωσης: Τροφοδοσία ενοποιημένων αρχείων καταγραφής ελέγχου στο Defender και το Purview, ενεργοποιώντας σύνθετα σενάρια ασφαλείας και αναφορές συμμόρφωσης για τον πράκτορά σας.
  • Ευελιξία μεταξύ πλατφορμών: Αξιοποιήστε τα πρότυπα OTel και υποστηρίξτε διαφορετικούς χρόνους εκτέλεσης και πλατφόρμες, όπως το Copilot Studio, το Foundry και μελλοντικά πλαίσια αντιπροσώπων.
  • Λειτουργική αποτελεσματικότητα για διαχειριστές: Παροχή κεντρικής παρατηρησιμότητας στο MAC, μείωση του χρόνου αντιμετώπισης προβλημάτων και βελτίωση της διαχείρισης με ελέγχους πρόσβασης βάσει ρόλων για ομάδες IT που διαχειρίζονται τον πράκτορά σας.

Εγκατάσταση

Χρησιμοποιήστε αυτές τις εντολές για να εγκαταστήσετε τις λειτουργικές μονάδες παρατηρησιμότητας για τις γλώσσες που υποστηρίζονται από τον παράγοντα 365.

pip install microsoft-agents-a365-observability-core
pip install microsoft-agents-a365-runtime

Ρύθμιση παραμέτρων

Οι μεταβλητές περιβάλλοντος που απαιτούνται για τη δυνατότητα παρατήρησης είναι οι εξής:

Μεταβλητή περιβάλλοντος Περιγραφή
ENABLE_OBSERVABILITY=true Σημαία για ενεργοποίηση/απενεργοποίηση ανίχνευσης. Από προεπιλογή
ENABLE_A365_OBSERVABILITY_EXPORTER=true True εξαγωγή αρχείων καταγραφής στην υπηρεσία μας. Διαφορετικά, πέφτει πίσω στον εξαγωγέα κονσόλας
from microsoft_agents_a365.observability.core import config

def token_resolver(agent_id: str, tenant_id: str) -> str | None:
    # Implement secure token retrieval here
    return "Bearer <token>"

config.configure(
    service_name="my-agent-service",
    service_namespace="my.namespace",
    token_resolver=token_resolver,
)

Εξαίρεση επίλυσης διακριτικών για σύνδεση στην κονσόλα.

Χαρακτηριστικά εικόνας

Χρησιμοποιήστε το για να ορίσετε BaggageBuilder πληροφορίες βάσει περιεχομένου που ρέουν σε όλα τα τμήματα μιας αίτησης. Το SDK εφαρμόζει ένα SpanProcessor αντίγραφο όλων των καταχωρήσεων καμίας αποσκευής σε τμήματα που μόλις ξεκίνησαν, χωρίς να αντικαθιστά υπάρχοντα χαρακτηριστικά.

from microsoft_agents_a365.observability.core.middleware.baggage_builder import BaggageBuilder

with (
    BaggageBuilder()
    .tenant_id("tenant-123")
    .agent_id("agent-456")
    .correlation_id("corr-789")
    .build()
):
    # Any spans started in this context will receive these as attributes
    pass

Επίλυση διακριτικού

Όταν χρησιμοποιείτε τον παράγοντα εξαγωγέα 365, πρέπει να παρέχετε μια συνάρτηση επίλυσης διακριτικού που επιστρέφει διακριτικό ελέγχου ταυτότητας. Όταν χρησιμοποιείτε το Agent 365 Observability SDK με το πλαίσιο φιλοξενίας παράγοντα, μπορείτε να δημιουργήσετε διακριτικά χρησιμοποιώντας τις TurnContext δραστηριότητες του παράγοντα

from microsoft_agents.activity import load_configuration_from_env
from microsoft_agents.authentication.msal import MsalConnectionManager
from microsoft_agents.hosting.aiohttp import CloudAdapter
from microsoft_agents.hosting.core import (
    AgentApplication,
    Authorization,
    MemoryStorage,
    TurnContext,
    TurnState,
)
from microsoft_agents_a365.runtime.environment_utils import (
    get_observability_authentication_scope,
)

agents_sdk_config = load_configuration_from_env(environ)

STORAGE = MemoryStorage()
CONNECTION_MANAGER = MsalConnectionManager(**agents_sdk_config)
ADAPTER = CloudAdapter(connection_manager=CONNECTION_MANAGER)
ADAPTER.use(TranscriptLoggerMiddleware(ConsoleTranscriptLogger()))
AUTHORIZATION = Authorization(STORAGE, CONNECTION_MANAGER, **agents_sdk_config)

AGENT_APP = AgentApplication[TurnState](
    storage=STORAGE, adapter=ADAPTER, authorization=AUTHORIZATION, **agents_sdk_config
)

@AGENT_APP.activity("message", auth_handlers=["AGENTIC"])
async def on_message(context: TurnContext, _state: TurnState):
    aau_auth_token = await AGENT_APP.auth.exchange_token(
                        context,
                        scopes=get_observability_authentication_scope(),
                        auth_handler_id="AGENTIC",
                    )
    # cache this auth token and return via token resolver

Κωδικός ενορχήστρωσης

Η αυτόματη λειτουργία οργάνων αυτόματης λειτουργίας παρακολουθεί αυτόματα τα υπάρχοντα σήματα τηλεμετρίας πλαισίων παράγοντα (SDK) για ίχνη και τα προωθεί στην υπηρεσία δυνατότητας τήρησης του Παράγοντα 365. Αυτό εξαλείφει την ανάγκη για τους προγραμματιστές να συντάσσουν κώδικα παρακολούθησης με μη αυτόματο τρόπο, απλοποιώντας τη ρύθμιση και εξασφαλίζοντας συνεπή παρακολούθηση των επιδόσεων.

Η αυτόματη λειτουργία οργάνων υποστηρίζεται σε πολλά SDK και πλατφόρμες:

Πλατφόρμα Υποστηριζόμενα SDK / Πλαίσια
.ΔΊΧΤΥ Σημασιολογικός πυρήνας, OpenAI, Πλαίσιο παράγοντα
Python Σημασιολογικός πυρήνας, OpenAI, Πλαίσιο παράγοντα, LangChain
Node.js OpenAI

Σημείωμα

Η υποστήριξη για τα αυτόματα όργανα μέτρησης ποικίλλει ανάλογα με την εφαρμογή πλατφόρμας και SDK.

Σημασιολογικός πυρήνας

Η αυτόματη λειτουργία οργάνων απαιτεί τη χρήση του κατασκευαστή αποσκευών. Ορισμός αναγνωριστικού παράγοντα και αναγνωριστικού μισθωτή με χρήση του BaggageBuilder.

Εγκατάσταση του πακέτου

pip install microsoft-agents-a365-observability-extensions-semantic-kernel

Ρύθμιση παραμέτρων παρατηρησιμότητας

from microsoft_agents_a365.observability.core.config import configure
from microsoft_agents_a365.observability.extensions.semantic_kernel import SemanticKernelInstrumentor

# Configure observability
configure(
    service_name="my-semantic-kernel-agent",
    service_namespace="ai.agents"
)

# Enable auto-instrumentation
instrumentor = SemanticKernelInstrumentor()
instrumentor.instrument()

# Your Semantic Kernel code is now automatically traced

OpenAI

Η αυτόματη λειτουργία οργάνων απαιτεί τη χρήση του κατασκευαστή αποσκευών. Ορισμός αναγνωριστικού παράγοντα και αναγνωριστικού μισθωτή με χρήση του BaggageBuilder.

Εγκαταστήστε το πακέτο.

pip install microsoft-agents-a365-observability-extensions-openai

Ρυθμίστε τις παραμέτρους της δυνατότητας παρατήρησης.

from microsoft_agents_a365.observability.core.config import configure
from microsoft_agents_a365.observability.extensions.openai_agents import OpenAIAgentsTraceInstrumentor

# Configure observability
configure(
    service_name="my-openai-agent",
    service_namespace="ai.agents"
)

# Enable auto-instrumentation
instrumentor = OpenAIAgentsTraceInstrumentor()
instrumentor.instrument()

# Your OpenAI Agents code is now automatically traced

Πλαίσιο αντιπροσώπων

Η αυτόματη λειτουργία οργάνων απαιτεί τη χρήση του κατασκευαστή αποσκευών. Ορισμός αναγνωριστικού παράγοντα και αναγνωριστικού μισθωτή με χρήση της ιδιότητας BaggageBuilder.

Εγκατάσταση του πακέτου

pip install microsoft-agents-a365-observability-extensions-agent-framework

Ρύθμιση παραμέτρων παρατηρησιμότητας

from microsoft_agents_a365.observability.core.config import configure
from microsoft_agents_a365.observability.extensions.agentframework.trace_instrumentor import (
    AgentFrameworkInstrumentor,
)

# Configure observability
configure(
    service_name="AgentFrameworkTracingWithAzureOpenAI",
    service_namespace="AgentFrameworkTesting",
)

# Enable auto-instrumentation
AgentFrameworkInstrumentor().instrument()

Πλαίσιο LangChain

Η αυτόματη λειτουργία οργάνων απαιτεί τη χρήση του εργαλείου δόμησης αποσκευών. Ορισμός αναγνωριστικού παράγοντα και αναγνωριστικού μισθωτή με χρήση του BaggageBuilder.

Εγκαταστήστε το πακέτο.

pip install microsoft-agents-a365-observability-extensions-langchain

Ρύθμιση παραμέτρων παρατηρησιμότητας

from microsoft_agents_a365.observability.core.config import configure
from microsoft_agents_a365.observability.extensions.langchain import CustomLangChainInstrumentor

# Configure observability
configure(
    service_name="my-langchain-agent",
    service_namespace="ai.agents"
)

# Enable auto-instrumentation
CustomLangChainInstrumentor()

# Your LangChain code is now automatically traced

Μη αυτόματη μέτρηση

Το SDK παρατηρησιμότητας του παράγοντα 365 μπορεί να χρησιμοποιηθεί για την κατανόηση της εσωτερικής λειτουργίας του παράγοντα. Το SDK παρέχει τρεις εμβέλειες που μπορούν να ξεκινήσουν: InvokeAgentScope, ExecuteToolScopeκαι InferenceScope.

Κλήση εντολών

Αυτή η εμβέλεια θα πρέπει να χρησιμοποιηθεί στην αρχή της διαδικασίας του παράγοντα. Με την εμβέλεια του παράγοντα κλήσης, καταγράφετε ιδιότητες όπως ο τρέχων παράγοντας που καλείται, τα δεδομένα χρήστη παράγοντα κ.λπ.

from microsoft_agents_a365.observability.core.invoke_agent_scope import InvokeAgentScope
from microsoft_agents_a365.observability.core.invoke_agent_details import InvokeAgentDetails
from microsoft_agents_a365.observability.core.tenant_details import TenantDetails
from microsoft_agents_a365.observability.core.request import Request

invoke_details = InvokeAgentDetails(
    details=agent_details,        # AgentDetails instance
    endpoint=my_endpoint,         # Optional endpoint (with hostname/port)
    session_id="session-42"
)
tenant_details = TenantDetails(tenant_id="tenant-123")
req = Request(content="User asks a question")

with InvokeAgentScope.start(invoke_details, tenant_details, req):
    # Perform agent invocation logic
    response = call_agent(...)

Εκτέλεση εργαλείου

Τα παρακάτω παραδείγματα επιδεικνύουν τον τρόπο με τον οποίο μπορείτε να οργάνωνετε την εκτέλεση εργαλείων του παράγοντα σας με παρακολούθηση της παρατηρησιμότητας για τη καταγραφή τηλεμετρίας για σκοπούς παρακολούθησης και ελέγχου.

from microsoft_agents_a365.observability.core.execute_tool_scope import ExecuteToolScope
from microsoft_agents_a365.observability.core.tool_call_details import ToolCallDetails

tool_details = ToolCallDetails(
    tool_name="summarize",
    tool_type="function",
    tool_call_id="tc-001",
    arguments="{'text': '...'}",
    description="Summarize provided text",
    endpoint=None  # or endpoint object with hostname/port
)

with ExecuteToolScope.start(tool_details, agent_details, tenant_details):
    result = run_tool(tool_details)

Συμπέρασμα

Τα παρακάτω παραδείγματα δείχνουν πώς μπορείτε να οργάνων κλήσεις παρεμβολής μοντέλου AI με παρακολούθηση παρατηρησιμότητας για να καταγράψετε τη χρήση διακριτικού, λεπτομέρειες μοντέλου και μετα-δεδομένα απόκρισης.

from microsoft_agents_a365.observability.core.inference_scope import InferenceScope
from microsoft_agents_a365.observability.core.inference_call_details import InferenceCallDetails
from microsoft_agents_a365.observability.core.request import Request

inference_details = InferenceCallDetails(
    operationName=SomeEnumOrValue("chat"),
    model="gpt-4o-mini",
    providerName="azure-openai",
    inputTokens=123,
    outputTokens=456,
    finishReasons=["stop"],
    responseId="resp-987"
)
req = Request(content="Explain quantum computing simply.")

with InferenceScope.start(inference_details, agent_details, tenant_details, req):
    completion = call_llm(...)

Επικύρωση τοπικά

Αποθηκεύστε τη μεταβλητή περιβάλλοντος. Αυτή η εξαγωγή εκτείνεται (ανιχνεύσεις) στην κονσόλα.

Ελέγξτε τον πράκτορά σας με δυνατότητα παρατήρησης

Μετά την εφαρμογή της παρατηρησιμότητας στον πράκτορά σας, δοκιμάστε για να εξασφαλίσετε ότι η τηλεμετρία καταγράφεται σωστά. Ακολουθήστε τον οδηγό δοκιμών για να ρυθμίσετε το περιβάλλον σας και, στη συνέχεια, εστιάστε κυρίως στην ενότητα Προβολή αρχείων καταγραφής παρατηρήσεων για να επικυρώσετε ότι η υλοποίηση της δυνατότητας παρατήρησης λειτουργεί όπως αναμένεται.