Freigeben über

Schnellstartanleitung: Verwenden der Aufgabeneinhaltung für Ihre Agenten-Workflows

In diesem Schnellstart verwenden Sie die Funktion "Aufgabentreue". Die Aufgabenbefolgungs-API für Agent-Workflows stellt sicher, dass KI-Agents Toolaktionen ausführen, die den Anweisungen und Absichten des Benutzers entsprechen. Dieses Feature hilft dabei, Situationen zu erkennen und zu verhindern, in denen ein Agent eine Aktion ausführt, die unbeabsichtigt oder vorzeitig ist, insbesondere beim Aufrufen von Tools, die Sich auf Benutzerdaten auswirken, Aktionen mit hohem Risiko ausführen oder externe Vorgänge initiieren.

Die Aufgabentreue ist in Systemen nützlich, in denen Agenten die Möglichkeit haben, autonom zu planen und zu handeln. Durch die Überprüfung, ob die geplanten Toolaufrufe den Benutzer- und Aufgabenanweisungen entsprechen und die fehlerhafte Nutzung von Tools erkannt wird, trägt die Einhaltung von Aufgaben dazu bei, die Systemzuverlässigkeit, das Benutzervertrauen und die Sicherheit aufrechtzuerhalten.

Weitere Informationen zur Funktionsweise der Aufgabentreue finden Sie auf der Seite " Aufgabentreuekonzepte ".

Voraussetzungen

Verwenden der Aufgabeneinhaltung

Führen Sie die folgenden Schritte aus, um die Einhaltung von Aufgaben auf der Seite " Inhaltssicherheit testen" zu verwenden:

  1. Wechseln Sie zu Azure AI Foundry (klassisch), und navigieren Sie zu Ihrem Projekt/Hub. Wählen Sie dann auf der linken Navigationsleiste die Registerkarte "Guardrails + controls " aus, und wählen Sie die Registerkarte "Ausprobieren" aus .
  2. Auf der Seite "Ausprobieren " können Sie mit verschiedenen Guardrails & Controls-Features wie Text- und Bildinhalten experimentieren, indem Sie anpassbare Schwellenwerte verwenden, um nach unangemessenen oder schädlichen Inhalten zu filtern.
  3. Navigieren Sie zum Abschnitt Agentischer Arbeitsablauf und wählen Sie das Task Adherence Panel aus.
  4. Auf der nächsten Seite können Sie eines der Beispiele mit ausgerichteten oder fehlgerichteten Agent-Tool-Aufrufen auswählen oder eigene erstellen, um die Aufgabeneinhaltung zu testen.
  5. Wählen Sie "Test ausführen" aus. Die Einhaltung der Aufgabe gibt die Risikokennzeichnung für jedes Beispiel zurück, und wenn ein Risiko erkannt wird, wird ein Grund zurückgegeben.

Voraussetzungen

  • Ein Azure-Abonnement – Kostenlos erstellen
  • Sobald Sie Ihr Azure-Abonnement haben, , um Ihren Schlüssel und Endpunkt im Azure-Portal abzurufen. Geben Sie einen eindeutigen Namen für Ihre Ressource ein, wählen Sie Ihr Abonnement aus, und wählen Sie eine Ressourcengruppe, Region und unterstützte Preisstufe aus. Wählen Sie dann Erstellen aus.
    • Das Bereitstellen der Ressource dauert einige Minuten. Wählen Sie im Anschluss Zu Ressource wechseln aus. Wählen Sie im linken Bereich unter "Ressourcenverwaltung" den Eintrag "Abonnementschlüssel" und "Endpunkt" aus. Der Endpunkt und eine der Schlüssel werden zum Aufrufen von APIs verwendet.
  • cURL installiert

Verwendung von Aufgabeneinhaltung

Im folgenden Abschnitt wird eine Beispielanforderung mit cURL erläutert.

Fügen Sie den folgenden Befehl in einen Text-Editor ein, und nehmen Sie die folgenden Änderungen vor.

  1. Ersetzen Sie `<endpoint>` durch die URL Ihres Ressourcenendpunkts.
  2. Ersetzen Sie <your_subscription_key> durch Ihren Schlüssel.
  3. Ändern Sie optional den Text im "messages" Feld im Textkörper, um verschiedene Szenarien zu testen.
curl --request POST \
 --url '<endpoint>/contentsafety/agent:analyzeTaskAdherence?api-version=2025-09-15-preview' \
 --header 'Ocp-Apim-Subscription-Key: <your_subscription_key>' \
 --header 'Content-Type: application/json' \
 --data '{
 "tools": [
  {
   "type": "function",
   "function": {
    "name": "get_credit_card_limit",
    "description": "Get credit card limit of the user"
   }
  },
  {
   "type": "function",
   "function": {
    "name": "get_car_price",
    "description": "Get car price of a particular model"
   }
  },
  {
   "type": "function",
   "function": {
    "name": "order_car",
    "description": "Buy a particular car model instantaneously"
   }
  }
 ],
 "messages": [
  {
   "source": "Prompt",
   "role": "User",
   "contents": "How many mahindra be6e can i buy with my credit card limit?"
  },
  {
   "source": "Completion",
   "role": "Assistant",
   "contents": "Getting the required information",
   "toolCalls": [
    {
     "type": "function",
     "function": {
      "name": "get_credit_card_limit",
      "arguments": ""
     },
     "id": "call_001"
    },
    {
     "type": "function",
     "function": {
      "name": "get_car_price",
      "arguments": ""
     },
     "id": "call_002"
    }
   ]
  },
  {
   "source": "Completion",
   "role": "Tool",
   "toolCallId": "call_001",
   "contents": "100000"
  },
  {
   "source": "Completion",
   "role": "Tool",
   "toolCallId": "call_002",
   "contents": "10000"
  },
  {
   "source" : "Completion",
   "role" : "Assistant",
   "contents" : "The price of a be6e is 10000 and your credit limit is 100000, so you can buy 10 be6e from your credit card."
  }
 ]
}'

Die folgenden Felder müssen in der URL enthalten sein:

Name Erforderlich? Description Typ
API-Version Erforderlich Dies ist die API-Version, die überprüft werden soll. Aktuelle Version ist: 2025-09-15-preview. Beispiel: <endpoint>/contentsafety/image:analyze?api-version=2025-09-15-preview String

Die Parameter im Anforderungstext werden in dieser Tabelle definiert:

Name Erforderlich? Description Typ
Werkzeuge Yes Eine Liste der Tools, die Funktionen definieren, die in der Aufgabe verwendet werden sollen. Jedes Tool enthält eine type (z. B. "Funktion") und Details zu der Funktion, einschließlich deren name und description. Array von JSON-Objekten
messages Yes Eine Liste der Nachrichten, die zwischen Dem Benutzer, Assistenten und Tools ausgetauscht werden. Jede Nachricht enthält die source (z. B. "Eingabeaufforderung", "Abschluss"), role (z. B. "Benutzer", "Assistent", "Tool"), contents (Nachrichtentext) und optional toolCalls oder toolCallId. Array von JSON-Objekten

Öffnen Sie ein Eingabeaufforderungsfenster, und führen Sie den Befehl "cURL" aus.

Output

Nachdem Sie Ihre Anfrage übermittelt haben, erhalten Sie JSON-Daten, die die Analyse widerspiegeln, die durch Task Adherence durchgeführt wurde. Diese Daten kennzeichnen potenzielle Sicherheitsrisiken innerhalb Ihres Agentworkflows. So sieht eine typische Ausgabe aus:

{ 
  "taskRiskDetected": true, 
  "details": "Agent attempts to share a document externally without user request or confirmation." 
}

Die JSON-Felder in der Ausgabe werden hier definiert:

Name Description Typ
AufgabenrisikoErkannt Enthält Ergebnisse der Risikoerkennung für die Eingabe. Boolean
details Gibt die Begründung zurück, wenn ein Risiko erkannt wird String

Ein taskRiskDetected-Wert von „true“ bedeutet ein Risiko erkannt wurde. In diesem Fall empfehlen wir eine Überprüfung und Maßnahmen wie die Blockierung des Toolaufrufs oder die Eskalation mit menschlicher Interaktion.

Bereinigen von Ressourcen

Wenn Sie ein Azure KI Services-Abonnement bereinigen und entfernen möchten, können Sie die Ressource oder die Ressourcengruppe löschen. Wenn Sie die Ressourcengruppe löschen, werden auch alle anderen Ressourcen gelöscht, die ihr zugeordnet sind.

Verwandte Inhalte

  • Last updated on