Hinweis
Für den Zugriff auf diese Seite ist eine Autorisierung erforderlich. Sie können versuchen, sich anzumelden oder das Verzeichnis zu wechseln.
Für den Zugriff auf diese Seite ist eine Autorisierung erforderlich. Sie können versuchen, das Verzeichnis zu wechseln.
Definieren Sie, was Ihre KI-Agents tun können. Richtlinien zur Laufzeit erzwingen. Behalten Sie framework-, plattform- und cloudübergreifend die Kontrolle.
KI-Agents gehen über Konversationen hinaus. Sie rufen vertrauliche Informationen ab, rufen Tools auf, führen Transaktionen aus, interagieren mit Unternehmenssystemen und treffen zunehmend Entscheidungen im Namen von Benutzern und Organisationen.
Da Agenten autonomer werden, entsteht eine grundlegende Frage: Wie geben Sie Agenten die Freiheit, handeln zu können, ohne die Kontrolle darüber zu geben, was sie tun dürfen?
Systemaufforderungen und herkömmliche KI-Sicherheitsfilter bieten wichtige Schutzmaßnahmen, aber sie reichen nicht aus, um jede Aktion zu steuern, die ein autonomer Agent ergreifen könnte. Ein Agent kann beim Ausgeben einer nicht autorisierten Rückerstattung, beim Zugriff auf eingeschränkte Datensätze oder beim Aufrufen eines Tools, das gegen die Unternehmensrichtlinie verstößt, perfekt akzeptablen Text generieren.
Unternehmen benötigen eine Möglichkeit, Grenzen für das Agentverhalten zu definieren, Aktionen während sie stattfinden auszuwerten und konsistente Richtlinien zu erzwingen, ohne Geschäftsregeln in jedem Agent zu codieren.
Agent Controls ist ein verwalteter Richtliniendienst, mit dem Entwickler und Organisationen Richtlinien für das KI-Agent-Verhalten zur Laufzeit definieren, zentral verwalten und auswerten können.
Basierend auf der Open-Source Agent Control Specification (ACS) und Agent Hooks bietet Agent Controls verwaltete Richtlinienauswertung an Agents, die auf verschiedenen Frameworks, Plattformen und Clouds erstellt wurden.
Mit Agent-Steuerelementen können Sie:
- Kontrollieren Sie, was Agenten tun, nicht nur was sie sagen. Definieren Sie Richtlinien für die Toolausführung, Geschäftstransaktionen, den Zugriff auf vertrauliche Informationen und generierte Inhalte.
- Gehen Sie über herkömmliche Sicherheitsfilter hinaus. Kombinieren Sie deterministische Geschäftsregeln, integrierte Inhaltssicherheitsklassifizierer und unterstützte LLM-basierte Auswertungen, um kontextbezogene Richtlinienentscheidungen zu treffen.
- Erzwingen Sie Richtlinien zur Laufzeit. Bewerten Sie vorgeschlagene Aktionen und Antworten an kritischen Interventionspunkten, bevor der Agent fortfahren darf.
- Richtlinien zentral verwalten und wiederverwenden. Definieren Sie Richtlinien einmal, verwalten Sie sie unabhängig vom Anwendungscode, und wenden Sie sie konsistent für mehrere Agents und Anwendungen an.
- Behalten Sie die Sichtbarkeit von Richtlinienentscheidungen bei. Erhalten Sie Evaluierungsbelege, die die verwendete Richtlinie und Version identifizieren, damit Anwendungsteams Entscheidungen mit tatsächlichen Ausführungsergebnissen verknüpfen können.
Agent Controls trennt Richtlinienentscheidungen von der Agentausführung. Der Dienst wertet Richtlinien aus und gibt Entscheidungen wie allow, deny oder transform zurück. Die Agentlaufzeit oder -anwendung bleibt für die Durchsetzung dieser Entscheidungen verantwortlich.
Warum Agent-Kontrollen?
Agents generieren nicht mehr nur Inhalte. Sie ergreifen Maßnahmen.
Herkömmliche Ansätze zur KI-Sicherheit konzentrieren sich auf die Eingaben und Ausgaben von KI-Modellen: Erkennen schädlicher Inhalte, Schützen vertraulicher Informationen oder Verhindern unsicherer Antworten.
Aber autonome Agenten führen eine neue Risikoklasse ein. Stellen Sie sich einen KI-Agenten vor, der für die Behandlung von Kundensupportanfragen verantwortlich ist. Der Agent kann Kundeninformationen nachschlagen, Rückerstattungen verarbeiten, Kontodetails aktualisieren und mit Kunden kommunizieren.
Möglicherweise wird der Agent angewiesen, keine Rückerstattungen über $100 auszustellen. Aber was passiert, wenn ein Kunde es dazu überredet, eine Rückerstattung von 500 $ auszustellen?
- Eine Systemaufforderung kann die Einschränkung beschreiben, die Ausführung kann jedoch nicht unabhängig verhindert werden, wenn das Modell den unzulässigen Toolaufruf erzeugt.
- Ein Klassifizierer für die Inhaltssicherheit kann auswerten, ob eine Antwort schädliche oder sensible Inhalte enthält, aber er weiß nicht, ob eine Rückerstattung innerhalb der finanziellen Grenzen des Unternehmens liegt.
- Und ein allgemeiner Genehmigungsworkflow könnte für jede Rückerstattung eine menschliche Überprüfung erfordern, was die Effizienz und Autonomie untergraben würde, die die Organisation zu erreichen hoffte.
Die Herausforderung besteht nicht einfach darin, Agenten sicherer zu machen. Es macht Autonomie steuerbar.
Von starren Workflows bis hin zur kontrollierten Autonomie
Unternehmen möchten KI-Agenten, die sich anpassen, schlussfolgern und unabhängig handeln können. Sie benötigen aber auch die Gewissheit, dass Agenten innerhalb ihrer Organisationsrichtlinien arbeiten.
Historisch gesehen bedeutete diese Notwendigkeit oft, zwischen drei Ansätzen zu wählen:
- Schränken Sie die Autonomie ein. Definieren Sie stark präskriptive Workflows und deterministische Regeln für jede mögliche Aktion.
- Führen Sie menschliche Kontrollpunkte ein. Fordern Sie Personen auf, potenziell weitreichende Maßnahmen zu genehmigen, wodurch der Betriebsaufwand erhöht wird.
- Akzeptieren Sie größere Unsicherheit. Geben Sie Agenten mehr Autonomie, wobei Sie sich stark auf Prompts und anwendungsspezifische Prüfungen verlassen, um unerwünschtes Verhalten zu verhindern.
Keiner dieser Ansätze behebt die Notwendigkeit autonomer Agents, die innerhalb erzwingbarer Geschäftsgrenzen arbeiten.
Agent Controls führt einen weiteren Ansatz ein: Definieren Sie die Grenzen zentral, bewerten Sie das Agentverhalten zur Laufzeit, und ermöglichen Sie Es Agents, autonom innerhalb dieser Grenzen zu arbeiten. Anstatt zu versuchen, jeden Schritt zu verschreiben, den ein Agent ausführen muss, können Organisationen die Bedingungen definieren, unter denen eine Aktion zulässig ist.
Eine Richtlinie kann beispielsweise zulassen, dass ein Supportmitarbeiter Rückerstattungen unter 100 $ ausgibt, Rückerstattungen über diesem Betrag verweigert und Aktionen identifiziert, die eine menschliche Überprüfung erfordern. Der Agent kann weiterhin selbst entscheiden, wie eine Aufgabe erledigt wird, aber die Anwendung setzt die konfigurierte Richtlinie durch, wenn entsprechende Aktionen versucht werden. Dieser Ansatz ermöglicht es, eine größere Autonomie einzuführen, ohne jede geschäftliche Entscheidung zu treffen, die von der Bereitschaft des Modells abhängig ist, Anweisungen zu befolgen.
Auf offener Grundlage basierend: Agent Hooks und ACS
Entwickler erstellen KI-Agents mithilfe verschiedener Frameworks, Modelle, Programmiersprachen und Cloudplattformen. Unternehmen könnten Agenten in Microsoft Foundry zusammen mit Agenten betreiben, die mit anderen Frameworks erstellt oder in anderen Umgebungen gehostet werden.
Laufzeitsteuerelemente sollten nicht erfordern, dass jeder Agent für eine einzelne Plattform neu geschrieben wird oder jedes Entwicklungsteam einen neuen Richtlinienerzwingungsmechanismus erfindet.
Deshalb haben Microsoft zwei ergänzende Open-Source-Bausteine eingeführt.
Agent-Hooks: Abfangen von Aktionen im richtigen Moment
Agent Hooks definiert standardisierte Interventionspunkte im Agent-Ausführungslebenszyklus.
Diese Hooks bieten Agentlaufzeiten die Möglichkeit, die Ausführung anzuhalten und einen Policy-Evaluator zu konsultieren, bevor fortgefahren wird.
Eine Agentlaufzeit kann beispielsweise abfangen:
- Eingehende Eingabe: Bevor eine Benutzeranforderung in den Ausführungsablauf des Agenten gelangt.
- Modellinteraktionen: Bevor eine Modellanforderung gesendet wird oder nachdem die Antwort empfangen wurde.
- Toolausführung: Bevor ein Toolaufruf ausgeführt wird oder nachdem das Ergebnis zurückgegeben wurde.
- Agentausgabe: Bevor die endgültige Antwort für den Benutzer freigegeben wird.
- Agent-Lebenszyklusereignisse: Wenn eine Agentsitzung gestartet oder heruntergefahren wird.
Agent Hooks bietet den Abfang- und Erzwingungsmechanismus. Sie bestimmt nicht, welche Geschäftsregeln oder Sicherheitsrichtlinien gelten sollen. Diese Verantwortung gehört zu einem Policy-Evaluator.
Agent Control Specification (ACS): Definieren, was zulässig ist
Die Open-Source Agent Control Specification (ACS) stellt ein allgemeines Richtlinienmodell und eine Evaluierungslaufzeit für das Verhalten des Agents bereit.
ACS ermöglicht Entwicklern, Richtlinien unabhängig von der Implementierung des Agents zu beschreiben.
Eine Richtlinie kann Folgendes angeben:
- Welche Agentaktionen oder Lebenszyklusereignisse es steuert.
- Welche Inhalte, Toolargumente oder Laufzeitkontexte ausgewertet werden sollen.
- Welche deterministischen Regeln oder unterstützte Evaluatoren angewendet werden sollen.
- Welche Entscheidung zurückgegeben werden soll, wenn richtlinienbedingungen erfüllt sind.
Eine ACS-Richtlinie kann z. B. ausdrücken, dass ein Erstattungsvorgang nur zulässig ist, wenn der angeforderte Betrag innerhalb des konfigurierten Schwellenwerts der Organisation liegt. Anstatt diese Einschränkung in einem System-Prompt zu verbergen oder über Tool-Wrapper hinweg zu duplizieren, können Entwickler die Anforderung als explizite, ausführbare Richtlinie formulieren.
ACS-Richtlinien können mithilfe der Open-Source-Laufzeit innerhalb einer Anwendung oder über den Verwalteten Agent-Kontrolldienst ausgewertet werden.
Von Grund auf offen gestaltet. Über Agentenökosysteme hinweg einsetzbar.
Agent Hooks und ACS sind darauf ausgelegt, agent runtime, policy evaluation und enforcement mechanism voneinander zu trennen. Diese Trennung ist von grundlegender Bedeutung für plattformübergreifende und cloudübergreifende Agent-Governance. Entwickler können die Open-Source-Bausteine in ihre ausgewählten Agenthosts integrieren und gleichzeitig einen gemeinsamen Ansatz zur Beschreibung und Auswertung von Richtlinien beibehalten.
Die resultierende Architektur erfordert nicht, dass der zugrunde liegende Agent in Microsoft Foundry ausgeführt wird oder einen bestimmten Modellanbieter verwendet. Agentlaufzeiten müssen die relevanten Abfangpunkte implementieren, vertrauenswürdigen Ausführungskontext bereitstellen und Richtlinienentscheidungen erzwingen. Die Open-Source-Foundation ermöglicht diese Integrationen, ohne dass jedes Agentframework ein völlig anderes Richtlinienmodell einführen muss.
Von Open-Source-Bausteinen bis hin zur Steuerung im Unternehmensmaßstab
Die Open-Source-Bausteine bieten Entwicklern die Flexibilität, Steuerungsmechanismen zur Laufzeit in ihren eigenen Anwendungen zu implementieren. Große Organisationen stehen jedoch vor einer zusätzlichen Herausforderung. Sie haben selten nur einen Agenten. Möglicherweise verfügen sie über Hunderte oder Tausende von Agents, die von verschiedenen Teams entwickelt wurden, mit unterschiedlichen Frameworks und in mehreren Umgebungen ausgeführt werden.
Ohne zentralisierte Richtlinienverwaltung muss jedes Team seine Richtlinien unabhängig speichern, konfigurieren, verteilen und aktualisieren. Dies schafft operative Herausforderungen:
- Wie können Sicherheits- und Governanceteams Richtlinien einrichten, die für alle Anwendungen einheitlich gelten?
- Wie können Entwickler Organisationsregeln wiederverwenden, ohne Richtlinienlogik zu duplizieren?
- Wie können Richtlinienbesitzer Anforderungen aktualisieren, ohne Anwendungsversionen in Dutzenden von Teams zu koordinieren?
- Wie können Organisationen nachvollziehen, welche Richtlinienversion ausgewertet wurde, als ein Agent eine bestimmte Aktion ausgeführt hat?
- Wie können sie unterschiedliche Agent-Frameworks unterstützen, ohne für jedes einzelne separate Governance-Systeme einzuführen?
Hier erweitert Agent Controls die Open Source Foundation. Agent Controls bieten eine zentralisierte Richtlinienverwaltung und gehostete Richtlinienauswertung, die auf ACS basiert. Richtlinienbesitzer können freigegebene Richtlinien erstellen und verwalten, während Entwickler ihre Anwendungen in eine gemeinsame Evaluierungs-API integrieren. Anstatt eine unabhängige Kopie jeder Richtlinie in jeder Anwendung bereitzustellen, können Teams zentral verwaltete Richtlinien nach ID referenzieren.
Wenn ein Agent eine Aktion auswerten muss, sendet sein Host den relevanten Laufzeitkontext an Agent Controls. Der Dienst wertet die ausgewählte Richtlinie aus und gibt dem Host eine Entscheidung zurück, die dieser durchsetzt. Dies stellt eine allgemeine verwaltete Richtlinienebene für heterogene Agentumgebungen bereit, ohne dass der Dienst selbst diese Agents hosten oder ausführen muss.
Funktionsweise von Agent Controls
Agent Controls folgt einem einfachen Runtime-Kontrollfluss:
- Definieren und veröffentlichen Sie Richtlinien. Richtlinienbesitzer erstellen ACS-Richtlinien, die zulässige und verbotene Verhaltensweisen beschreiben, und veröffentlichen die Richtlinien dann in Agent Controls.
- Fangen Sie eine Agentaktion ab. Eine Agentlaufzeit erfasst eine Aktion oder inhalte an einem relevanten Interventionspunkt, z. B. unmittelbar vor einem Toolaufruf.
- Bewerten Sie die entsprechende Richtlinie. Die Laufzeit ruft Agent-Steuerelemente auf, wobei die vorgeschlagene Aktion, der Ausführungskontext und die zu bewertende Richtlinie bereitgestellt werden.
- Gibt eine Entscheidung zurück. Agent Controls wertet die Richtlinie aus, einschließlich aller konfigurierten Beobachtungen, und gibt eine Entscheidung sowie einen Auswertungsbeleg zurück.
- Setzen Sie die Entscheidung durch. Die Agentlaufzeit ermöglicht, blockiert oder transformiert den vorgeschlagenen Vorgang gemäß der zurückgegebenen Bewertung.
Agent Hooks bestimmt, wann überprüft werden soll. ACS definiert, wie Richtlinien ausgedrückt und ausgewertet werden. Agent Controls bieten eine zentralisierte Verwaltung und gehostete Auswertung. Die Agentlaufzeit erzwingt die Entscheidung.
Beispiel: Ein Rückerstattungs-Agent, der innerhalb von Geschäftsgrenzen tätig ist
Stellen Sie sich ein Unternehmen vor, das einen Kundensupport-Agenten einsetzt, der Rückerstattungen verarbeiten kann. Die Organisation definiert die folgenden Richtlinien:
| Policy | Gewünschtes Verhalten |
|---|---|
Erstattungsbetrag darf $100 nicht überschreiten |
Rückerstattungsanforderungen über dem Schwellenwert verweigern |
| Kundeninformationen dürfen nur an genehmigte Ziele weitergegeben werden. | Nicht autorisierte Übertragungen verweigern |
| Antworten dürfen keine vertraulichen persönlichen Informationen offenlegen | Inhalte auswerten und bei Bedarf blockieren oder transformieren |
| Bestimmte Kundenverpflichtungen erfordern eine Genehmigung | Verweigern Sie die sofortige Aktion und leiten Sie den Überprüfungsprozess des Hosts ein |
Stellen Sie sich jetzt vor, dass der Agent den folgenden Toolaufruf vorschlägt:
{
"tool": "refund_order",
"arguments": {
"order_id": "demo-001",
"amount": 150
}
}
Vor dem Ausführen des Vorgangs fängt die Agentlaufzeit den vorgeschlagenen Toolaufruf am pre_tool_call Interventionspunkt ab. Die Laufzeit sendet die vorgeschlagene Aktion und ihren Kontext an Agent Controls. Agent Controls bewertet die anwendbare ACS-Richtlinie. Die deterministische Regel überprüft den Erstattungsbetrag auf den zulässigen Schwellenwert der Organisation.
Da $150 das Maximum von 100 $ überschritten wird, gibt die Regel eine deny Entscheidung zurück. Die Agentlaufzeit erzwingt dieses Urteil, indem verhindert wird, dass das Erstattungstool ausgeführt wird.
Im Gegensatz dazu würde eine Rückerstattung von $75 der Richtlinie entsprechen und allow zurückgeben. Der Agent ist nicht erforderlich, um eine menschliche Genehmigung für jede Aktion anzufordern, noch ist es erforderlich, eine starre vordefinierte Abfolge von Schritten zu befolgen. Sie kann innerhalb der von der Organisation festgelegten Grenzen arbeiten.
In diesem Beispiel wird der zentrale Nutzen von Laufzeitrichtlinien veranschaulicht: Agenten können bei der Ausführung von Aufgaben autonom bleiben, während zugleich eingeschränkt wird, welche Aktionen sie ausführen dürfen.
ACS und gehostete Agent Controls: Welche sollten Sie verwenden?
Die Open-Source-ACS-Laufzeit und die gehosteten Agent Controls basieren auf derselben Richtliniengrundlage, dienen jedoch unterschiedlichen operativen Anforderungen.
| Fähigkeit | Open-Source, In-Process ACS | Steuerelemente für gehostete Agent |
|---|---|---|
| Definieren von Richtlinien mithilfe von ACS | Yes | Yes |
| Deterministische Rego-Richtlinien auswerten | Yes | Yes |
| Richtlinienauswertung ausführen | Open-Source-SDK | von Microsoft verwalteter Dienst |
| Veröffentlichen und Aktualisieren von Richtlinien | Anwendungsverwaltete Dateien oder benutzerdefinierte Infrastruktur | Freigegebene ARM-Richtlinie und Rego-Ressourcen |
| Beobachtungen konfigurieren | Von der Anwendung konfigurierte Annotatoren | Unterstützte Inhaltssicherheits-Klassifikatoren und aktivierte LLM-Bewerter |
| Richtlinien in allen Anwendungen wiederverwenden | Durch benutzerdefinierte Verteilung und Integration | Über zentral verwaltete Richtlinienressourcen |
| Abfangen der Agentausführung | Agent-Host | Agent host |
| Richtlinienbewertungen erzwingen | Agent-Host | Agent host |
Verwenden Sie Open-Source ACS , wenn Sie die Richtlinienauswertung in Ihre eigene Anwendung oder Infrastruktur einbetten und betreiben möchten.
Verwenden Sie gehostete Agent Controls, wenn Sie Richtlinien zentral verwalten möchten und sich auf einen verwalteten Dienst für die Richtlinienauswertung zwischen Agents und Anwendungen verlassen möchten.
Die beiden Ansätze ergänzen sich. Eine Organisation kann die Open-Source-Bausteine für die Anwendungsintegration und die lokale Entwicklung verwenden, während sie gehostete Agent-Steuerelemente für freigegebene Unternehmensrichtlinien verwenden.
Wichtige Konzepte
Agent-Host
Der Host ist die Anwendung, Agentlaufzeit oder das Gateway, das für die Ausführung verantwortlich ist. Es weiß, wann eine Modellanforderung, ein Toolaufruf oder eine Ausgabe bevorsteht. Er erstellt den Kontext, ruft Agentsteuerelemente auf und entscheidet, ob die Ausführung fortgesetzt werden kann.
Der Host muss die tatsächliche Aktion melden und die ausgewerteten Werte verwenden. Die Auswertung einer Reihe von Toolargumenten und das Verteilen einer anderen umgeht die Richtlinie.
Interventionspunkt
Ein Interventionspunkt identifiziert, wann eine Richtlinie gilt.
| Punkt | Vorher bewerten |
|---|---|
agent_startup |
Starten einer Sitzung |
input |
Akzeptieren einer externen Eingabe in den Agent |
pre_model_call |
Verteilen einer Modellanforderung |
post_model_call |
Verwenden einer abgeschlossenen Modellantwort |
pre_tool_call |
Auslösen eines Toolaufrufs |
post_tool_call |
Verarbeitung eines abgeschlossenen Toolergebnisses |
output |
Freigabe der endgültigen Ausgabe |
agent_shutdown |
Beenden der Sitzung |
Die ACS-Richtlinie gibt die Interventionspunkte an, an denen ihre Regeln gelten. Der Agenthost ruft Agent-Steuerelemente an diesen Punkten auf, um die entsprechende Aktion oder den entsprechenden Inhalt auszuwerten.
Auswertungen vor dem Aufruf bestimmen, ob eine Modellanfrage oder ein Tool-Aufruf fortgesetzt werden kann. Bewertungen nach dem Aufruf steuern die Verwendung von Antworten und Ergebnissen nach Abschluss des zugrunde liegenden Vorgangs.
Manifest und Rego
Eine Agent Controls-Richtlinie besteht aus zwei Teilen: einem JSON-Manifest und einem oder mehreren Rego-Modulen.
Das Manifest legt den Lebenszykluspunkt, den Laufzeitwert und die Rego-Regeln fest, die ausgewertet werden. Rego drückt die Entscheidungslogik aus. Rego-Module werden separat hochgeladen und in der ARM-Richtlinie referenziert.
Beispielsweise schlägt ein Kundensupportmitarbeiter einen Toolaufruf refund_order mit einer Auftrags-ID und einem Erstattungsbetrag in Höhe von 75 vor. Die Geschäftsrichtlinie erlaubt Rückerstattungen von bis zu 100.
Um diesen Grenzwert zu erzwingen, bindet das Manifest den pre_tool_call Interventionspunkt an die Rego-Abfrage data.refund_guard.verdict. Sie wählt aus der übermittelten Nutzlast als Auswertungsziel tool_call.args aus.
Die Rego-Regel verwendet den Toolnamen, um eine Rückerstattungsanforderung zu identifizieren. Es überprüft deterministisch, dass der Betrag numerisch, größer als Null und nicht größer als 100 ist.
Snapshot und Ziel
Die Momentaufnahme beschreibt das aktuelle Agentereignis an einem Interventionspunkt. Bei einem vorgeschlagenen Toolaufruf enthält es den Namen und die Argumente des Tools zusammen mit den Agent- und Sitzungsdetails.
Das Ziel ist der Teil dieser Momentaufnahme, den die Richtlinie prüfen soll. Im Erstattungsbeispiel wählt das Manifest die Toolargumente aus:
Snapshot: proposed tool call
Tool name: refund_order
Arguments: <-- target
order_id: demo-001
amount: 75
Agent and session details
Rego kann die gesamte Momentaufnahme einschließlich der ausgewählten Argumente überprüfen. Das Target gibt Richtlinien unabhängig vom Interventionspunkt einen konsistenten Verweis auf die zu überprüfenden Daten. Außerdem werden die Daten identifiziert, die eine zulässige Transformation ändern kann.
Annotator
Ein Annotator überprüft Inhalte anhand einer Richtlinie. Sie wird vor Rego ausgeführt und gibt eine Annotation zurück, z. B. eine erkannte Kategorie, eine Beschriftung oder eine Bewertung.
Agent-Steuerelemente unterstützen derzeit zwei Arten von Annotatoren:
- Azure KI Inhaltssicherheit-Klassifizierer erkennen konfigurierte Kategorien, z. B. Prompt Injection und Gewalt.
- LLM-Bewerter klassifizieren Inhalte mithilfe von benutzerdefinierten schriftlichen Kriterien in der Richtlinie.
Das Manifest gibt an, welcher Annotator ausgeführt werden soll, an welchem Interventionspunkt und welcher Inhalt überprüft werden soll. Rego verwendet die zurückgegebene Annotation als Eingabe zusammen mit dem Snapshot und den Targets bei der Auswertung der Richtlinie.
Beispielsweise kann eine Supportrichtlinie Rückerstattungszusagen in Kundenantworten verbieten. An der output Interventionsstelle überprüft ein LLM-Richter die vorgeschlagene Antwort und kann sie commitmentkennzeichnen. Die Rego-Regel kann dann das Label verwenden und deny zurückgeben.
Urteil
Ein Verdikt ist das Ergebnis einer Richtlinienauswertung. Er teilt dem Agent-Host mit, ob die vorgeschlagene Aktion ausgeführt werden kann, blockiert werden muss oder zunächst geändert werden muss.
-
allow: Der Host kann die vorgeschlagene Aktion ausführen oder den Inhalt wie eingereicht freigeben. -
deny: Der Host blockiert die Aktion oder hält den Inhalt zurück. -
transform: Der Host wendet die in der Entscheidung angegebene Änderung auf das Ziel an, überprüft das Ergebnis und fährt mit den aktualisierten Daten fort.
Im Erstattungsbeispiel lässt die Regel einen gültigen Betrag 75 zu und gibt allow zurück. Ein Betrag von 150 überschreitet den Grenzwert, deshalb gibt die Regel deny zurück, und der Host veranlasst keine Rückerstattung. Eine andere Richtlinie könnte transform zurückgeben, um ein Feld in einer Antwort vor der Freigabe zu schwärzen.
Eine Bewertung kann auch Folgendes umfassen:
- Warnungen, die zusätzliche Informationen bereitstellen, ohne die Entscheidung zu ändern.
-
Eine Genehmigungsanforderung, die eine
denyEntscheidung begleitet und Details zum Überprüfungsprozess des Gastgebers enthält. Die Aktion bleibt blockiert, bis der konfigurierte Genehmigungsworkflow des Hosts sie genehmigt.
Bewertungsbeleg
Ein Auswertungsnachweis ist ein Datensatz, der zusammen mit dem Urteil zurückgegeben wird. Er identifiziert die ausgewerteten Richtlinien und Versionen, den überprüften Interventionspunkt und eine Auswertungs-ID. Der Host verwendet den Beleg, um zu überprüfen, ob das Ergebnis mit der Anforderung und der erwarteten Richtlinie übereinstimmt.
Beispielsweise identifiziert der Beleg für eine Erstattungsprüfung die Richtlinienversion, die zum Auswerten dieses Anrufs verwendet wird. Der Host zeichnet die Evaluierungs-ID zusammen mit dem tatsächlichen Erstattungsergebnis auf, z. B. ausgestellt oder blockiert. Mit diesem Prozess können Operatoren die Aktion der Anwendung auf die Richtlinienauswertung zurückverfolgen.
Verwenden von Agent-Steuerelementen mit Ihrer Anwendung
Agentsteuerelemente bieten zwei ergänzende API-Oberflächen:
Steuerungsebene: Verwalten von Richtlinien
Verwenden Sie die Azure Resource Manager (ARM)-Steuerungsebene, um ACS-Richtlinienressourcen und wiederverwendbare Rego-Module zu veröffentlichen, zu aktualisieren und zu verwalten.
Datenebene: Auswerten von Richtlinien
Verwenden Sie die Unified Moderate-Datenebenen-API, um Aktionen und Inhalte anhand zentral verwalteter Richtlinien auszuwerten.
Für den eigenständigen Ablauf der Richtlinienauswertung wählt die Anwendung mithilfe des Abfrageparameters policyId eine Richtlinie aus und stellt den relevanten Ausführungskontext bereit.
Der Dienst gibt die Bewertung und den Beleg zurück, damit die aufrufende Anwendung sie verarbeiten kann.
Das projektbezogene API-Profil verwendet targetResourceId und verfügt über separate Autorisierungs- und Beleganforderungen. Es handelt sich nicht um einen austauschbaren Selektor für den eigenständigen policyId Fluss.
Vollständige Beispiele finden Sie in den Codebeispielen für Agentsteuerelemente.
Die Erzwingungsgrenze verstehen
Agentsteuerelemente führen Ihren Agent nicht aus, führen seine Tools nicht aus, sandboxen seinen Prozess nicht und steuern keinen Pfad, der Ihren Abfangcode umgeht. Er leitet die Berechtigungen eines Benutzers nicht von einem Prompt ab oder macht einen modellgenerierten Identitätsanspruch vertrauenswürdig.
Behalten Sie Autorisierungs- und maßgebliche Geschäftsdaten in vertrauenswürdigen Anwendungssystemen bei. Verwenden Sie Richtlinien, um zu entscheiden, welche Vorgänge basierend auf ordnungsgemäß konstruierten Kontexten ausgeführt werden dürfen, und überprüfen Sie die Erzwingung im Host.
Billing
Während der öffentlichen Vorschau zahlen Sie nur für Klassifizierer und LLM-Verwendung, die durch die Richtlinienauswertung von Agentsteuerelementen ausgelöst wird.
Die Nutzung der Content Safety-Klassifizierer wird entsprechend der Content Safety pricing abgerechnet. Wenn Ihre Richtlinie einen LLM-Richter aufruft, sind Sie auch für die zugehörigen Modellnutzungsgebühren verantwortlich.