Hinweis
Für den Zugriff auf diese Seite ist eine Autorisierung erforderlich. Sie können versuchen, sich anzumelden oder das Verzeichnis zu wechseln.
Für den Zugriff auf diese Seite ist eine Autorisierung erforderlich. Sie können versuchen, das Verzeichnis zu wechseln.
Note
Die Funktionen in diesem Artikel basieren auf dem Standard-Harness, das die in Lizenzierung für Agenten mit Standard-Harness beschriebenen Abrechnungsoptionen verwendet. Erfahren Sie, wie Sie auf Standardfunktionen in Zugriff auf Standard-Agenten und Agentenflüsse zugreifen.
Wenn Sie eine menschliche Aufsicht nutzen, eskaliert der Agent, der eine Computer nutzt, bei Bedarf an die Person, die Sie in den Einstellungen der menschlichen Aufsicht konfigurieren.
Note
Computer-Agenten können auf Prompt-Injection-Angriffe stoßen, bei denen versteckte Anweisungen in Screenshots, Webseiten oder anderen Eingaben versuchen, Aktionen auf unbeabsichtigte Weise zu beeinflussen. Um dieses Risiko zu minimieren, führen Sie diese Agents in vertrauenswürdigen, isolierten Umgebungen aus, und wenden Sie robuste Überprüfungen an, bevor Sie Anweisungen ausführen.
Funktionsunterstützung pro Modell
Die folgende Tabelle listet auf, welche Modelle die Funktion menschliche Überwachung unterstützen.
| Modellanbieter | Version | Status | Unterstützt menschliche Aufsicht |
|---|---|---|---|
| Azure OpenAI | OpenAI-Computer mit Agent V1 | Pensioniert | Ja |
| Azure OpenAI | Computer-nutzender Agent (CUA) | Aktiv | Ja |
| Anthropic | Claude Sonnet 4.5 | Aktiv | Ja |
Überprüfung der Agenten- und Computernutzungsaktivität
Während der Ausführung, wenn der computerbenutzende Agent eine Bestätigung oder zusätzliche Informationen benötigt, kann er eine Überprüfungsanfrage per Outlook-E-Mail an den konfigurierten menschlichen Prüfer senden. Sie kann auch eine integrierte Prüfungskarte im erweiterten Bedienfeld für Computernutzungsaktivitäten anzeigen.
Das probabilistische Verhalten von KI-Modellen löst menschliche Überprüfungsanfragen aus. Dieses Verhalten bedeutet, dass das Modell diese Anfragen nicht in jeder Situation auslöst, in der eine Person eine Pause möchte, und es könnte diese Anfragen auch auslösen, wenn eine Pause nicht notwendig ist. Verlassen Sie sich nicht auf menschliche Überprüfungs- oder Klarstellungsanfragen als Sicherheitsmaßnahme oder als Garantie, dass das System immer menschliche Eingaben anfordert, bevor es fortfährt.
Note
- Nur der Hersteller des Computernutzungstools erhält menschliche Überprüfungsanfragen und hat Zugriff auf ausführliche Protokolle über das erweiterte Computernutzungsaktivitätspanel. Wenn du unter den Maschineneinstellungen Endbenutzerzugangsdaten auswählst, erhält die Person, die die Verbindung ursprünglich eingerichtet hat, diese Anfragen, allerdings nur, wenn sie ebenfalls als einer der benannten menschlichen Prüfer enthalten ist.
- Um die Human Review Requests direkt im computerbasierten Aktivitätspanel des Agenten innerhalb der Aktivitätskarte des Agenten zu überprüfen, müssen Sie die erweiterte Computernutzungsprotokollierung in Ihrer Umgebung aktivieren. Wenn die erweiterte Computernutzungsaktivität nicht auf der Aktivitätskarte angezeigt wird, hat Ihr Administrator diese Funktion möglicherweise für Ihre Umgebung deaktiviert.
In der folgenden Tabelle sind die wichtigsten Informationen aufgeführt, die in einer E-Mail-Anforderung für menschliche Überprüfungen enthalten sind:
| Feld | Description |
|---|---|
| Agent, der das Tool verwendet | Der Name des Copilot Studio-Agents. |
| Werkzeug zur Computernutzung | Der Name des Computerverwendungstools, das die Anforderung ausgelöst hat. |
| Gespräch | Der Deep-Link zu der Agentaktivität, in der das Computerverwendungstool derzeit ausgeführt wird. |
| Anforderungszeitlimit | Datum und Uhrzeit für das Ablaufdatum der Anfrage |
| Angefordert von | Der Hersteller (Verbindungsbesitzer) des Computerverwendungstools. |
| Fehlende Informationen bereitstellen | Das Textfeld für die Antwort, die an das Computerverwendungstool gesendet werden soll. |
| Übermitteln | Der Button zum Einsenden der eingegebenen Textantwort. Für eine Bestätigungsanfrage geben Sie entweder Ja zum Bestätigen oder Nein zum Ablehnen. |
Antwort auf Anfragen zur Überprüfung durch Personen
Um auf menschliche Überprüfungsanfragen zu reagieren, können Sie entweder per E-Mail oder inline über das Aktivitätsfenster "Computernutzung" in der Aktivitätskarte des Agenten antworten. Inline-Antworten erfordern, dass eine fortgeschrittene Computernutzungsprotokollierung in der Umgebung aktiviert wird. In beiden Fällen bleibt der Workflow angehalten, wenn Sie keine Antwort geben, und wird automatisch beendet, sobald das in der E-Mail angegebene Zeitlimit erreicht ist.
Wichtig
Das menschliche Überwachungssystem basiert auf probabilistischem KI-Modellverhalten. Während das System eine Systemaufforderung und vielleicht andere Einschränkungen enthält, kann es gelegentlich Klarstellungsanforderungen generieren, die unnötig sind. Es kann nicht ausgelöst werden, wenn es erwartet wird, oder es kann Informationen anfordern, die nicht im gegebenen Kontext bereitgestellt werden sollten, einschließlich potenziell vertraulicher Informationen.
Daher sollten Prüfer bei der Beantwortung von Anfragen zur menschlichen Überwachung mit Urteilsvermögen umgehen und keine sensiblen Informationen wie Benutzernamen, Passwörter, PINs, Kreditkarteninformationen oder Sozialversicherungsnummern angeben. Je nach Konfiguration Ihrer Organisation können Antworten auf menschliche Überprüfungsanfragen in Ihrer Dataverse-Umgebung oder in Purview-Auditprotokollen bestehen bleiben und für autorisierte Benutzer innerhalb Ihrer Organisation sichtbar sein.
Per E-Mail antworten
Die E-Mail-Anfrage zur menschlichen Überprüfung enthält Details zum Agent, zum Tool und der Unterhaltung sowie zu den spezifizierten Informationen oder Klarstellungen, die angefordert werden. Überprüfen Sie die Anforderung sorgfältig, um festzustellen, ob Sie über ausreichende Informationen verfügen, um zu antworten. Geben Sie gegebenenfalls Ihre Antwort in das angegebene Textfeld ein, und wählen Sie "Absenden" aus.
Inline antworten
- Wählen Sie den Link Unterhaltung im dem E-Mail-Text der Anfrage zur menschlichen Überprüfung aus, um die Aktivitätskarte des Agents zu öffnen.
- Suchen Sie die Computerverwendungsaktion, die dem konfigurierten Computerverwendungstool entspricht, und öffnen Sie den Seitenbereich.
- Überprüfen Sie im Abschnitt Aktivität des Seitenbereichs die Liste der Aktivitäten. Aktivitäten, die auf eine menschliche Überprüfung warten, werden mit einem Warteindikator neben der Modellantwort gekennzeichnet.
- Überprüfen Sie die Anfrage sorgfältig, und ermitteln Sie, ob Sie über ausreichende Informationen verfügen, um zu antworten. Geben Sie gegebenenfalls Ihre Antwort in das angegebene Textfeld ein, und wählen Sie "Absenden" aus.
Schalten Sie die menschliche Überwachung aus
Wichtig
Das Abschalten der menschlichen Überwachung macht den computerbenutzenden Agenten nicht völlig autonom. Der Agent hält immer noch inne, wenn er eine Bestätigung oder Klarstellung braucht. Wenn keine Prüfer konfiguriert sind, können diese Anfragen nirgendwo weitergeleitet werden, sodass die Sitzung fehlschlägt, wenn der Agent pausiert. Konfigurieren Sie mindestens einen Reviewer.
Um menschliche Aufsicht auszuschalten, gehen Sie zum Abschnitt "Menschliche Überwachung" im Computer-Tool und entfernen Sie alle Prüfer aus der Liste "Zuweisen an Anfragen ".