Anwendungskarte: Autopilot (Frontier)

[Dieser Artikel ist die Vorabveröffentlichungsdokumentation und unterliegt Änderungen.]

Important

  • Der Zugriff auf Autopilot (Frontier) erfordert die anwendbare Registrierung für das Frontier Preview-Programm, die Zuweisung zur Preview und die Teilnahmebedingungen. Die Frontier-Registrierung allein aktiviert nicht jedes Vorschaufeature. Frontier Previews unterliegen den geltenden Vorschaubedingungen Ihrer Kundenvereinbarungen, und ihre Verfügbarkeit und Funktionen können sich ändern.
  • Diese Funktion befindet sich in der Vorschauversion.
  • Preview-Features haben möglicherweise eine eingeschränkte Funktionalität und werden möglicherweise nicht zur allgemeinen Verfügbarkeit freigegeben. Diese Funktionen sind vor einer offiziellen Veröffentlichung verfügbar, sodass die Kundschaft frühzeitig Zugriff erhält und Feedback geben kann.
  • Weitere Informationen findest du in unseren Microsoft-Produktbedingungen.

Was ist eine Anwendungs- oder Plattform-Karte?

Die Anwendungs- und Plattformkarten von Microsoft sollen Ihnen helfen, zu verstehen, wie unsere KI-Technologie funktioniert, welche Entscheidungen Anwendungsbesitzer treffen können, die die Leistung und das Verhalten der Anwendung beeinflussen können, und wie wichtig es ist, die gesamte Anwendung zu berücksichtigen, einschließlich der Technologie, der Menschen und der Umgebung. Anwendungskarten werden für KI-Anwendungen und Plattformkarten für KI-Plattformdienste erstellt. Diese Ressourcen können die Entwicklung oder Bereitstellung Ihrer eigenen Anwendungen unterstützen und für Benutzer oder Projektbeteiligte freigegeben werden, die von ihnen betroffen sind.

Im Rahmen seiner Verpflichtung zu verantwortungsvoller KI hält sich Microsoft an sechs Grundprinzipien: Fairness, Zuverlässigkeit und Sicherheit, Datenschutz und Sicherheit, Inklusion, Transparenz und Verantwortlichkeit. Der Responsible AI Standard und die Ressourcen leiten Teams beim Entwerfen, Erstellen und Testen von KI-Anwendungen. Anwendungs- und Plattformkarten bieten Transparenz in Bezug auf Funktionen, beabsichtigte Verwendungen und Einschränkungen. Siehe auch den Microsoft Enterprise AI Services Code of Conduct.

Overview

Autopilot ist ein always-on, cloudbasierter Agent in Microsoft Copilot. Sie beschreiben das gewünschte Ergebnis, die zu verwendenden Quellen und Grenzen. Sie kann bearbeitbare Arbeit vorbereiten, zugängliche Unterhaltungen überprüfen, Verpflichtungen einhalten und geplante Automatisierungen ausführen. Die Identität, der Arbeitsspeicher, der Computer und der Arbeitsbereich unterstützen die Kontinuität über eine einzelne Unterhaltung hinaus.

Autopilot wurde für Informationsarbeiter entwickelt, die Arbeit in Microsoft 365 delegieren. Einige Vorgänge verwenden die dedizierte Identität; andere verwenden autorisierten Zugriff in Ihrem Namen. Das handelnde Konto, die Ressource, die Aktion und die Richtlinie bestimmen den Zugriff. Vor einer Aktion, die etwas sendet, teilt, löscht oder ändert, entscheidet eine automatisierte Prüfung, ob sie ausgeführt werden kann oder Ihre Genehmigung benötigt.

Autopilot bleibt eine Vorschau. Der Hintergrundvorgang garantiert nicht die unterbrechungsfreie Ausführung, die vollständige Wiederherstellung oder den Abschluss bis zu einem bestimmten Zeitpunkt. Informationen zu Funktionen und Verfügbarkeit finden Sie in der Autopilot-Übersicht und den Anforderungen.

Schlüsselbegriffe

Die folgende Liste enthält ein Glossar mit schlüsselbegriffen im Zusammenhang mit Autopilot.

Begriff Description
Aktionsgenehmigung Eine Genehmigungskarte, die den Besitzer auffordert, eine oder mehrere Aktionen zuzulassen oder zu verweigern. Zulassen führt die Aktionen auf der Karte einmal aus.
Agentischer KI-Assistent Ein KI-basierter Assistent, der mehrere Schritte im Auftrag einer Person plant und durchführt, basierend auf Anweisungen in natürlicher Sprache und Zugriff auf die Daten, die diese Person verwenden darf.
Activity Eine benutzerorientierte Ansicht der Arbeit, einschließlich laufender Elemente, Anfragen zur Beurteilung und Ergebnissen. Es ist keine Garantie für ein vollständiges administratives Prüfprotokoll.
Memory Informationen zu Unterhaltungen, persönlichen und Arbeitsbereichen, die Autopilot für zukünftige Arbeiten aufbewahrt und anwendet. Sie können es im Autopilot-Bereich unter Überprüfen Sie, was [name] weiß überprüfen oder in einer Unterhaltung danach fragen.
Authorization Berechtigung für eine bestimmte Aktion oder einen bestimmten Arbeitsumfang, vorbehaltlich des Ressourcenzugriffs und der Organisationsrichtlinie.
Automation Arbeiten, die nach einem Zeitplan mit gespeicherten Anweisungen, Identitäten, Zielen und Berechtigungen ausgeführt werden.
Skill Anweisungen für eine Art von Aufgabe, die mit verfügbaren Tools und Berechtigungen verwendet werden.
Plug-In Ein Paket von Fähigkeiten oder Verbindungen, die Fähigkeiten enthalten können. Eine Katalogauflistung begründet keine Installation oder Berechtigung.
Workspace Eine Cloudarbeitsumgebung, die den Kontext zwischen Sitzungen beibehalten kann; sie ist von Ihrem lokalen Gerät und vom Ziel eines veröffentlichten Lieferumfangs getrennt. Autopilot kann nicht auf lokale Ordner oder Apps zugreifen.
Arbeitsplatzidentität Der Name, avatar und die E-Mail-Adresse, die Autopilot verwendet, damit Teamkollegen seine Arbeit in Copilot, Teams und Outlook erkennen können.

Hauptmerkmale oder Funktionen

Die wichtigsten Features und Funktionen, die hier beschrieben sind, beschreiben, wofür Autopilot konzipiert ist und wie er bei unterstützten Aufgaben funktioniert.

  • Funktioniert in ganz Microsoft 365: Autopilot verwendet autorisierte Teams-, Outlook-, OneDrive- und SharePoint-Informationen über die verfügbaren Tools.
  • Erstellt bearbeitbare Inhalte: Autopilot kann Nachrichten, Dokumente, Präsentationen und Analysen entwerfen. Sie geben an, ob ein Entwurf erstellt, eine Datei gespeichert, freigegeben oder eine Nachricht gesendet werden soll.
  • Aktionsautorisierung: Autopilot kann Aufgaben ausführen, ohne zu jedem Schritt zu fragen. Ein automatisiertes Überprüfungssystem überprüft jede Aktion, die Inhalte sendet, freigibt, löscht oder ändert, oder die eine Automatisierung erstellt oder ändert. Aktionen, die mit der Anforderung des Besitzers übereinstimmen, werden ausgeführt; andere zeigen eine Genehmigungskarte an. Zahlungen und sensible Browserschritte benötigen immer eine Genehmigung.
  • Führt wiederkehrende Arbeiten durch Automatisierungen aus: Autopilot verwendet einen Zeitplan und gespeicherte vollständige Anweisungen. Überwachungskriterien aktivieren nicht selbst jedes Ereignis oder Arbeitssignal als Trigger.
  • Arbeitet im Auftrag des Besitzers mit Kollegen zusammen: Auf Anfrage des Besitzers kann Autopilot Kollegen in Teams Nachrichten senden, Verpflichtungen nachverfolgen und Besprechungen mit Genehmigung planen.
  • Workplace Identity: Autopilot hat seinen eigenen Namen, Avatar und E-Mail-Adresse und wird neben Ihnen in Copilot, Teams und Outlook angezeigt, damit Teamkollegen ihre Arbeit von Ihren unterscheiden können.
  • Aktivität: Überprüfen Sie laufende Arbeit, Anfragen zur Beurteilung und Ergebnisse, und überprüfen Sie dann externe Auswirkungen an ihren Zielorten.
  • Speicher: Gespeicherte Einstellungen und Entscheidungen helfen bei der Kontinuität. Benutzer können Erinnerungen im Autopilot-Panel überprüfen, korrigieren und entfernen oder indem sie im Chat danach fragen. Speicher kann in dieser Version nicht deaktiviert werden. Speicher ist nicht vollständig zurückrufen oder autorität für den Zugriff auf Daten.
  • Fähigkeiten und Plug-Ins: Plug-Ins in Plugins hinzufügen, Fähigkeiten erstellen oder hochladen und Fähigkeiten mit ausgewählten Personen in Ihrer Organisation teilen. Eine Richtlinie kann ein Plug-In blockieren, und die Freigabe einer Fähigkeit gibt keine Anmeldeinformationen oder Berechtigungen frei.
  • Browserverwendung: Wenn diese Funktion aktiviert ist, kann Autopilot in Microsoft Edge auf dem Gerät des Besitzers arbeiten, um Anfragen zu bearbeiten, die der Besitzer in seiner privaten Unterhaltung vornimmt. Er fordert vor sensiblen Aktionen eine Genehmigung an, und der von ihm gelesene Seiteninhalt wird vom Cloudmodell verarbeitet.
  • Credits: Autopilot wird über eine von einem Administrator eingerichtete Ausgabenrichtlinie auf Basis von Copilot Credits abgerechnet. Wenn ein Benutzer nicht abgedeckt ist oder die Richtlinie ihren Grenzwert erreicht, beendet Autopilot die Ausführung von Automatisierungen, die Überwachung und neue Anfragen.
  • Erkennung von Vertraulichkeitsbezeichnungen: Autopilot kann Vertraulichkeitsbezeichnungen auf unterstützten Inhalten erkennen. Inhalte mit Bezeichnungen werden nicht von dem ausgeschlossen, was Autopilot lesen kann, und die Erkennung begründet keine Vererbung von Bezeichnungen oder Data Loss Prevention (DLP)-Abdeckung.
  • Mobiler Zugriff: Benutzer können mit Autopilot unter iOS und Android über die apps Microsoft 365 Copilot, Microsoft Teams und Microsoft Outlook arbeiten.

Als agentischer KI-Assistent zeigt Autopilot die folgenden Merkmale:

  • Planung: Autopilot kann eine Natural-Language-Anforderung in Schritte unterteilen und die für die Aufgabe verfügbaren Funktionen verwenden.
  • Anpassungsfähigkeit: Sie können weitere Anweisungen senden, um eine Änderung anzufordern. Überprüfen Sie die resultierende Arbeit, anstatt davon auszugehen, dass eine bereits laufende Aktion geändert oder beendet wurde.
  • Erinnerung: Gespeicherter Kontext über den Besitzer und seine Arbeit unterstützt spätere Arbeit.
  • Erweiterbarkeit: Fähigkeiten und Plug-Ins bieten Aufgabenleitfäden und Verbindungen, sofern sie aktiviert sind, ohne selbst zusätzlichen Datenzugriff zu gewähren. Weitere Informationen finden Sie in der Dokumentation zu Plug-Ins.

Beabsichtigte Verwendungen

Autopilot kann in mehreren Szenarien für Information Worker verwendet werden, die Microsoft 365 verwenden und mehrstufige Arbeit delegieren möchten. Beispiele für Anwendungsfälle sind:

  • Tägliche Briefings und Triage: Richten Sie eine geplante Zusammenfassung aus angegebenen, barrierefreien Kalendern, E-Mail- und Teams-Quellen mit einem vorgesehenen Zustellungsziel ein.
  • Entwurf und Kommunikation: Autopilot entwirft Nachrichten, Dokumente, Kalkulationstabellen und Präsentationen für Ihre Überprüfung, z. B. das Umwandeln von Notizen zur Startbereitschaft und wöchentliche Metriken in eine einseitige Projektaktualisierung.
  • Nachverfolgen von Verpflichtungen und Stichtagen: Fordern Sie eine wiederkehrende Prüfung ungelöster Entscheidungen und Entwürfe für Nachfassaktionen an.
  • Überwachung und Warnmeldungen: Quellen, Überprüfungshäufigkeit und Kriterien für Änderungen oder Risiken in einer Automatisierung angeben. Die Überwachung ist keine Garantie für sofortige Erkennung.
  • Wiederkehrende Berichterstellung: Autopilot führt Automatisierungen nach einem Zeitplan aus, um wöchentliche Metriken, Kundenfeedback zu digesten oder eine wiederkehrende Statuszusammenfassung zu erstellen.
  • Anwendungsübergreifendes Follow-Through: Autopilot erledigt Arbeit, die sich über mehrere Microsoft 365 Apps in einer Unterhaltung erstreckt, z. B. recherchen im Zusammenhang mit der Arbeit, vorbereiten eines Dokuments und Entwerfen einer Nachricht, um sie freizugeben.

Geltungsbereich des Agenten: Eine Anforderung oder Automatisierung beschreibt ein beabsichtigtes Ergebnis, aber sie autorisieren nicht jede Aktion oder verknüpfen nicht jedes Arbeitssignal. Aktionen, die andere Personen sehen können, benötigen eine Genehmigung, entweder wenn die Arbeit gestartet wird oder wenn die Aktion angezeigt wird. Überprüfen Sie die Identitäten, Berechtigungen, Empfänger und Ziele, die von Aufgaben und Automatisierungen verwendet werden. Weder die Teams @Copilot-Funktion noch parallele Software-Agenten in anderen Copilot-Erfahrungen etablieren nicht dieselbe Fähigkeit in Autopilot.

Autopilot ist nicht für Anwendungsfälle vorgesehen, die eine garantierte Genauigkeit ohne menschliche Überprüfung erfordern. Beispiele hierfür sind rechtliche Einreichungen, medizinische Entscheidungen oder finanzielle Transaktionen, die Genehmigungsprozesse umgehen.

Modelle und Trainingsdaten

Autopilot verwendet KI-Modelle, um Anforderungen zu interpretieren und Arbeit auszuführen. Es wird auf GPT-6.1 Sol ausgeführt, das von OpenAI als Microsoft-Unterauftragsverarbeiter bereitgestellt wird. Wenn ein Administrator OpenAI unter KI-Anbietern deaktiviert, die als Microsoft Unterauftragsverarbeiter arbeiten, verwendet Autopilot stattdessen GPT-5.6 Sol, das in Azure OpenAI gehostet wird. Benutzer können modelle nicht über eine Eingabeaufforderung wechseln, und es gibt kein separates Modellauswahlsteuerelement für Autopilot. Das automatisierte Überprüfungssystem verwendet ein separates KI-Modell zum Überprüfen von Aktionen. Anleitungen für Administratoren finden Sie unter Modellgovernance überprüfen.

Microsofts Copilot-Datenschutzleitfaden besagt, dass Aufforderungen, Antworten und Organisationsdaten, die über Microsoft 365-Dienste abgerufen werden, nicht zum Trainieren von Foundationmodellen verwendet werden. Überprüfen Sie Daten, Datenschutz und Sicherheit für Microsoft Copilot zusammen mit den Bedingungen für die für Ihre Organisation aktivierten Modelle.

Wenn OpenAI aktiviert ist, werden Aufforderungen und zugehörige Daten von OpenAI als Microsoft-Unterauftragsverarbeiter verarbeitet. Verarbeitungsstandorte und anwendbare Verpflichtungen können sich vom in Azure OpenAI gehosteten Modell unterscheiden. Administratoren sollten bestätigen, dass die Vereinbarung ihren Anforderungen an die Datenresidenz und die EU-Datengrenze entspricht. Erfahren Sie mehr in OpenAI als Unterauftragsverarbeiter in Microsoft Online services.

Performance

Die Leistungsbewertung konzentriert sich darauf, ob Autopilot die angeforderte mehrstufige Arbeit abgeschlossen hat und ob die Ausgabe Ihren Absichten entspricht. Die Ergebnisse hängen von der Aufgabe, dem Zugriff, den Tools, dem Modell und der Konfiguration ab.

Unterstützte Modalitäten

  • Eingabe: Text in natürlicher Sprache und unterstützter Kontext, der über autorisierte Tools bereitgestellt oder abgerufen wird.
  • Ausgabe: Text, Entwürfe von Nachrichten, Dokumenten, Präsentationen, Analysen und Automatisierungsergebnissen, sofern unterstützt. Ausgabeziele hängen von der Aufgabe und den verfügbaren Funktionen ab.

So verarbeitet Autopilot Anforderungen

  1. Autopilot erhält von Ihnen eine Anweisung in natürlicher Sprache.
  2. Autopilot plant die Schritte, die zum Abschließen der Anforderung erforderlich sind, und greift dabei auf Ihre Microsoft 365-Inhalte und die benötigten Fähigkeiten zurück.
  3. Autopilot führt die Schritte mithilfe der verfügbaren Tools aus. Sie kann Fragen stellen, wenn weitere Informationen benötigt werden; mehrdeutige Anweisungen klären, bevor Sie eine folgenreiche Aktion autorisieren.
  4. Autopilot wendet die Berechtigungen und Richtlinien der Aktion an. Das automatisierte Überprüfungssystem vergleicht die Aktion mit Ihrer Anforderung und lässt sie entweder ausführen oder fordert Ihre Genehmigung an.
  5. Autopilot meldet das Ergebnis oder die Einschränkung. Überprüfen Sie die gespeicherte Datei, die gesendete Nachricht oder den Kalendereintrag am Ziel, und unterscheiden Sie die Ausführung von der Zustellung.

Voraussetzungen für einen zuverlässigen Betrieb

  • Autopilot funktioniert am besten, wenn Anweisungen klar und spezifisch sind, einschließlich Details zu dem gewünschten Ergebnis, Empfängern und Formatierungen.
  • Autopilot wird in der Cloud ausgeführt und hängt von den verfügbaren Microsoft 365 Apps und verbundenen Diensten ab.
  • Das handelnde Konto muss für die angeforderte Ressource und den angeforderten Betrieb autorisiert sein; Eine dedizierte Agentidentität umgeht diese Prüfungen nicht.
  • Die Leistung kann für eine sehr komplexe, mehrstufige Arbeit mit vielen Abhängigkeiten beeinträchtigt werden.

Mehrsprachige Funktionen

Die Sprachunterstützung kann je nach Vorschau, Modell und verbundenem Dienst variieren. Autopilot ist für Englisch optimiert. Eine übersetzte Schnittstelle belegt nicht, dass jede Sprache für dieselben Aufgaben ausgewertet wurde. Bestätigen Sie die unterstützte Konfiguration, bevor Sie sie für einen sprachabhängigen Workflow verwenden.

Limitations

Das Verständnis der Einschränkungen von Autopilot ist entscheidend, um festzustellen, ob es innerhalb sicherer und effektiver Grenzen verwendet wird. Während wir Kunden ermutigen, Autopilot in ihrer Arbeit zu verwenden, ist es wichtig zu beachten, dass Autopilot nicht für jedes mögliche Szenario entwickelt wurde. Wir empfehlen Benutzern, entweder auf den Microsoft Enterprise AI Services Code of Conduct (für Organisationen) oder den Abschnitt "Verhaltensregeln" im Microsoft-Servicevertrag (für Einzelpersonen) sowie auf die folgenden Überlegungen bei der Auswahl eines Anwendungsfalls zu verweisen:

  • Anweisungsinterpretation: Autopilot interpretiert möglicherweise mehrdeutige oder zu weit gefasste Anweisungen falsch, was zu Arbeit führt, die nicht Ihrer Absicht entspricht. Eine Anforderung zum Bereinigen alter Projektdateien könnte sich beispielsweise auf mehr Inhalte auswirken als erwartet. Stellen Sie klare, spezifische Anfragen, und überprüfen Sie genau, welche Dateien, Daten, Personen und Mitteilungen von einer Aktion betroffen sind, bevor Sie sie genehmigen.
  • Inhaltsgenauigkeit: Behandeln Sie KI-generierte Dokumente, Nachrichten und andere Inhalte als Entwürfe. Überprüfen Sie Inhalte immer, bevor Sie Aktionen genehmigen, die Inhalte senden, freigeben oder danach handeln. Autopilot kann ungenaue Informationen erzeugen, insbesondere wenn die Quelldaten, auf die es zurückgreift, unvollständig oder veraltet sind.
  • Aufgabenkomplexität: Komplexe, mehrstufige Arbeit mit vielen Abhängigkeiten ist möglicherweise nicht immer wie erwartet abgeschlossen. Überwachen Sie den Fortschritt und halten Sie eine Aufgabe bei Bedarf an oder passen Sie sie an.
  • Berechtigungsgrenzen: Das autorisierte Konto, die Ressource, die Aktion und der Unterhaltungskontext bestimmen den Zugriff. Speicher- und Fähigkeitsanweisungen erteilen keine Berechtigung. Autopilot erweitert nicht die Daten, auf die ein Benutzer zugreifen kann.
  • Automatisierte Genehmigungsprüfungen: Das automatisierte Prüfsystem kann nicht alles sehen, was Autopilot weiß, und es kann Fehler machen. Eine Aktion, die das System als Übereinstimmung mit Ihrer Anforderung bewertet, wird ohne Bestätigungskarte ausgeführt. Formulieren Sie Anfragen möglichst konkret, geben Sie Grenzen wie z. B. „Senden Sie sie noch nicht“ an, und überprüfen Sie die Ergebnisse. Mit Zulassen auf einer Genehmigungskarte werden diese Aktionen einmal ausgeführt; sie autorisiert später keine ähnlichen oder nicht zusammenhängenden Aktionen.
  • Lokales Gerät und Browser: Autopilot kann nicht auf lokale Ordner oder Apps zugreifen. Wenn die Browsernutzung aktiviert ist, werden Seiteninhalte, die Autopilot in Microsoft Edge liest, einschließlich Inhalte von Websites, bei denen Sie angemeldet sind, an sein Cloudmodell gesendet. Richtlinien und Websiteregeln können browseraktionen weiterhin blockieren.
  • Automatisierungen werden mit gespeicherter Autorität ausgeführt: Überprüfen Sie die vollständigen Anweisungen, Den Zeitplan, Identitäten, Empfänger und Ziele. Geplante Arbeit erbt nicht alle Befugnisse aus der Unterhaltung bei der Erstellung.
  • Modell- und Anbieterunterschiede: Verarbeitungsstandorte und Complianceverpflichtungen hängen davon ab, ob OpenAI oder das von OpenAI gehostete Azure-Modell die Anforderung verarbeitet. Generische Copilot-Schutzfunktionen sind kein Beleg für eine identische Abdeckung bei jeder Modellanordnung oder jedem Werkzeug.
  • Vertraulichkeitsbezeichnungen: Gekennzeichnete E-Mails und Dateien sind nicht von dem ausgeschlossen, was Autopilot lesen kann. Inhalte, die generiert oder geändert werden, übernehmen oder anwenden möglicherweise nicht automatisch die Quellbezeichnungen. Wenden Sie geeignete Kennzeichnungen und Schutzmaßnahmen an, bevor Sie Inhalte freigeben oder speichern.
  • Verhinderung von Datenverlust: DLP für Prompts ist während der Vorschau eingeschränkt, und ein blockierter Prompt kann einen generischen Fehler anzeigen. Gehen Sie nicht von einer einheitlichen Microsoft Purview DLP-Erzwingung für alle Tools und Ziele aus.
  • Complianceabdeckung: eDiscovery, Aufbewahrung und gesetzliche Aufbewahrungspflicht decken keine Autopilot-Unterhaltungen ab, und Autopilot wird nicht in data Security Posture Management für KI angezeigt. Lesevorgänge im Namen des Besitzers werden unter dem Konto des Besitzers protokolliert. Berechtigungen und Verschlüsselung sind die Steuerelemente, die Inhalte zuverlässig von Autopilot fernhalten.
  • Speicher und Rückruf: Arbeitskontext, Unterhaltungsverlauf, gespeicherte Erinnerung und exportierte Dateien sind unterschiedliche Datensätze. Durch das Löschen einer Unterhaltung werden gespeicherte Erinnerungen nicht entfernt, und eine gelöschte Unterhaltung bleibt gespeichert, bis der Benutzer Autopilot auffordern, sie dauerhaft zu entfernen. Exporte sind Momentaufnahmen und tragen möglicherweise nicht die ursprünglichen Vertraulichkeitsbezeichnungen. Benutzer können eine vollständige Kopie ihrer Erinnerungen und Sitzungen herunterladen, und für eine genehmigte Compliance- oder Datenschutzanforderung kann ein Mandantenadministrator eine Kopie der Erinnerungen und Sitzungen eines Benutzers exportieren. Eine Arbeitsbereichsdatei ist nicht unbedingt ein veröffentlichtes, zugängliches Lieferobjekt.
  • Sichtbarkeit von Nachrichten: Jeder in einem Teams-Chat kann Nachrichten sehen, die Autopilot dort sendet. Überprüfen Sie die Empfänger, bevor Sie das Senden einer Nachricht zulassen.
  • Unvollständige oder unsichere Resultate: Eine Stoppanforderung belegt keinen Abbruch oder Rollback. Eine Genehmigung ist kein Nachweis für die Ausführung, und ein erfolgreicher Arbeitsschritt ist kein Nachweis für die Bereitstellung.
  • Vorurteile, Stereotypisierung und nicht fundierte Inhalte: Trotz verantwortungsvoller KI-Kontrollen können KI-generierte Inhalte immer noch Vorurteile, Stereotypen oder nicht fundierte Informationen widerspiegeln. Überprüfen Sie immer Antworten und Aktionen, bevor Sie sie genehmigen.
  • Entscheidungen mit hohem Einfluss: Verwenden Sie Autopilot nicht, um Entscheidungen mit rechtlichen, medizinischen, finanziellen, Bildungs-, Beschäftigungs-, Wohnungs- oder Versicherungsfolgen zu treffen oder zu automatisieren. Eine qualifizierte Person muss diese Entscheidungen treffen.
  • Sprache: Autopilot ist für Englisch optimiert. Die Verfügbarkeit kann nach Region und Sprache eingeschränkt werden.

Evaluations

Leistungs- und Sicherheitsbewertungen untersuchen die Aufgabenerfüllung, die Reaktionsqualität und Risiken schädlicher Inhalte oder nicht autorisierter Aktionen. Die folgenden Bereiche beschreiben die Bewertungsabdeckung und die gewünschten Ergebnisse, keine veröffentlichte Zertifizierung oder garantie, dass jede Vorschaukonfiguration jedes Szenario bestanden hat.

Leistungs- und Qualitätsbewertungen

Zu den Leistungs- und Qualitätsbewertungsbereichen gehören:

  • Vorgangsabschluss – ob Autopilot die angeforderte Arbeit erfolgreich in mehreren Schritten ausführt.
  • Kohärenz – ob die Ausgabe von Autopilot logisch strukturiert und konsistent ist.
  • Antwortqualität – ob die Ausgabe den Absichten des Benutzers entspricht, basierend auf der natürlichen Sprachanweisung.

Methoden zur Leistungs- und Qualitätsbewertung

Autopilot wird mithilfe von textbasierten Szenarien ausgewertet, die widerspiegeln, wie Personen in Microsoft 365 Apps arbeiten, einschließlich multistufiger Aufgabenausführung, Dokumenterstellung, Nachrichtenentwurf, Planung und repräsentative Unternehmensszenarien. Evaluatoren bewerten, ob die angeforderten Aktionen ordnungsgemäß ausgeführt wurden, ob die Antworten von den Inhalten des Benutzers tatsächlich unterstützt wurden und ob Die Ausgaben in verschiedenen Variationen desselben Vorgangs konsistent waren. Ideale Ergebnisse spiegeln genauen Aufgabenabschluss und konsistente Leistung wider; Suboptimale Ergebnisse umfassen falsche Empfänger, nicht unterstützte Ansprüche in generierten Inhalten oder unvollständige Arbeit.

Benutzerdefinierte Auswertungen

Neben Qualitätsbewertungen umfasst das Bewertungsframework von Autopilot szenariobasierte Fälle für Sicherheitsbereiche wie Inhaltsschäden, Datenschutz- und Informationslecks, Prompt-Injection-Widerstand und Aktionsautorisierung. In diesen Fällen wird getestet, ob erforderliche Genehmigungen und Berechtigungsgrenzen eingehalten werden, ob der Agent in externen Inhalten versteckten Anweisungen widersteht und ob nicht autorisierte Offenlegung vermieden wird. Ideale Ergebnisse führen legitime Arbeit innerhalb ihres autorisierten Umfangs aus; suboptimale Ergebnisse umfassen das Folgen einer eingefügten Anweisung, das Handeln ohne erforderliche Autorität oder das Erzeugen schädlicher Inhalte. Die Abdeckung eines Szenarios bedeutet nicht, dass jede Vorschaukonfiguration das Szenario bestanden hat.

Risiko- und Sicherheitsbewertungen

Risiko- und Sicherheitsbewertungsbereiche umfassen schädliche Inhalte und Versuche, den Agenten zu manipulieren. Der Umfang kann Folgendes umfassen:

  • Hass und Unfairness
  • Sexuelle Inhalte
  • Gewalt
  • Selbstverletzung
  • Geschütztes Material
  • Schutz vor Prompt-Injection (in externen Inhalten versteckte Anweisungen)
  • Ausführung nicht autorisierter oder nicht genehmigter Aktionen
  • Informationsabfluss

Risiko- und Sicherheitsbewertungsmethoden

Risiko- und Sicherheitsbewertungen verwenden adversariale Szenarien und Bewertungen, um potenzielle Schäden zu bewerten. Bei der Bewertung von Aktionen wird auf unbeabsichtigte Empfänger, fehlende erforderliche Befugnis, Berechtigungsumgehung und in E-Mails, Dateien oder Webinhalten verborgene Anweisungen geprüft. Ein wünschenswertes Ergebnis lehnt nicht autorisierte Arbeit ab oder leitet sie um, während legitime, autorisierte Aktionen erlaubt werden. Prüfergebnisse sind an die geprüften Fälle, Geräte, Modelle und Konfigurationen gebunden; sie sind keine Garantie für das Produktionsverhalten oder eine Compliance-Zertifizierung. Diese Karte weist keine quantitative Passrate aus.

Sicherheitskomponenten und Entschärfungen

Da wir potenzielle Risiken und Missbrauch mithilfe von Prozessen wie Red-Teamtests identifiziert und gemessen haben, haben wir Abhilfemaßnahmen entwickelt, um das Schadenspotenzial zu verringern. In der folgenden Liste werden einige dieser Risikominderungen beschrieben. Wir bewerten Autopilot weiterhin, um die Produktleistung und Maßnahmen zu verbessern.

  • Autorisierung von Aktionen. Ein zweites KI-Modell überprüft Aktionen anhand der Anfrage des Eigentümers, bevor sie ausgeführt werden. Aktionen, die nicht eindeutig passen oder nicht überprüft werden können, warten auf die Genehmigung des Besitzers. Zahlungen und sensible Browserschritte benötigen immer eine Genehmigung. Jede Genehmigungskarte gibt an, warum sie angezeigt wurde, und kennzeichnet Empfänger außerhalb der Organisation als "Extern".
  • Berechtigungsgrenzen. Zugriffsprüfungen gelten für die handelnde Identität, Ressource und den Vorgang. Durch das Hinzufügen einer Fähigkeit oder eines Plug-Ins werden diese Berechtigungen nicht erweitert.
  • Bereichsbezogene Autorität. Aufgaben, Unterhaltungen und wiederkehrende Arbeiten können unterschiedliche Autorisierungsbereiche aufweisen. Gehen Sie nicht davon aus, dass die Berechtigung in einem Kontext für einen anderen gilt.
  • Schutz vor Anweisungen in externen Inhalten. Nur die eigenen Nachrichten des Besitzers zählen als Anfragen, sodass in E-Mails, Dateien oder Webseiten versteckte Anweisungen, die als Prompt Injection bekannt sind, keine Aktion autorisieren. Gegenmaßnahmen verringern dieses Risiko, beseitigen es jedoch nicht; Überprüfen Sie angeforderte Aktionen.
  • Inhaltssicherheit. Sicherheitskontrollen zielen darauf ab, die schädliche Ausgabe zu reduzieren. Sie beseitigen nicht die Notwendigkeit, Inhalte zu überprüfen oder Aktionen zu überprüfen.
  • Verankerung in Organisationsdaten. Autorisierte Microsoft 365 Quellen bieten Kontext für die Aufgabe. Grounding garantiert keine genaue Ausgabe; überprüfen Sie die materiellen Fakten anhand ihrer Quellen.
  • Sichtbarkeit des Fortschritts. Unterhaltungen und Aktivitäten helfen Ihnen beim Überprüfen von Arbeiten und Anfragen zur Beurteilung. Sie sind kein vollständiges administratives Auditprotokoll.
  • Steuerelemente für Administratoren. Administratoren verwalten die Vorschauberechtigung, den Anbieter- und Ressourcenzugriff sowie die anwendbaren Verwendungssteuerelemente. Überprüfen Sie für Modellbegriffe, Auditierung, Aufbewahrung, Kennzeichnung und DLP die Abdeckung in der aktivierten Konfiguration. Weitere Informationen finden Sie unter Konfigurieren von Autopilot für Ihre Organisation.

Bewährte Methoden für die Bereitstellung und Einführung von Autopilot

Verantwortungsvolle KI ist ein gemeinsames Engagement zwischen Microsoft und seinen Kunden. Während Microsoft KI-Anwendungen und Plattformdienste mit Sicherheit, Fairness und Transparenz erstellt, spielen Kunden eine wichtige Rolle bei der Bereitstellung und Verwendung dieser Technologien in ihren eigenen Kontexten. Um diese Partnerschaft zu unterstützen, bieten wir die folgenden bewährten Methoden für Bereitstellungen und Endbenutzer an, um Kunden bei der effektiven Implementierung verantwortungsvoller KI zu unterstützen.

Die für die Bereitstellung Verantwortlichen und die Endbenutzer sollten:

  • Seien Sie vorsichtig, und bewerten Sie Ergebnisse, wenn Sie Autopilot für weitreichende Entscheidungen oder in sensiblen Domänen verwenden. Folgeentscheidungen sind solche, die einen rechtlichen oder erheblichen Einfluss auf den Zugang einer Person auf Bildung, Beschäftigung, Finanzdienstleistungen, staatliche Leistungen, Gesundheitswesen, Wohnung, Versicherung oder juristische Dienstleistungen haben können oder die zu körperlichen, psychischen oder finanziellen Schäden führen könnten. Sensible Bereiche wie Finanzdienstleistungen, Gesundheitswesen und Wohnen erfordern besondere Sorgfalt aufgrund des Potenzials für unverhältnismäßige Auswirkungen auf verschiedene Personengruppen. Wenn Sie KI für Entscheidungen in diesen Bereichen verwenden, stellen Sie sicher, dass betroffene Beteiligte verstehen, wie Entscheidungen getroffen werden, Beschwerdeentscheidungen treffen und alle relevanten Eingabedaten aktualisieren können.
  • Rechtliche und regulatorische Überlegungen bewerten. Kunden müssen potenzielle spezifische rechtliche und behördliche Verpflichtungen bewerten, wenn Sie KI-Dienste und -Lösungen verwenden, die möglicherweise nicht für die Verwendung in jeder Branche oder in jedem Szenario geeignet sind. Darüber hinaus sind KI-Dienste oder -Lösungen nicht dafür konzipiert, auf eine Weise verwendet zu werden, die gegen die geltenden Nutzungsbedingungen und Verhaltensregeln verstößt, und dürfen nicht solchermaßen eingesetzt werden.

Bereitsteller sollten:

  • Konfigurieren Sie den Zugriff entsprechend. Bestätigen Sie die Frontier-Anmeldung, eine Ausgabenrichtlinie, die Autopilot-Benutzer, die Autopilot-Aktivierung und KI-Anbietereinstellungen abdeckt. Beginnen Sie mit einer begrenzten Zielgruppe. Weitere Informationen finden Sie unter Konfigurieren von Autopilot für Ihre Organisation.
  • Informieren Sie Benutzer über Autorisierung. Erklären Sie, dass Autopilot ohne Bestätigung pro Schritt handeln kann, wenn das automatisierte Prüfsystem feststellt, dass eine Aktion mit der Anforderung übereinstimmt, und dass Benutzer Genehmigungskarten überprüfen und Ergebnisse überprüfen müssen.
  • Informieren Sie Benutzer über Berechtigungen. Ordnen Sie autorisierte Aktionen, Ressourcen und Empfänger dem Workflow und den Anforderungen Ihrer Organisation zu. Behandeln Sie Steuerelemente der Vorschauoberfläche nicht als Nachweis der Abdeckung durch Richtlinien.
  • Überwachen sie die Nutzung. Überprüfen Sie, wie Autopilot in Ihrer Organisation verwendet wird, um Muster, häufige Probleme oder Bereiche zu identifizieren, in denen möglicherweise zusätzliche Anleitungen erforderlich sind.

Endbenutzer sollten:

  • Sorgen Sie gegebenenfalls für menschliche Überprüfung. Die menschliche Aufsicht ist ein wichtiger Schutz bei der Interaktion mit KI-Anwendungen. Während wir Autopilot kontinuierlich verbessern, kann KI immer noch Fehler machen. Die generierten Ausgaben können aufgrund von Gründen wie Mehrdeutigkeit in den Eingaben oder Einschränkungen der zugrunde liegenden Modelle ungenau, unvollständig, falsch ausgerichtet oder irrelevant sein. Überprüfen Sie die Antworten, die Autopilot generiert, und vergewissern Sie sich, dass sie Ihren Erwartungen und Anforderungen entsprechen.
  • Seien Sie sich des Risikos einer übermäßigen Abhängigkeit bewusst. Überlastung bei KI geschieht, wenn Benutzer falsche oder unvollständige KI-Ausgaben akzeptieren, hauptsächlich weil Fehler in KI-Ausgaben möglicherweise schwer zu erkennen sind. Da Autopilot in Ihrem Auftrag handeln kann, überprüfen Sie ihre Arbeit – insbesondere Empfänger, Datumsangaben und Inhalte – vor der Genehmigung von Aktionen, die Informationen senden oder freigeben.
  • Geben Sie klare, spezifische Anweisungen. Fügen Sie Details zu dem gewünschten Ergebnis, Empfängern, Formatierungen und Inhaltserwartungen ein. Je spezifischer die Anweisung, desto besser das Ergebnis. Versuchen Sie z. B. anstelle von "Hilfe bei der E-Mail", "eine Antwort auf Mira zu erstellen, die bestätigt, dass ich die Sicherheitsprüfung übernehme, und erwähnen Sie, dass die Korrektur für die Zahlung bereit ist."
  • Überprüfen Sie Die Automatisierungen, bevor Sie sie aktivieren. Automatisierungen werden nach einem Zeitplan mithilfe ihrer gespeicherten Anweisungen, Identitäten und Berechtigungen ausgeführt. Überprüfen Sie den gespeicherten Bereich, bevor Sie eine Automatisierung aktivieren, und halten Sie sie an, wenn sie sich nicht wie erwartet verhält.
  • Seien Sie vorsichtig in sensiblen Domänen. Ergreifen Sie zusätzliche Sorgfalt, wenn die Aktionen von Autopilot unwiderruflich oder stark folgefähig sind, wie im Microsoft Enterprise AI Services Code of Conduct (für Organisationen) oder im Abschnitt "Verhaltensregeln" im Microsoft-Servicevertrag (für Einzelpersonen) beschrieben.

Weitere Anleitungen oder weitere Informationen zur verantwortungsvollen Verwendung von Autopilot finden Sie in der folgenden Dokumentation:

Ressourcen für verantwortungsvolle KI

Verwenden Sie diese Ressourcen, um den Ansatz Microsoft für verantwortungsvolle KI zu verstehen.