Anwendungs-Karte: Microsoft Security Copilot-Agents

Was ist eine Anwendungs- oder Plattform-Karte?

Die Anwendungs- und Plattformkarten von Microsoft sollen Ihnen helfen zu verstehen, wie unsere KI-Technologie funktioniert, welche Entscheidungen Anwendungsbesitzer treffen können, die die Leistung und das Anwendungsverhalten beeinflussen, und wie wichtig es ist, die gesamte Anwendung zu berücksichtigen, einschließlich der Technologie, der Menschen und der Umwelt. Anwendungskarten werden für KI-Anwendungen erstellt, und Plattformkarten werden für KI-Plattformdienste erstellt. Diese Ressourcen können die Entwicklung oder Bereitstellung eigener Anwendungen unterstützen und für Benutzer oder Stakeholder, die von ihnen betroffen sind, freigegeben werden.

Im Rahmen seines Engagements für verantwortungsvolle KI hält sich Microsoft an sechs Grundprinzipien: Fairness, Zuverlässigkeit und Sicherheit, Datenschutz und Sicherheit, Inklusivität, Transparenz und Verantwortlichkeit. Diese Prinzipien sind im Responsible AI Standard verankert, der Teams beim Entwerfen, Erstellen und Testen von KI-Anwendungen leitet. Anwendungs- und Plattformkarten spielen eine Schlüsselrolle bei der Operationalisierung dieser Prinzipien, indem sie Transparenz in Bezug auf Funktionen, Verwendungszwecke und Einschränkungen bieten. Weitere Einblicke erhalten Leser im Transparenzbericht zu verantwortungsvoller KI von Microsoft und im Verhaltenskodex für Microsoft Enterprise AI Services, in dem beschrieben wird, wie Sie verantwortungsvoll mit KI umgehen können.

Übersicht

Microsoft Security Copilot ist eine generative KI-gestützte Sicherheitslösung, die dazu beiträgt, die Effizienz und Fähigkeiten von Verteidigern zu steigern, um die Sicherheitsergebnisse bei Computergeschwindigkeit und -skalierung zu verbessern. Security Copilot bietet eine unterstützende Copilot-Erfahrung in natürlicher Sprache, die Sicherheitsexperten und IT-Administratoren bei der Bewältigung einer Vielzahl von End-to-End-Szenarien unterstützt, einschließlich Reaktion auf Vorfälle, Bedrohungssuche, Sammlung von Informationen und Statusverwaltung.

Security Copilot wurde für die Integration konzipiert und bietet eine immersive eigenständige Erfahrung unter https://securitycopilot.microsoft.com. Die Plattform lässt sich nahtlos in Produkte im Microsoft-Sicherheitsportfolio integrieren, z. B. Microsoft Defender XDR, Microsoft Sentinel, Microsoft Intune, Microsoft Entra und Microsoft Purview, sowie in unterstützte Dienste von Drittanbietern.

Ein Security Copilot-Agent generiert Ausgaben und kann Aktionen basierend auf konfigurierter Logik, Berechtigungen und Triggern ausführen, die vom Kunden definiert werden. Kunden können autonome Security Copilot-Agents verwenden, um Sicherheitsworkflows zu automatisieren, Reaktionszeiten zu verkürzen, Risiken zu priorisieren und manuelle Arbeitsbelastungen zu reduzieren, während sie gleichzeitig die volle Kontrolle behalten. Agentenautonomie bezieht sich auf die Fähigkeit eines Agenten, innerhalb definierter Grenzen selbstständig Aktionen zu ergreifen.

Ein Administrator (Besitzer von Security Copilot) ermittelt und stellt Agents über das Security Copilot-Portal und den Security Store bereit, wobei einige Agents auch in eingebetteten Microsoft-Sicherheitsprodukterfahrungen auftauchen. Der Administrator legt die Identität des Agenten fest und konfiguriert die rollenbasierte Zugriffssteuerung (RBAC) für den Agenten.

Zu den vorgesehenen Benutzern gehören SOC-Analysten, IT-Administratoren, Datensicherheits- und Identitätsadministratoren, Complianceanalysten und Sicherheitsverantwortliche wie Chief Information Security Officers (CISOs).

Security Copilot enthält die ISO 42001-Zertifizierung, die bestätigt, dass ein unabhängiger Dritter die Anwendung des erforderlichen Frameworks und der Fähigkeiten von Microsoft überprüft hat, um Risiken und Chancen im Zusammenhang mit der kontinuierlichen Entwicklung, Bereitstellung und dem Betrieb von Microsoft AI-Systemen effektiv zu verwalten.

Weitere Informationen finden Sie unter Was ist Microsoft Security Copilot?, Erfahrungen mit Microsoft Security Copilot und Anwendungs-Karte für Security Copilot.

Schlüsselbegriffe

Die folgende Tabelle enthält ein Glossar der wichtigsten Begriffe im Zusammenhang mit Microsoft Security Copilot-Agents.

Begriff Definition
Agent Ein Security Copilot-Agent verarbeitet Signale aus der Kundenumgebung über integrierte Datenquellen und Plug-Ins, analysiert Daten und generiert Empfehlungen. Agents können auch bereichsbezogene Aktionen innerhalb der konfigurierten Berechtigungen ausführen, wenn sie dazu aufgefordert werden, die eine entsprechende Genehmigung durch den Benutzer oder Administrator erfordern. Agents können von einfachen Prompt-and-Response-Erfahrungen bis hin zu automatisierteren, halbautonomen Workflows mit menschlicher Aufsicht reichen.
Agentaktion Ein Vorgang, der von einem Agent ausgeführt wird, z. B. das Abrufen von Daten, das Generieren von Ausgaben oder das Ändern von Konfigurationen, basierend auf Berechtigungen.
Agentmanifest Eine Konfigurationsdatei, die die Fähigkeiten, Tools und das Verhalten eines Agenten definiert. Es steuert, wie der Agent innerhalb von Security Copilot arbeitet und wird in einem YAML-Dateiformat dargestellt.
Eingebettete Erfahrung Zugriff auf Security Copilot-Funktionen aus einem anderen Microsoft-Sicherheitsprodukt heraus, z. B. Microsoft Defender XDR oder Microsoft Sentinel. Das Beiarfenster von Security Copilot zeigt KI-Unterstützung direkt im Kontext dieses Produkts an.
Erdung Der Prozess der Bereitstellung kontextbezogener Eingabequellen für das große Sprachmodell im Zusammenhang mit der Eingabeaufforderung eines Benutzers. Indem Security Copilot über Plug-Ins und Microsoft-Sicherheitsprodukte auf Unternehmensdaten zugreifen kann, kann Security Copilot genauere und kontextbezogenere Antworten liefern.
Großes Sprachmodell (Large Language Model, LLM) KI-Modelle, die mit großen Mengen von Textdaten trainiert wurden, um Wörter in Sequenzen vorherzusagen. LLMs sind in der Lage, verschiedene Aufgaben wie Textgenerierung, Zusammenfassung, Übersetzung, Klassifizierung und mehr auszuführen.
Von einem Partner erstellter Agent Ein Agent, der von Microsoft-Partnern veröffentlicht und über den Security Store zur Verfügung gestellt wird, um bestimmte Sicherheitsanwendungsfälle abzudecken.
Das Plugin Eine Sammlung verwandter Tools, die die Funktionen von Security Copilot erweitern, indem sie ihm über APIs Zugriff auf Ressourcen von Microsoft- und Nicht-Microsoft-Diensten sowie öffentlichen Websites gewähren. Plugins fügen den Antworten und Ausgaben, die Security Copilot generiert, mehr Kontext hinzu.
Nachbearbeitung Die Gruppe von Aktionen, die Security Copilot ausführt, um die LLM-Antwort zu verfeinern und vorzubereiten, bevor sie an den Benutzer zurückgegeben wird. Diese Nachbearbeitung umfasst zusätzliche Grounding-Aufrufe durch Plug-Ins, verantwortungsvolle KI-Prüfungen, Sicherheits-, Compliance- und Datenschutzprüfungen.
Eingabeaufforderung Der Text in natürlicher Sprache, den ein Benutzer an Security Copilot sendet, um eine bestimmte Aufgabe auszuführen oder Informationen zu erhalten. Beispiel: Fassen Sie diesen Vorfall zusammen, und schlagen Sie Schritte zur Behebung vor.
Promptbook Eine Reihe von Eingabeaufforderungen, die nacheinander ausgeführt werden und auf vorherigen Antworten aufbauen, um bestimmte sicherheitsrelevante Aufgaben auszuführen. Promptbooks können aus der Bibliothek verwendet oder von Benutzern erstellt und freigegeben werden.
Red-Teamtests Techniken, die von Experten verwendet werden, um die Einschränkungen und Schwachstellen eines Systems zu bewerten und die Wirksamkeit geplanter Abhilfemaßnahmen zu testen. Red-Teamtests dienen der Identifizierung potenzieller Risiken und unterscheiden sich von der systematischen Messung von Risiken.
Verantwortungsvolle KI Die Richtlinien-, Forschungs- und Entwicklungspraktiken von Microsoft, die auf den KI-Prinzipien basieren und durch den Standard für verantwortungsvolle KI operationalisiert werden. Weitere Informationen finden Sie im Fluent RAI-Leitfaden.
Security Compute Unit (SCU) SCUs sind die Einheiten der Rechenkapazität, die verwendet werden, um Security Copilot-Workloads auszuführen und eine konsistente Leistung für alle Benutzeroberflächen bereitzustellen. Die Security Copilot-Kapazität wird in SCUs gemessen und kann durch bereitgestellte oder Überschreitungskapazitätsmodelle genutzt werden. Weitere Informationen finden Sie unter Grundlegendes zu SCUs.
Security Operations Center (SOC) Ein dediziertes Sicherheitsteam oder eine Einrichtung, die sich auf die kontinuierliche Überwachung, Analyse und Reaktion auf Cybersicherheitsvorfälle innerhalb einer Organization konzentriert. SOC-Analysten gehören zu den Hauptnutzern von Security Copilot.
Eigenständige Erfahrung Die immersive Erfahrung des Security Copilot-Portals, auf die direkt unter zugegriffen wirdhttps://securitycopilot.microsoft.com.
Mandant Die Organisationsgrenze in Microsoft Entra ID, die Identität, Zugriff und Daten für Security Copilot isoliert. Der Mandant steuert alle Arbeitsbereiche, Benutzer und Interaktionen über Berechtigungen und Sicherheitskontrollen auf Mandantenebene.
Auslöser Ein Ereignis oder eine Bedingung, die einen Agent anweist, mit der Ausführung seines Workflows zu beginnen. Auslöser können zeitbasiert (z. B. ein wöchentlicher Zeitplan für den Threat Intelligence Briefing Agent) oder manuell (bei Bedarf von einem Benutzer oder Administrator ausgeführt) sein. Der Trigger wird während des Setups des Agents konfiguriert.

Wichtige Features oder Funktionen

Die wichtigsten Features und Funktionen in der folgenden Tabelle beschreiben, wofür Microsoft Security Copilot entwickelt wurde und wie es bei unterstützten Aufgaben ausgeführt wird.

Feature oder Funktion Beschreibung
Untersuchung von Vorfällen und Reaktion auf Vorfälle Security Copilot hilft Sicherheitsexperten bei der Selektierung und Untersuchung von Vorfällen, indem sie Zusammenfassungen komplexer Sicherheitswarnungen generieren, Signale in Microsoft Defender XDR, Microsoft Sentinel und anderen integrierten Produkten korrelieren und schrittweise Anleitungen zur Problembehebung bereitstellen.
Threat Intelligence Security Copilot kann Microsoft Defender Threat Intelligence-Artikel und -Profile, Bedrohungsanalyseberichte und Veröffentlichungen zur Offenlegung von Sicherheitsrisiken durchsuchen, um relevante Informationen zu finden, die auf eine Eingabeaufforderung ausgerichtet sind.
Selektierung von Sicherheitswarnungen Security Copilot enthält den Security Alert Triage Agent, um Sicherheitsteams bei der Selektierung von Warnungen im großen Stil zu unterstützen, indem echte Angriffe und falsch positive Ergebnisse identifiziert werden, sodass sich Analysten auf die Untersuchung echter Bedrohungen mit transparenten, schrittweisen Argumenten konzentrieren können, um jede Entscheidung zu unterstützen.
Skriptanalyse und Generierung von KQL-Abfragen Security Copilot kann verdächtige Skripts oder Schadsoftware analysieren und natürliche Sprache in KQL-Abfragen übersetzen, sodass Teammitglieder aller Qualifikationsstufen erweiterte Such- und technische Analyseaufgaben durchführen können.
Verwaltung des Sicherheitsstatus Security Copilot hilft Benutzern, priorisierte Risiken in ihrer Umgebung zu verstehen und Möglichkeiten zur Verbesserung ihres Status durch Integration mit Microsoft Defender XDR, Microsoft Entra und Microsoft Intune zu identifizieren.
Erstellung und Verwaltung von Sicherheitsrichtlinien Benutzer können neue Richtlinien definieren, sie mit vorhandenen Richtlinien für Konflikte abgleichen und Richtlinien in einfacher Sprache zusammenfassen, um den komplexen Organisationskontext zu verwalten.
Berichterstattung von Stakeholdern Security Copilot kann Berichte erstellen, die den Kontext, offene Probleme und Schutzmaßnahmen zusammenfassen, die auf die Zielgruppe wie Führungskräfte oder Sicherheitsteams zugeschnitten sind.
Promptbooks Promptbooks sind Abfolgen von Eingabeaufforderungen, die ausgeführt werden, um bestimmte Sicherheitsaufgaben auszuführen. Benutzer können Promptbooks aus einer freigegebenen Bibliothek ausführen oder eigene erstellen und freigeben.
Agents Security Copilot unterstützt Agents, die Sicherheits- und IT-Betriebsaufgaben automatisieren und im Rahmen der von Administratoren erteilten Berechtigungen unterstützen. Ein Agent führt Aktionen über konfigurierte Identitäten, Zugriffssteuerungen und Auslöser aus und arbeitet mit menschlicher Aufsicht als Teil von Sicherheitsworkflows.
Die von Microsoft entwickelten Agents umfassen das gesamte Sicherheitsproduktportfolio und decken SOC-Vorgänge, Bedrohungssuche, Threat Intelligence, Identitätsverwaltung, Endpunktverwaltung und Datensicherheit ab. Administratoren konfigurieren die Identität, Berechtigungen und Auslöser der einzelnen Agents während des Setups. Benutzer können die Auslöser, den Datenzugriff, die Identität und die Aktionsberechtigungen (z. B. Lesen oder Schreiben) eines Agenten überprüfen, um zu verstehen, wie der Agent innerhalb seines definierten Bereichs arbeitet. Ausführliche Informationen zu bestimmten Agents und deren Anwendungsfällen finden Sie unter Verwendungszwecke.
Unterstützung mehrerer Sprachen Security Copilot unterstützt Prompts und Antworten in mehreren Sprachen. Weitere Informationen finden Sie unter Unterstützte Sprachen.

Security Copilot ist eine KI-gestützte Sicherheitslösung, die sowohl unterstützend als auch als autonomes agentisches System arbeitet. Um die Autonomie von Agents zu verstehen, betrachten Sie:

  • Aktivierungstrigger – welche Bedingungen oder Benutzeraktionen die Ausführung des Agents bewirken
  • Zugriffsberechtigungen – welche Daten, Systeme oder Ressourcen der Agent verwenden kann
  • Aktionsrechte – welche Aktionen der Agent selbst ausführen darf

In den folgenden Abschnitten werden die wichtigsten Agentfunktionen beschrieben, mit denen Agenten argumentieren, planen, sich erinnern, anpassen und ihre Reichweite erweitern.

Begründung

Security Copilot-Agents verwenden das zugrunde liegende große Sprachmodell, um den verfügbaren Kontext zu analysieren, Signale auszuwerten und die am besten geeignete Vorgehensweise zu bestimmen. So bewertet der Phishing Triage Agent beispielsweise den E-Mail-Inhalt, die Zuverlässigkeit des Absenders und Verhaltenssignale, um ein Klassifizierungsurteil mit einer Begründung in natürlicher Sprache zu erstellen. Agenten bringen ihre Argumentation transparent an die Oberfläche, so dass Analysten Schlussfolgerungen überprüfen, validieren oder außer Kraft setzen können, bevor sie darauf reagieren.

Planung

Agenten arbeiten gegen definierte Auslöser, die das agentische System anweisen, eine strukturierte Abfolge von Aktionen in Richtung eines Ziels zu initiieren. Agents können so konfiguriert werden, dass sie:

  • Wird automatisch nach einem Zeitplan ausgeführt (z. B. wird der Threat Intelligence Briefing Agent alle sieben Tage ausgeführt).
  • Bei Bedarf manuell ausführen.

Dieses Design gibt Agenten ein zielgerichtetes Ausführungsmodell, bei dem das System analysiert, wann und wie es handeln muss, um seine Aufgabe zu erledigen.

Arbeitsspeicher

Security Copilot-Agents können Informationen im Zeitverlauf speichern, die als Arbeitsspeicher bezeichnet werden. Der Speicher ermöglicht es einem Agenten, vergangene Eingaben in zukünftiges Verhalten zu integrieren, je nachdem, wie der Agent entworfen und konfiguriert ist.

Der Arbeitsspeicher kann Feedback von Benutzern enthalten. Agents können dieses Feedback verwenden, um ihre Antworten oder Aktionen in nachfolgenden Interaktionen anzupassen.

Anpassungsfähigkeit

Security Copilot-Agents sind so konzipiert, dass sie sich basierend auf Benutzerfeedback und dem betrieblichen Kontext anpassen, während sie weiterhin innerhalb des durch ihre konfigurierte Identität, Berechtigungen und Auslöser definierten Umfangs arbeiten.

  • Feedbackschleife: Security Copilot-Besitzer und -Mitwirkende können Feedback zu den Antworten eines Agents geben. Dieses Feedback wird im Speicher des Agenten gespeichert und kann je nach Design und Konfiguration des Agenten zukünftige Ausgaben beeinflussen.
  • Kontextbezogene Fundierung: Während der Verarbeitung von Prompts erweitert Security Copilot Prompts mithilfe von Grounding. Dieser Prozess umfasst relevante Organisationsdaten, aktivierte Plug-Ins und Threat Intelligence, sodass die Antworten den aktuellen Kontext widerspiegeln.
  • Konfigurierbare Identität und Berechtigungen: Agents können nach dem Setup aktualisiert werden, um die Identität, die Auslöser und die Parameter zu ändern. So können sich die Agenten an die sich entwickelnden Workflows und Anforderungen anpassen.

Erweiterbarkeit

  • Plug-Ins: Agents verwenden Plug-Ins, um externe Dienste über APIs zu erreichen, einschließlich Reputationsabfragen, Threat Intelligence und Endpunktdaten. Es werden sowohl von Microsoft als auch von Partnern bereitgestellte Plug-Ins unterstützt. Weitere Informationen finden Sie unter Plugin-Übersicht.
  • Konnektoren: Logic Apps- und Copilot Studio-Konnektoren umschließen die Security Copilot-API, sodass Entwickler und Benutzer die Plattform aus externen Automatisierungsworkflows aufrufen können. Weitere Informationen finden Sie unter Übersicht über Connectors.
  • Benutzerdefinierte Agents: Entwickler können benutzerdefinierte Agents erstellen, die auf bestimmte Anwendungsfälle zugeschnitten sind, und sie über die Entwicklerplattform zum Security Copilot-Ökosystem hinzufügen. Weitere Informationen finden Sie unter Entwickeln benutzerdefinierter Agents.
  • Sicherheitsspeicher: Vorgefertigte Microsoft- und Partner-Agents können über die integrierte Agentbibliothek und den Sicherheitsspeicher ermittelt und bereitgestellt werden.
  • Eingebettete Erfahrungen: Agents arbeiten nicht nur im eigenständigen Security Copilot-Portal, sondern sind auch in das breitere Microsoft-Sicherheitsökosystem eingebettet, einschließlich Microsoft Defender XDR, Microsoft Sentinel, Microsoft Intune, Microsoft Entra und Microsoft Purview.

Verwendungszweck

Die Agents von Microsoft Security Copilot wurden von Sicherheitsexperten und IT-Administratoren entwickelt, um Sicherheitsworkflows wie das Sammeln von Informationen und die Korrelation zu unterstützen. Agents können innerhalb der vom Administrator festgelegten Berechtigungen arbeiten und helfen, Aufgaben zu rationalisieren, die sonst einen erheblichen manuellen Aufwand erfordern würden, während der Mensch die Kontrolle behält. Einige Beispiele für beabsichtigte Agent-Anwendungsfälle sind:

  • Threat Intelligence Briefing: Der Threat Intelligence Briefing Agent generiert zeitnahe, detaillierte Threat Intelligence-Berichte, indem er Microsoft Defender Threat Intelligence-Daten, Defender External Attack Surface Management (EASM) Signale und Kundenkontext in Echtzeit. Sicherheitsanalysten können diesen Agent verwenden, um Stunden oder Tage der manuellen Informationssammlung und Korrelation durch einen in Minuten generierten Bericht zu ersetzen.

  • Sicherheitsdatenanalyse (Microsoft Defender XDR): Der Security Analyst-Agent hilft Sicherheitsanalysten, Risiken über große Mengen von Sicherheitsdaten hinweg schnell zu identifizieren, zu bewerten und zu priorisieren. Der Agent führt sowohl grundlegende Analyseaufgaben wie Musteranalyse, Trendanalyse und Visualisierung als auch erweiterte Aufgaben wie Anomalieerkennung, Clustering, Risikobewertung und Vorhersagemodellierung aus. Sie integriert Daten aus Microsoft Defender XDR, Microsoft Sentinel Log Analytics, Microsoft Sentinel Data Lake und hochgeladenen CSV-Dateien, wodurch priorisierte Erkenntnisse mit einem vollständigen Beweispfad in einer interaktiven, codefreien Chaterfahrung generiert werden.

  • Sicherheitsvorgänge und Reaktion auf Vorfälle (Microsoft Defender XDR):

    • Der Phishing Triage Agent wertet von Benutzern gemeldete Phishing-E-Mails aus, während sie übermittelt werden, klassifiziert Urteile mit transparenter Begründung und bezieht das Feedback der Analysten im Laufe der Zeit mit ein.
    • Der Dynamic Threat Detection Agent wird kontinuierlich im Hintergrund ausgeführt, um verborgene Bedrohungen und Lücken in Defender- und Microsoft Sentinel-Umgebungen aufzudecken, indem Warnungen, Ereignisse, Anomalien und Threat Intelligence korreliert werden.

  • Bedrohungssuche (Microsoft Defender XDR): Der Bedrohungssuche-Assistent ermöglicht die End-to-End-Bedrohungssuche mit natürlicher Sprache. Er generiert KQL-Abfragen, interpretiert die Ergebnisse, liefert Erkenntnisse und führt Analysten durch vollständige Suchsitzungen, um Bedrohungen schneller und sicherer zu finden.

  • Identitäts- und Zugriffsverwaltung (Microsoft Entra):

    • Der Agent zur Optimierung des bedingten Zugriffs analysiert Richtlinien für den bedingten Zugriff und empfiehlt Verbesserungen basierend auf bewährten Methoden von Microsoft und Zero Trust-Prinzipien.
    • Der Identity Risk Management Agent unterstützt Identitätsadministratoren dabei, potenzielle Risiken zu untersuchen und Maßnahmen zum Schutz kritischer Assets zu ergreifen.

  • Endpunktverwaltung (Microsoft Intune):

    • Der Agent für die Behebung von Sicherheitsanfälligkeiten verwendet Defender-Daten, um Sicherheitsrisiken zu überwachen und die Behebung mit KI-gesteuerten Risikobewertungen zu priorisieren.
    • Mit dem Richtlinienkonfigurations-Agent können Administratoren Dokumente importieren oder Anweisungen in einfacher Sprache schreiben, um übereinstimmende Einstellungen im Intune-Einstellungskatalog zu finden und Richtlinien zu erstellen.
    • Der Änderungsprüfungs-Agent bewertet die Auswirkungen von Genehmigungsanforderungen in Intune und gibt Empfehlungen für Maßnahmen, die Administratoren ergreifen können.

  • Datensicherheitsuntersuchung (Microsoft Purview):

    • Der Triage-Agent im Insider-Risikomanagement wertet Warnungen basierend auf Benutzer-, Datei- und Aktivitätsrisiken aus und sortiert sie automatisch in priorisierte Kategorien, damit sich Sicherheitsteams auf die Fälle mit dem höchsten Risiko konzentrieren können.
    • Der Purview-Triage-Agent in der Verhinderung von Datenverlust wertet DLP-Warnungen basierend auf Vertraulichkeitsrisiko, Exfiltrationsrisiko und Richtlinienrisiko aus und hilft Datensicherheitsadministratoren, auf die kritischsten Vorfälle zu reagieren.

  • Benutzerdefinierte Agent-Workflows: Entwickler können benutzerdefinierte Agents mithilfe der Verarbeitung natürlicher Sprache, durch Hochladen des Agentmanifests oder mithilfe der MCP-Tools, die auf die spezifischen Sicherheitsanwendungsfälle ihrer Organization zugeschnitten sind, erstellen und bereitstellen und so die Agent-Funktionen über Plug-Ins und Connectors auf Microsoft- und Nicht-Microsoft-Dienste erweitern. Weitere Informationen finden Sie unter Benutzerdefinierte Agents.

    Sie können auch einen interaktiven Chat-Agenten erstellen, wenn Agenten und Benutzer für eine geführte Erfahrung zusammenarbeiten müssen, um etwas zu lösen. Weitere Informationen finden Sie unter Interaktiver Agent.

Modelle und Trainingsdaten

Microsoft Security Copilot verwendet Azure OpenAI Large Language Models (LLMs) von Foundry Models, die von Azure verkauft werden, um Erfahrungen in natürlicher Sprache zu ermöglichen. Diese Modelle werden nicht mit Security Copilot-Kundendaten trainiert. Die Modellfunktionen unterscheiden sich in Begründung, Geschwindigkeit, Einschränkungen und unterstützten Szenarien.

Security Copilot integriert auch sicherheitsspezifisches Wissen und Kontext durch Plug-Ins und Grounding, die dem LLM relevante Organisationsdaten, Bedrohungsinformationen und maßgebliche Inhalte zum Rückschlusszeitpunkt und nicht durch Modelltraining bereitstellen.

Leistung

Security Copilot wurde für den Betrieb in Unternehmenssicherheitsumgebungen entwickelt, in denen große Mengen von Echtzeit-Sicherheitssignalen für Microsoft-Sicherheitsprodukte und andere von der organization konfigurierte Datenquellen generiert werden. Es integriert Signale aus diesen Quellen und kombiniert die Echtzeitverarbeitung strukturierter Protokolldaten mit investigativem Denken. Dies soll dazu beitragen, die Quelle und die Auswirkungen von Sicherheitsvorfällen über mehrere Datenquellen hinweg zu erkennen, zu analysieren und zu verfolgen.

Security Copilot wird auf der Hyperscale-Infrastruktur von Microsoft und einer sicherheitsspezifischen Orchestrierungsschicht ausgeführt, die eine skalierbare, stabile Leistung über sich wiederholende Bedrohungserkennungs- und -untersuchungsszenarien hinweg unterstützen sollen.

Agents erweitern die Fähigkeit von Security Copilot, auf Sicherheitssignale zu reagieren, indem sie definierte Sicherheitsaufgaben über vom Administrator konfigurierte Berechtigungen ausführen. Die Agents analysieren die verfügbaren Signale, planen und führen strukturierte Aktionen aus und erstellen Ausgaben wie Triage-Entscheidungen, Intelligence-Berichte und Abhilfemaßnahmen, die auf organisatorischen und bedrohungswissenschaftlichen Echtzeitdaten basieren. Die Agentenausführung ist durch schrittweise Knotenzuordnungen transparent, sodass Analysten die generierten Schritte (keine detaillierte Zusammenfassung der spezifischen Aktionen, die an jedem Knoten ausgeführt wurden) und die Ergebnisse über Läufe hinweg validieren können.

Die Leistungszuverlässigkeit wird durch vorkonfigurierte von Microsoft erstellte Agents, die mit repräsentativen Workflows getestet werden, und benutzerdefinierte Agents, bei denen eine YAML-Manifestdatei durch Angabe von Funktionen, Tools, Triggern und Betriebsgrenzen zu einem konsistenteren Verhalten beitragen kann, weiter unterstützt. Wenn manifeste Anweisungen klar definiert sind, kann der Agent seine Aufgabe besser interpretieren, geeignete Aktionen auswählen und innerhalb des beabsichtigten Umfangs operieren. Weitere Informationen finden Sie unter Benutzerdefinierte Agents.

Bei interaktiven Agenten wird die Leistung in erster Linie durch den iterativen Austausch zwischen dem Agenten und dem Benutzer geprägt. Der Agent erzeugt eine erste Antwort, und der Benutzer verfeinert den Kontext durch Folgeaufforderungen basierend auf dem, was der Agent anzeigt. Diese Hin- und Her-Interaktion ermöglicht es dem Benutzer, den Agenten schrittweise zu genaueren und gezielteren Ergebnissen zu führen, als dies bei einem einzigen autonomen Durchlauf der Fall wäre. Weitere Informationen finden Sie unter Interaktive Agents.

Begrenzungen

Grundlegendes zu den Einschränkungen von Security Copilot ist wichtig, um sicherzustellen, dass es innerhalb sicherer und effektiver Grenzen verwendet wird. Kunden werden zwar ermutigt, Security Copilot in ihren Sicherheitsworkflows zu verwenden, aber es ist wichtig zu beachten, dass Security Copilot nicht für jedes mögliche Szenario entwickelt wurde. Beachten Sie den Verhaltenskodex für Microsoft Enterprise AI Services sowie die folgenden Überlegungen, wenn Sie einen Anwendungsfall auswählen:

  • Status der Public Preview: Einige Agents befinden sich in der öffentlichen Vorschau und können vor der allgemeinen Verfügbarkeit erheblich geändert werden. Microsoft übernimmt keine Garantie, weder ausdrücklich noch stillschweigend, in Bezug auf diese Funktionen. Wie bei jeder KI-Ausgabe müssen Kunden die Entscheidungsfindung des Agenten überprüfen, bevor sie auf die Ergebnisse reagieren.
  • Genauigkeit und Vollständigkeit: Wie jede KI-gestützte Technologie macht Security Copilot nicht alles richtig. Die Antworten können ungenau, unvollständig oder veraltet sein, insbesondere, wenn die relevanten Plug-Ins nicht aktiviert sind oder wenn die aktuellsten Daten nicht über Benutzereingaben oder den Organisationskontext verfügbar sind. Benutzer sollten stets menschliches Urteilsvermögen walten lassen und kritische Ergebnisse überprüfen, anstatt sich ausschließlich auf KI-generierte Antworten zu verlassen.
  • Domänenspezifischer Bereich: Security Copilot wurde entwickelt, um auf Eingabeaufforderungen im Zusammenhang mit der Sicherheitsdomäne zu reagieren, z. B. Vorfalluntersuchung und Bedrohungserkennung. Prompts außerhalb des Sicherheitsbereichs können zu Antworten führen, die nicht genau und umfassend sind.
  • Skript- und Codegenerierung: Security Copilot kann Code generieren oder Code in Antworten einschließen. Antworten können gültig erscheinen, sind aber möglicherweise semantisch oder syntaktisch nicht korrekt oder spiegeln die Absicht des Anfordernden nicht genau wider. Generierter Code sollte nicht ohne geeignete Validierungs-, Test- und Überprüfungsverfahren in Produktionsumgebungen bereitgestellt werden. Benutzer müssen außerdem überprüfen, ob alle vom generierten Code verwendeten Parameter mit der ursprünglichen Anforderung übereinstimmen. Wenn ein Agent beispielsweise bei Warnungen innerhalb eines bestimmten Zeitbereichs operiert, vergewissern Sie sich, dass der Zeitbereich im generierten Code mit dem in der Eingabeaufforderung in natürlicher Sprache angegebenen Zeitbereich übereinstimmt.
  • Einschränkungen hinsichtlich der Promptlänge: Das System ist möglicherweise nicht in der Lage, lange Prompts zu verarbeiten, z. B. solche mit Hunderttausenden von Zeichen. Das zugrunde liegende LLM weist ein Tokenlimit auf, und übermäßig ausführliche Abfragen oder längere Sitzungen können den Tokenspeicherplatz überlaufen. Wenn dieses Szenario eintritt, versucht Security Copilot, Gegenmaßnahmen anzuwenden, um sicherzustellen, dass eine Ausgabe immer verfügbar ist, auch wenn der Inhalt nicht optimal ist. Diese Risikominderungen sind jedoch nicht immer wirksam, und es kann erforderlich sein, einen anderen Prompt oder ein anderes Plug-in auszuprobieren.
  • Nutzungslimits und Latenz: Die Nutzung der Plattform kann Nutzungsbeschränkungen oder Kapazitätsdrosselung unterliegen. Das Generieren von Antworten, einschließlich API-Aufrufe über Plugins und Überprüfen von Antworten vor deren Anzeige, kann einige Zeit in Anspruch nehmen und erfordert eine hohe GPU-Kapazität. Organisationen sollten ihren SCU-Verbrauch überwachen und die bereitgestellte Kapazität nach Bedarf anpassen, um unerwartete Dienstunterbrechungen zu vermeiden.
  • Voreingenommenheit, Stereotypisierung und nicht fundierte Inhalte: Trotz der Implementierung verantwortungsvoller KI-Kontrollen sowohl für Benutzereingabeaufforderungen als auch für LLM-Ausgaben sind KI-Dienste fehlbar und probabilistisch. Dies macht es schwierig, alle unangemessenen Inhalte umfassend zu blockieren, was zu potenziellen Vorurteilen, Stereotypen oder nicht fundierten Inhalten in KI-generierten Ausgaben führen kann.
  • Behörden und Microsoft Sovereign Public/Private Cloud: Security Copilot wird in diesen Umgebungen derzeit nicht unterstützt.
  • Aufgabenspezifische Agentengrenzen: Die Agenten sind nur für die spezifische Aufgabe geeignet, für die sie entwickelt wurden. Weitere Informationen finden Sie im Abschnitt "Beabsichtigte Anwendungsfälle ". Sie sind für keine andere Aufgabe geeignet und sollten nicht über ihren definierten Bereich hinaus umfunktioniert werden.
  • Details der Knotenzuordnung: Die Agent-Knotenzuordnung bietet einen Überblick über die Schritte, die während eines Agent-Workflows ausgeführt werden. Jeder Knoten stellt einen Schritt im Prozess dar und zeigt den Titel des verwendeten Skills sowie grundlegende Metadaten wie den Status, die Dauer und den Zeitstempel des Abschlusses an. Die Knotenzuordnung soll die Abfolge von Aktionen anzeigen, liefert jedoch keine detaillierten Informationen zu den spezifischen Vorgängen oder Entscheidungen, die innerhalb der einzelnen Schritte getroffen werden. Da die Knotenzuordnung nur zusammengefasste Informationen enthält, erfasst sie den Kontext oder die Komplexität der einzelnen Aktionen möglicherweise nicht vollständig.
  • Agent-Feedback und Speichertransparenz: Wenn Benutzer Feedback an einen Agent zur Speicherung im Arbeitsspeicher senden, stellt der Agent keine Zusammenfassung seiner Interpretation des Feedbacks bereit. Um die Genauigkeit zukünftiger Ausgaben zu erhöhen, sollten Benutzer klares, präzises und spezifisches Feedback geben. Feedback, das an einen Agenten übermittelt wird, kann gespeichert und verwendet werden, um zukünftige Ausgaben zu beeinflussen. Die Sichtbarkeit dieses gespeicherten Feedbacks kann jedoch je nach Erfahrung des Agents und Benutzerrolle variieren. Weitere Informationen finden Sie unter Geben von Feedback.

Auswertungen

Bei Leistungs- und Sicherheitsbewertungen wird bewertet, ob KI-Anwendungen zuverlässig und sicher funktionieren, indem Faktoren wie Bodenständigkeit, Relevanz und Kohärenz untersucht und gleichzeitig die Risiken der Generierung schädlicher Inhalte identifiziert werden. Die folgenden Bewertungen wurden mit bereits vorhandenen Sicherheitskomponenten durchgeführt, die auch unter Sicherheitskomponenten und Risikominderungen beschrieben sind.

Auswertungsdaten für Qualität und Sicherheit

Unsere Bewertungsdaten wurden speziell entwickelt, um die Leistung von KI-Anwendungen in den wichtigsten Bereichen Sicherheit und Qualität zu bewerten und reale Szenarien und Risiken zu simulieren. Wir beginnen mit der Identifizierung relevanter Bewertungsaspekte auf der Grundlage multidisziplinärer Forschung und Expertenbeiträge. Diese Bedenken werden in gezielte Bewertungsziele umgesetzt und leiten die Formulierung von Bewertungsmetriken.

Aus Sicherheitsgründen erstellen wir kontradiktorische Prompts, um unerwünschte oder Randfallantworten hervorzurufen, die dann mit KI-gestützten Annotatoren bewertet werden, die darauf trainiert sind, die Übereinstimmung mit den Sicherheitsstandards von Microsoft zu bewerten. Aus Qualitätsgründen erstellen wir rubrikbasierte Eingabeaufforderungen, die für Szenarien wie die Bewertung von RAG-Anwendungen (Retrieval-Augmented Generation) und Agents relevant sind.

Die Datensätze werden aus verschiedenen Quellen kuratiert, einschließlich synthetischer und öffentlicher Datensätze, um reale Benutzerszenarien zu simulieren. Anhand der kuratierten Datensätze werden beide Auswertungen iterativ verfeinert und menschlich ausgerichtet, um die Wirksamkeit und Zuverlässigkeit der Metrik zu verbessern. Diese Methodik bildet die Grundlage für wiederholbare, strenge Bewertungen, die widerspiegeln, wie Kunden Bewertungen nutzen, um bessere und sicherere KI zu entwickeln.

Benutzerdefinierte Auswertungen

Benutzerdefinierte Auswertungen wurden durchgeführt, um die Modellleistung über Grounding, gegnerische Robustheit und schädliche Inhaltsszenarien hinweg zu validieren, indem Regressionstests, kuratierte Prompt-Datensätze und produktionsorientierte Beispiele verwendet wurden. Bei der Bewertung wurden die Ausgaben zwischen GPT-Modellen verglichen, wobei interne Tools zur Bewertung der Groundedness und die Azure OpenAI-Inhaltsfilterung verwendet wurden, um den Schutz vor Jailbreak, Prompt Injection und Verletzungen des geistigen Eigentums zu validieren. Die Ergebnisse zeigen eine konsistente oder verbesserte Leistung, einschließlich starker Schutzraten in gegnerischen Szenarien und verbesserter Erdungsgenauigkeit.

Der Umgang mit schädlichen Inhalten bleibt modellübergreifend konsistent und arbeitet im Anmerkungsmodus, um sicherheitsorientierte Anwendungsfälle zu unterstützen, wobei zusätzliche groß angelegte Tests hohe Schutzraten in allen Kategorien bestätigen. Regressionstests werden durchgeführt, um sicherzustellen, dass der Inhalt, der nicht schädlich ist, nicht als schädlich eingestuft wird.

Die Agents von Security Copilot wurden vom Produkt- und Forschungsteam anhand von Anwendungsfällen und Design-Inputs von Kunden bewertet. Die Sicherheit des Agentensystems wurde auch durch eine spezielle Red-Teaming-Übung bewertet. Microsoft hat auch Penetrationstests für den Security Copilot-Dienst abgeschlossen, um den Schutz vor nicht autorisiertem Zugriff zu überprüfen.

Jetzt, da Security Copilot veröffentlicht wurde, ist Benutzerfeedback entscheidend, um Microsoft bei der Verbesserung des Systems zu unterstützen. Benutzer haben die Möglichkeit, Feedback zur Agent-Antwort von Security Copilot zu geben. Dieses Feedback geht direkt an Microsoft und wird verwendet, um die Leistung der Plattform durch kontinuierliche iterative Verfeinerung zu verbessern. Weitere Informationen finden Sie unter Geben von Feedback.

Sicherheitskomponenten und Risikominderungen

Da wir potenzielle Risiken und Missbrauch mithilfe von Prozessen wie Red-Teamtests identifiziert und gemessen haben, haben wir Abhilfemaßnahmen entwickelt, um das Schadenspotenzial zu verringern. Wir werden die Erfahrungen mit Microsoft Security Copilot weiter auswerten, um die Produktleistung und Risikominderungen zu verbessern. In der folgenden Liste werden einige dieser Risikominderungen beschrieben:

  • Filtern schädlicher Inhalte und Schutzmaßnahmen: Security Copilot integriert von Microsoft entwickelte Schutzmaßnahmen (Inhaltsfilter) und Missbrauchserkennungsmodelle als Teil der Azure OpenAI Service Foundation. Diese neuronalen Klassifizierungsmodelle erkennen und filtern schädliche Inhalte in verschiedenen Kategorien wie Hass, Sexualität, Gewalt und Selbstverletzung auf mehreren Schweregraden. Optionale Klassifizierungsmodelle erkennen auch Jailbreak-Risiken, bekanntes Text- oder Codematerial und indirekte Prompt-Injection-Angriffe. Diese mehrschichtigen Steuerelemente verhindern die KI an Antworten, die gegen die Sicherheitsstandards von Microsoft verstoßen.
  • Entwickelt, um irreversible Aktionen zu minimieren: Die von Microsoft entworfenen Agent-Szenarien sollen irreversible Aktionen minimieren und den Benutzern die Kontrolle über kritische Entscheidungen geben. Bei benutzerdefinierten Agents, die nicht von Microsoft entworfen wurden, können die Agent-Entwickler das Agent-Verhalten ändern, um sicherzustellen, dass irreversible Aktionen minimiert werden.
  • Design von Sicherheitssystemen: Microsoft hat ein Sicherheitssystem für Security Copilot entwickelt, das darauf ausgelegt ist, Fehler zu minimieren und Missbrauch zu verhindern, einschließlich Anmerkungen zu schädlichen Inhalten, Betriebsüberwachung und anderer Sicherheitsvorkehrungen. Die Risikominderungsanforderungen für Azure OpenAI Service gelten nicht direkt für Security Copilot-Kunden, da Security Copilot diese Risikominderungen im Namen des Kunden implementiert.
  • Feedbackschleife für Benutzer: Nachdem ein Agent eine Antwort zurückgegeben hat, können Benutzer Feedback geben. Je nach Konfiguration können Benutzer auch zusätzliches schriftliches Feedback übermitteln, um Kontext zu ihrer Erfahrung bereitzustellen. Übermitteltes Feedback wird von Microsoft gesammelt und verwendet, um die Produktqualität zu verbessern, Probleme zu identifizieren und Verbesserungen der Security Copilot-Erfahrungen zu priorisieren.
  • Agent-Identitätsgovernance und rollenbasierte Zugriffssteuerung (RBAC): Jeder Security Copilot-Agent wird entweder unter einer verwalteten Identität oder einem Benutzerkonto ausgeführt, sodass der Administrator die Daten steuern kann, auf die er Zugriff hat. Jeder Agent verfügt über RBAC-Steuerelemente, und die Agents können hinsichtlich der Daten, die sie verarbeiten, weiter eingeschränkt werden. Durch die Beschränkung der Berechtigungen jedes Agents mindert das System das Risiko einer nicht autorisierten Datenoffenlegung und stellt sicher, dass alle automatisierten Aktionen überprüfbar und nachvollziehbar sind.
  • Datenverschlüsselung und Zugriffsschutz: Von Security Copilot verarbeitete Kundendaten werden sowohl während der Übertragung als auch im Ruhezustand verschlüsselt, wie im Nachtrag zum Datenschutz für Microsoft-Produkte und -Dienste beschrieben. Standardmäßig haben keine menschlichen Benutzer Zugriff auf die Datenbank, und der Netzwerkzugriff ist auf das private Netzwerk beschränkt, in dem die Security Copilot-Anwendung bereitgestellt wird. Wenn menschlicher Zugriff benötigt wird (für die Reaktion auf Vorfälle), müssen erhöhte Zugriffsrechte und Netzwerkzugriff von autorisierten Microsoft-Mitarbeitern genehmigt werden. Siehe Compliance.
  • Phasenweiser Bereitstellungsansatz: Security Copilot veröffentlicht Features über ein Early Access-Programm, das nur auf Einladung zugänglich ist, sodass Microsoft Feedback sammeln und Features vor einer breiteren Verfügbarkeit verfeinern kann.

Unser Ansatz für die Kartierung, Messung und Verwaltung von Risiken entwickelt sich ständig weiter, wenn wir mehr erfahren und Verbesserungen auf der Grundlage des Feedbacks von Kunden vornehmen.

Bewährte Methoden für die Bereitstellung und Einführung von Microsoft Security Copilot

Verantwortungsvolle KI ist eine gemeinsame Verpflichtung von Microsoft und seinen Kunden. Während Microsoft KI-Systeme entwickelt, bei denen Sicherheit, Fairness und Transparenz im Mittelpunkt stehen, spielen Kunden eine entscheidende Rolle bei der verantwortungsvollen Bereitstellung und Nutzung dieser Technologien in ihrem eigenen Kontext.

Security Copilot-Agents sollen das menschliche Fachwissen erweitern, nicht ersetzen. Kunden bleiben dafür verantwortlich, die Ergebnisse zu überprüfen, Entscheidungen zu validieren und die Einhaltung geltender Gesetze, Vorschriften und Organisationsrichtlinien sicherzustellen.

Bereitsteller und Endbenutzer sollten:

  • Seien Sie vorsichtig und bewerten Sie die Ergebnisse, wenn Sie Security Copilot für Folgeentscheidungen oder in sensiblen Bereichen verwenden: Folgeentscheidungen sind solche, die rechtliche oder erhebliche Auswirkungen auf den Zugang einer Person zu Beschäftigung, Rechtsberatung oder Gesundheitsversorgung haben oder zu physischen, psychischen oder finanziellen Schäden führen können. Sensible Bereiche wie Finanzdienstleistungen, Gesundheitswesen und Recht erfordern besondere Sorgfalt, da sie unverhältnismäßige Auswirkungen auf verschiedene Personengruppen haben können. Beim Einsatz von KI für Entscheidungen in diesen Bereichen sollten Kunden sicherstellen, dass die betroffenen Stakeholder verstehen können, wie Entscheidungen getroffen werden, Entscheidungen anfechten und alle relevanten Eingabedaten aktualisieren können.

  • Bewerten rechtlicher und regulatorischer Überlegungen: Kunden müssen potenzielle spezifische rechtliche und regulatorische Verpflichtungen bewerten, wenn sie KI-Dienste und -Lösungen verwenden, die möglicherweise nicht für den Einsatz in jeder Branche oder jedem Szenario geeignet sind. Darüber hinaus sind KI-Dienste oder -Lösungen nicht für eine Weise konzipiert und dürfen nicht auf eine Weise verwendet werden, die in den geltenden Nutzungsbedingungen und relevanten Verhaltensregeln verboten ist.

  • Aktivieren und Verwalten relevanter Plug-Ins: Die Qualität und Genauigkeit der Antworten von Security Copilot hängt erheblich von den aktivierten Plug-Ins ab. Administratoren sollten sicherstellen, dass geeignete Plug-Ins von Microsoft und Drittanbietern konfiguriert und verwaltet werden, damit Benutzer fundierte, kontextbezogene Antworten erhalten.

Endbenutzer sollten:

  • Schreiben effektiver Prompts: Das Schreiben klarer, spezifischer Prompts ist der Schlüssel, um bessere Ergebnisse mit Security Copilot zu erzielen. Schließen Sie relevanten Kontext ein, z. B. Incident-IDs, Asset-Namen oder Zeitbereiche. Lassen Sie Prompts nach Bedarf durchlaufen und neu generieren und überprüfen und verifizieren Sie immer KI-generierte Antworten. Weitere Informationen finden Sie unter Tipps zu Eingabeaufforderungen für Security Copilot.

  • Üben Sie gegebenenfalls menschliche Aufsicht aus: Die menschliche Aufsicht ist ein wichtiger Schutz bei der Interaktion mit KI-Systemen. Obwohl wir Security Copilot kontinuierlich verbessern, können KI-Systeme Fehler machen. Die generierte Ausgabe kann ungenau, unvollständig, verzerrt oder nicht vollständig mit Ihren beabsichtigten Zielen übereinstimmen, da die Eingaben mehrdeutig sind oder Einschränkungen der zugrunde liegenden Modelle bestehen. Benutzer sollten die von Security Copilot generierten Antworten überprüfen und sicherstellen, dass sie ihren Erwartungen und Anforderungen entsprechen, bevor sie Maßnahmen ergreifen.

  • Seien Sie sich des Risikos einer übermäßigen Abhängigkeit bewusst: Ein übermäßiges Vertrauen in KI tritt auf, wenn Benutzer falsche oder unvollständige KI-Ausgaben akzeptieren, hauptsächlich weil Fehler in KI-Ausgaben möglicherweise schwer zu erkennen sind. Für Sicherheitsexperten kann ein übermäßiges Vertrauen zu verpassten Bedrohungen, falschen Schlussfolgerungen für Vorfälle oder Richtlinienänderungen aufgrund fehlerhafter Empfehlungen führen. Security Copilot enthält KI-Offenlegung und zitiert Quellmaterialien, um dieses Risiko zu mindern. Benutzer sollten jedoch weiterhin sicherstellen, dass die Antworten korrekt sind. Benutzer können die Agent-Knotenzuordnung überprüfen, die einen Überblick über die Schritte bietet, die während des Workflows eines Agenten ausgeführt werden.

  • Seien Sie vorsichtig beim Bereitstellen oder Entwerfen von agentischer KI in sensiblen Bereichen: Benutzer müssen eine angemessene menschliche Aufsicht implementieren, wenn sie agentische KI-Systeme in Bereichen konfigurieren und bereitstellen, in denen Agentenaktionen irreversibel oder mit schwerwiegender Tragweite sind. Zusätzliche Vorsichtsmaßnahmen sollten beim Erstellen autonomer agentischer KI getroffen werden, wie im Verhaltenskodex für Microsoft Enterprise AI Services beschrieben.

Bereitstellende sollten:

  • Konfigurieren Sie RBAC- und Agent-Berechtigungen sorgfältig: Administratoren sind für die Konfiguration rollenbasierter Zugriffssteuerungen sowohl für Benutzer als auch für Agents verantwortlich. Berechtigungen sollten dem Prinzip der geringsten Rechte entsprechen. Agents sollten nur Zugriff auf die Daten und Aktionen gewährt werden, die für ihre zugewiesene Aufgabe erforderlich sind.

  • Überwachen der Nutzung und Überprüfungsaktivität: Administratoren (Besitzer) können das Security Copilot Usage Monitoring Dashboard verwenden, um Daten auf Sitzungsebene zu überprüfen, z. B. die Nutzung im Zeitverlauf, Sitzungsinitiatoren und während der Sitzungen verwendete Plug-Ins. Diese Sichtbarkeit hilft Organisationen zu verstehen, wie Security Copilot in Prompts, Promptbooks und Agents verwendet wird. Weitere Informationen finden Sie unter Verwalten der Verwendung.

  • Verwalten der Datenfreigabeeinstellungen: Besitzer können jederzeit Einstellungen für die Freigabe von Kundendaten konfigurieren und müssen diese Einstellungen in Übereinstimmung mit den Datenschutz- und Complianceanforderungen ihrer organization überprüfen und aktualisieren. Weitere Informationen finden Sie unter Datenschutz und Datensicherheit in Microsoft Security Copilot.

  • Informieren Sie die Benutzer über Funktionen und Einschränkungen: Für eine effektive und verantwortungsbewusste Nutzung von Security Copilot müssen die Benutzer verstehen, was das System kann und was nicht. Die Anbieter sollten Schulungen und Anleitungen bereitstellen, um Benutzern zu helfen, effektiv mit Security Copilot zu interagieren, einschließlich der Wichtigkeit, KI-generierte Ergebnisse zu überprüfen, bevor sie Maßnahmen ergreifen.

Weitere Informationen zu Security Copilot-Agents

Weitere Informationen zur verantwortungsbewussten Verwendung von Microsoft Security Copilot finden Sie in der folgenden Dokumentation:

Weitere Informationen zu verantwortungsvoller KI

  • Last updated on