Erkennen, Blockieren und Untersuchen von Bedrohungen für KI-Agents mithilfe von Microsoft Defender (Vorschau)

Bereitgestellte KI-Agents arbeiten autonom, indem sie Tools aufrufen, auf Daten zugreifen und systemübergreifende Aktionen als Reaktion auf Eingaben in natürlicher Sprache ausführen. Dies macht kontinuierliche Erkennung, Laufzeitschutz und Untersuchung von entscheidender Bedeutung. Microsoft Defender verdächtiges und böswilliges Agent-Verhalten erkennt, gefährliche Aktionen in Echtzeit blockiert, Warnungen nahezu in Echtzeit bereitstellt und es Sicherheitsteams ermöglicht, Vorfälle zu untersuchen und die gesamte Grundursache und den Explosionsradius nachzuverfolgen.

In diesem Artikel wird erläutert, wie Microsoft Defender Sicherheitsteams Bedrohungen für KI-Agents erkennen, blockieren und untersuchen können, die über Microsoft Agent 365 verwaltet werden, einschließlich der erweiterten Erkennungs- und Schutzfunktionen, die für unterstützte Agent-Plattformen verfügbar sind.

Hinweis

Einige in diesem Artikel beschriebene Funktionen erfordern derzeit das Onboarding über Microsoft Defender for Cloud Apps. Dies ist eine temporäre Konfiguration, die Teil der Agent 365 Produkterfahrung ist. Ab dem 1. Juli 2026 benötigt Ihr organization ein Agent 365-Abonnement, um die Agent-Schutz- und Sichtbarkeitsfunktionen weiterhin nutzen zu können.

Blockieren unsicherer KI-Agent-Aktionen in Echtzeit

Microsoft Defender bietet Echtzeitschutz (Real-Time Protection, RTP), um zu verhindern, dass KI-Agents während der Laufzeit unsichere Aktionen ausführen. Defender lässt sich direkt in Work IQ MCP integrieren, um unterstützte Agent-initiierte Toolaufrufe auszuwerten, bevor sie ausgeführt werden. Wenn Defender feststellt, dass eine Aktion riskant ist, wird die Aktion blockiert, bevor der Agent sie ausführt, um schädliches Verhalten zu verhindern.

Hinweis

Echtzeitschutz ist nur für KI-Agents verfügbar, die tools verwenden, die derzeit in Work IQ MCP unterstützt werden. Agents, die auf nicht unterstützte Tools angewiesen sind oder nicht in Work IQ MCP integriert werden, fallen nicht in den Rahmen dieser Funktion.

Der Echtzeitschutz konzentriert sich auf Bedrohungen mit hoher Zuverlässigkeit, einschließlich:

  • Versuche, Systemanweisungen oder interne Tooldetails zu extrahieren oder zu exfiltrieren
  • Direkte Versuche, vertrauliche Daten zu kompromittieren
  • Missbrauch von internen Tools
  • Weiterleiten von Informationen an nicht vertrauenswürdige oder schädliche Ziele
  • Verwenden von verschleierten oder ausgeblendeten Inhalten zum Bearbeiten des Agent-Verhaltens
  • Offenlegung von Anmeldeinformationen über legitime Kanäle wie E-Mail oder externe APIs

Hinweis

Für Agents, die mit Microsoft Copilot Studio erstellt wurden, bietet Microsoft Defender auch Echtzeitschutz, indem Modellaufforderungen und -antworten ausgewertet werden. Diese Funktion hängt nicht vom Arbeits-IQ ab.

Wenn Microsoft Defender eine Aktion blockiert, wird eine detaillierte Warnung generiert, die erklärt, was blockiert wurde, warum die Aktion als riskant eingestuft wurde und welcher Agent, Benutzer und Tool beteiligt waren. Dadurch wird sichergestellt, dass Sicherheitsteams blockierte Aktionen mithilfe vertrauter Defender-Workflows untersuchen können.

Echtzeitschutz aktivieren

So aktivieren Sie den Echtzeitschutz für Ihre KI-Agents:

  1. Öffnen des Microsoft Defender-Portals

  2. Wählen SieSystemeinstellungen>>Sicherheit für KI-Agents aus. Daraufhin wird die Einstellungsseite Sicherheit für KI-Agents geöffnet.

  3. Stellen Sie sicher, dass Sicherheit für KI-Agents aktiviert ist.

  4. Stellen Sie sicher, dass Agent 365 unter KI-Echtzeitschutz & Untersuchung verbunden ist.

    Screenshot der Einstellungen für

  5. Um die erweiterten Echtzeitschutzfunktionen für Microsoft Copilot Studio-Agents zu aktivieren, stellen Sie sicher, dass Copilot Studio unter KI-Echtzeitschutz & Untersuchung verbunden ist.

    Weitere Informationen finden Sie unter Copilot Studio Integration in Microsoft Defender for Cloud Apps.

Erkennen von Ki-Agent-Bedrohungen nahezu in Echtzeit

Microsoft Defender überwacht kontinuierlich ki-Agent-Aktivitäten und erkennt verdächtiges und böswilliges Verhalten für alle Agent 365 verwalteten Agents. Defender analysiert Agent-Telemetriedaten, Toolnutzungs- und Ausführungsmuster, um Bedrohungen wie dauerhafte Jailbreakversuche, verdächtige Benutzeraktivitäten mit Jailbreakversuchen und verdächtige Agent-Ausführungsversuche zu identifizieren.

Microsoft Defender Erkennungen werden im Defender-Portal als Warnungen nahezu in Echtzeit angezeigt, und Sicherheitsteams können sie mithilfe vertrauter Workflows für Sicherheitsvorgänge untersuchen, einschließlich Warnungs selektierung, Incidentkorrelation und erweiterte Suche.

Weitere Informationen finden Sie unter Incidents und Warnungen im Microsoft Defender-Portal.

Erkennungen nahezu in Echtzeit basieren auf Agent 365 Einblicksdaten, die auch wertvollen Kontext für die Untersuchung von Vorfällen und die Bedrohungssuche bieten. Microsoft Defender analysiert diese Daten, um verdächtiges Agent-Verhalten zu identifizieren und Warnungen zu generieren.

Hinweis

Für Agents, die mit Microsoft Copilot Studio und Microsoft Foundry erstellt wurden, unterstützt Microsoft Defender auch Erkennungen basierend auf der Auswertung von Modellaufforderungen und -antworten.

Aktivieren von Erkennungen nahezu in Echtzeit und erweiterte Bedrohungssuche

So aktivieren Sie Warnungen und Bedrohungssuche nahezu in Echtzeit:

  1. Aktivieren Sie den Microsoft 365-App-Connector, um Agent 365 Einblicksdaten für KI-Agent-Aktionen zu sammeln. Weitere Informationen finden Sie unter Verbinden von Microsoft 365 mit Microsoft Defender for Cloud Apps.
  2. Stellen Sie sicher, dass Ihr KI-Agent Einblicksdaten an Microsoft 365 ausgibt.
    • Agents, die mit Microsoft Copilot Studio erstellt wurden, senden standardmäßig Einblicksdaten an Microsoft 365.
    • Aktivieren Sie für KI-Agents, die auf anderen Plattformen erstellt werden, die Einblick mithilfe des Microsoft Agent 365 SDK, wie in der Dokumentation zum Agent 365 Entwicklungslebenszyklus beschrieben.

Aktivieren erweiterter Erkennungen nahezu in Echtzeit für Microsoft Copilot Studio- und Microsoft Foundry-Agents

Wenn Sie die relevanten Features aktivieren, verfügen Agents, die mit Microsoft Copilot Studio und Microsoft Foundry erstellt wurden, über einen erweiterten Satz von Warnungen zur Erkennung nahezu in Echtzeit, der über die Baseline hinausgeht, die für alle Microsoft Agent 365 verwalteten Agents verfügbar ist.

So aktivieren Sie diese erweiterten Funktionen:

Untersuchen von Ki-Agent-Bedrohungen und Suchen nach Risiken mithilfe der erweiterten Suche

Microsoft Defender korreliert KI-Agent-Warnungen mit Incidents und zeigt den entsprechenden Kontext an, sodass Sicherheitsteams die Auswirkungen schnell bewerten und die Reaktion priorisieren können. Mit der erweiterten Suche können Analysten dann Agent 365 Einblicksdaten abfragen, indem sie Kusto-Abfragesprache (KQL) verwenden, um Vorfälle zu untersuchen und nach Risiken in ihrer gesamten Umgebung zu suchen.

Untersuchen von Vorfällen und Warnungen

Microsoft Defender korreliert KI-Agent-Warnungen, einschließlich Erkennungen nahezu in Echtzeit und Warnungen, die generiert werden, wenn der Echtzeitschutz eine Aktion blockiert, in Incidents.

Sicherheitsanalysten können das Incidentdiagramm und die Untersuchungserfahrung verwenden, um den vollständigen Kontext eines potenziellen Angriffs zu verstehen, einschließlich der Beziehungen zwischen beteiligten Entitäten und dem Explosionsradius von KI-Agent-Bedrohungen. Weitere Informationen finden Sie unter Incidents und Warnungen im Microsoft Defender-Portal.

Korrelieren von Warnungen und Agent 365 Einblicksdaten und Suchen nach Risiken mithilfe der erweiterten Suche

Mit der erweiterten Suche in Microsoft Defender können Sicherheitsteams Agent 365 Einblicksdaten zusammen mit anderen Sicherheitsdaten mithilfe von Kusto-Abfragesprache (KQL) abfragen. Dies unterstützt die proaktive Bedrohungssuche, Die Untersuchung von Vorfällen und die Analyse von Grundursachen für Agents, Anwendungen, Identitäten und Geräte.

Verwenden Sie beispielsweise die erweiterte Suche für Folgendes:

  • Nachverfolgen bestimmter Agent-Toolaufrufe und Korrelieren mit zugehörigen Warnungen oder Blockieren von Ereignissen
  • Untersuchen der Grundursache und des Umfangs einer erkannten KI-Agent-Bedrohung
  • Identifizieren von anomalen Ausführungsmustern oder riskanten Agent-Verhalten in verschiedenen Umgebungen
  • Erstellen benutzerdefinierter Erkennungsregeln basierend auf Agent-Aktivitätssignalen

Erweiterte Huntingtabellen für die Untersuchung des KI-Agents

Die folgenden Tabellen für die erweiterte Suche bieten Einblick in die Konfiguration, Warnungen und Aktivitäten des KI-Agents. Sie können diese Tabellen einzeln abfragen oder korrelieren, um Incidents zu untersuchen und nach Agent-bezogenen Risiken zu suchen.

Tabellenname Beschreibung Allgemeine Anwendungsfälle
AlertInfo Enthält von Microsoft Defender generierte Warnungsmetadaten, einschließlich Warnungen im Zusammenhang mit Erkennungen nahezu in Echtzeit und Echtzeitschutzblockereignissen. Untersuchen Sie KI-Agent-Warnungen, verstehen Sie den Warnungskontext, und gehen Sie in verwandte Incidents und Entitäten ein.
CloudAppEvents Enthält Agent 365 Einblicksdaten für KI-Agent-Aktivitäten, einschließlich Agentaktionen, Toolaufrufen und Datenzugriffsereignissen. Suchen Sie nach verdächtigem Agent-Verhalten, verfolgen Sie Agent-Aktionen, und führen Sie eine Ursachenanalyse mithilfe von Agent 365 Einblicksdaten durch.
AIAgentsInfo Enthält Bestands- und Konfigurationsdetails für KI-Agents, einschließlich Agentidentität, Plattform, Besitz und Metadaten. Überprüfen Sie den Agentstatus, identifizieren Sie riskante oder falsch konfigurierte Agents, und korrelieren Sie die Agentidentität mit Warnungen und Aktivitäten.
AlertEvidence Enthält Entitäten und Artefakte, die Warnungen zugeordnet sind, z. B. Agents, Benutzer, Tools, URLs oder Ressourcen. Verstehen des Umfangs einer Warnung und Identifizieren verwandter Entitäten, die an einem KI-Agent-Incident beteiligt sind.

Nächste Schritte

  • Last updated on