Rilevare e analizzare le minacce agli agenti di intelligenza artificiale usando Microsoft Defender (anteprima)

Importante

Questa funzionalità è attualmente disponibile in anteprima pubblica. Le condizioni di anteprima Microsoft Defender si applicano alle funzionalità in anteprima pubblica.

Gli agenti di intelligenza artificiale distribuiti operano in modo autonomo, richiamando strumenti, accedendo ai dati e eseguendo azioni sui sistemi connessi in risposta all'input in linguaggio naturale. Ciò rende fondamentale il rilevamento continuo e l'analisi. Microsoft Defender rileva il comportamento sospetto e dannoso dell'agente, fornisce avvisi quasi in tempo reale e consente ai team di sicurezza di analizzare gli eventi imprevisti e di tracciare la causa radice completa e il raggio di esplosione.

Microsoft Defender rileva e consente ai team di sicurezza di analizzare le minacce agli agenti di intelligenza artificiale gestiti tramite Microsoft Agent 365, incluse le funzionalità di rilevamento estese disponibili per le piattaforme agente supportate. Per bloccare le azioni dell'agente non sicuro durante il runtime, vedere Proteggere gli agenti di intelligenza artificiale in tempo reale usando Microsoft Defender.

Prerequisiti

  • Abilitare la sicurezza per gli agenti di intelligenza artificiale, incluso il connettore dell'app Microsoft 365 per raccogliere i dati di osservabilità di Agent 365 per le azioni dell'agente di intelligenza artificiale. Vedere Abilitare la sicurezza per gli agenti di intelligenza artificiale usando Microsoft Defender.
  • Assicurarsi che l'agente di intelligenza artificiale emetta dati di osservabilità per Microsoft 365:
    • Gli agenti creati con Microsoft Copilot Studio, Microsoft Foundry e agenti dichiarativi compilati con Microsoft 365 Copilot Agent Builder inviano dati di osservabilità a Microsoft 365 per impostazione predefinita.
    • Per gli agenti di intelligenza artificiale basati su altre piattaforme, abilitare l'osservabilità usando Microsoft Agent 365 SDK, come descritto nella documentazione del ciclo di vita dello sviluppo Agent 365.
  • Per rilevare le minacce agli agenti di intelligenza artificiale locali in esecuzione sugli endpoint, configura la protezione del runtime degli agenti di intelligenza artificiale in Microsoft Defender per endpoint. Microsoft Defender per endpoint deve essere eseguito in modalità attiva. Gli agenti locali vengono aggiunti separatamente dagli agenti cloud.
  • (Facoltativo) Per includere come evidenza negli avvisi i frammenti del prompt che hanno attivato un rilevamento, abilita la raccolta delle evidenze del prompt. Questa opzione è attivata per impostazione predefinita.

Rilevare le minacce degli agenti di intelligenza artificiale quasi in tempo reale

Microsoft Defender monitora continuamente l'attività degli agenti AI e rileva comportamenti sospetti e dannosi per tutti gli agenti gestiti da Agent 365. Defender analizza la telemetria degli agenti, l'uso degli strumenti e i modelli di esecuzione per identificare minacce come tentativi di jailbreak, tentativi di inserzione indiretta di prompt (XPIA), propagazione di contenuti dannosi, fuga di segreti e credenziali, tecniche di evasiva, ricognizione di grandi modelli linguistici (LLM) e accesso sospetto a utenti o IP.

Microsoft Defender visualizza i rilevamenti come avvisi quasi in tempo reale nel portale di Defender e consente ai team di sicurezza di analizzarli usando flussi di lavoro noti per le operazioni di sicurezza, tra cui valutazione degli avvisi, correlazione degli eventi imprevisti e Ricerca avanzata.

Per altre informazioni, vedere Eventi imprevisti e avvisi nel portale di Microsoft Defender.

I rilevamenti quasi in tempo reale si basano su dati di osservabilità Agent 365, che forniscono anche un contesto prezioso per l'analisi degli eventi imprevisti e della ricerca delle minacce. Microsoft Defender analizza questi dati per identificare il comportamento sospetto dell'agente e generare avvisi.

Per arricchire l'indagine sugli avvisi con i frammenti di prompt che hanno attivato un rilevamento, abilitare la raccolta delle prove dei prompt. Per altre informazioni, vedere Controllare l'evidenza delle richieste negli avvisi.

Analizzare le minacce degli agenti di intelligenza artificiale e cercare i rischi usando Ricerca avanzata

Microsoft Defender correla gli avvisi degli agenti di intelligenza artificiale in eventi imprevisti e visualizza il contesto correlato in modo che i team di sicurezza possano valutare rapidamente l'impatto e assegnare priorità alla risposta. Ricerca avanzata consente quindi agli analisti di eseguire query sui dati di osservabilità dell'agente 365 usando il linguaggio di query Kusto (KQL) per analizzare gli eventi imprevisti e cercare rischi in tutto il proprio ambiente.

Analizzare gli eventi imprevisti e gli avvisi

Microsoft Defender correla gli avvisi dell'agente di intelligenza artificiale dai rilevamenti quasi in tempo reale agli eventi imprevisti. Gli eventi di controllo e blocco della protezione in tempo reale vengono registrati come comportamenti nella BehaviorInfo tabella, che è possibile correlare con gli avvisi durante l'indagine.

Gli analisti della sicurezza possono usare il grafico degli eventi imprevisti e l'esperienza di indagine per comprendere il contesto completo di un potenziale attacco, incluse le relazioni tra le entità coinvolte e il raggio di esplosione delle minacce degli agenti di intelligenza artificiale. Per altre informazioni, vedere Eventi imprevisti e avvisi nel portale di Microsoft Defender.

Nota

Gli eventi di blocco di Microsoft Prompt Shields for Foundry e Microsoft 365 Copilot Agent Builder vengono registrati anche come comportamenti. Questo non è ancora supportato per gli agenti compilati con Microsoft Copilot Studio.

Correlare gli avvisi e Agent 365 dati di osservabilità e cercare i rischi usando Ricerca avanzata

Ricerca avanzata in Microsoft Defender consente ai team di sicurezza di eseguire query sui dati di osservabilità Agent 365 insieme ad altri dati di sicurezza usando Linguaggio di query Kusto (KQL). Ciò supporta la ricerca proattiva delle minacce, l'analisi degli eventi imprevisti e l'analisi della causa radice per agenti, applicazioni, identità e dispositivi.

Ad esempio, usare Ricerca avanzata per:

  • Tracciare chiamate specifiche dello strumento agente e correlarle con avvisi o eventi di blocco correlati

  • Analizzare la causa radice e l'ambito di una minaccia dell'agente di intelligenza artificiale rilevata

  • Identificare i modelli di esecuzione anomali o il comportamento dell'agente rischioso in tutti gli ambienti

  • Creare regole di rilevamento personalizzate in base ai segnali di attività dell'agente

Tabelle di ricerca avanzate per l'analisi dell'agente di intelligenza artificiale

Le tabelle di ricerca avanzata seguenti offrono visibilità sulla configurazione, gli avvisi e l'attività dell'agente di intelligenza artificiale. È possibile eseguire query su queste tabelle singolarmente o correlarle per analizzare gli eventi imprevisti e cercare i rischi correlati agli agenti.

Nome della tabella Descrizione Casi d'uso comuni
AlertInfo Contiene i metadati degli avvisi generati da Microsoft Defender, inclusi gli avvisi correlati ai rilevamenti quasi in tempo reale. Analizzare gli avvisi dell'agente di intelligenza artificiale, comprendere il contesto degli avvisi e passare a eventi imprevisti ed entità correlati.
CloudAppEvents Contiene Agent 365 dati di osservabilità per l'attività dell'agente di intelligenza artificiale, tra cui azioni dell'agente, chiamate degli strumenti ed eventi di accesso ai dati. Cercare il comportamento sospetto dell'agente, tracciare le azioni dell'agente ed eseguire l'analisi della causa radice usando Agent 365 dati di osservabilità.
AgentsInfo Contiene i dettagli di inventario e configurazione per gli agenti di intelligenza artificiale, tra cui identità dell'agente, piattaforma, proprietà e metadati. Esaminare il comportamento dell'agente, identificare agenti rischiosi o non configurati correttamente e correlare l'identità dell'agente con avvisi e attività.
AlertEvidence Contiene entità ed elementi associati ad avvisi, ad esempio agenti, utenti, strumenti, URL o risorse. Comprendere l'ambito di un avviso e identificare le entità correlate coinvolte in un evento imprevisto dell'agente di intelligenza artificiale.
BehaviorInfo Contiene comportamenti che registrano l'attività delle regole di protezione in tempo reale, inclusi gli eventi di controllo e blocco, come dati di telemetria su cui è possibile eseguire query. Creare rilevamenti personalizzati, query di ricerca e automazione downstream in base a eventi di protezione in tempo reale.
BehaviorEntities Contiene le entità e gli artefatti associati a comportamenti, ad esempio agenti, utenti, strumenti e risorse. Correlare i comportamenti con le entità correlate per analizzare l'ambito degli eventi di protezione in tempo reale.

Passaggi successivi

  • Last updated on