Sommario
Contoso Financial Services ha avviato questo modulo con Azure modelli OpenAI che elaborano dati finanziari sensibili e non rilevano minacce a livello di inferenza di intelligenza artificiale. Il team di sicurezza sapeva che avevano abilitato Defender for Cloud Apps per gli agenti Copilot Studio, ma le distribuzioni del modello Foundry non avevano alcuna protezione: tentativi di jailbreak, perdite di dati e furti di credenziali non rilevati.
È stato abilitato il piano di Defender per i servizi di intelligenza artificiale nelle sottoscrizioni che ospitano i carichi di lavoro di intelligenza artificiale di Contoso. Sono state quindi configurate evidenze di prompt sospetti in modo che gli avvisi includano il contesto necessario per un triage efficace e sono stati esaminati i componenti facoltativi del piano per l'integrazione di Purview e la scansione del modello di apprendimento automatico. È stato quindi usato il dashboard di sicurezza dei dati e dell'intelligenza artificiale per verificare la copertura, verificare che gli avvisi siano stati trasmessi e configurare le notifiche in modo che il team SOC sia a conoscenza delle minacce di intelligenza artificiale con gravità elevata.
In questo modulo, hai imparato a:
- Abilitare il piano di Defender per i servizi di intelligenza artificiale e configurarne i componenti per una sottoscrizione Azure
- Esaminare gli avvisi di protezione dalle minacce di intelligenza artificiale nel portale di Defender
- Monitorare il comportamento di sicurezza dell'intelligenza artificiale usando il dashboard di sicurezza dei dati e dell'intelligenza artificiale in Microsoft Defender per il cloud
Learn more
- Panoramica della protezione dalle minacce per intelligenza artificiale
- Abilitare la protezione dalle minacce per i servizi di intelligenza artificiale