Sicurezza dell'IA nel workshop Microsoft Zero Trust

L'intelligenza artificiale amplifica il rischio di sicurezza esistente e introduce nuovi rischi e considerazioni su identità, dati, applicazioni e interazioni utente. Questi rischi possono essere affrontati utilizzando i principi Zero Trust.

La protezione dell'intelligenza artificiale non riguarda solo la protezione dei modelli e dei servizi di intelligenza artificiale sottostanti. È anche necessario assicurarsi che l'accesso, l'uso e la governance del sistema di intelligenza artificiale siano allineati ai principi di Zero Trust.

Le linee guida sui pilastri dell'intelligenza artificiale sono incentrate sulla definizione della visibilità sull'utilizzo dell'IA, sull'applicazione di controlli sicuri di identità e accesso, sulla protezione dei dati tra prompt e output, sulla protezione degli ambienti di sviluppo e di runtime degli agenti e sull'integrazione dei segnali di intelligenza artificiale nelle operazioni di sicurezza.

Implementazione del workshop

Il workshop sull'IA illustra le aree di implementazione riepilogate nella tabella.

Area	Dettagli
Mappare e valutare il rischio di intelligenza artificiale	Individuare e inventariare agenti, applicazioni e servizi di intelligenza artificiale nell'organizzazione. Valutare i rischi di intelligenza artificiale usando informazioni dettagliate sulla sicurezza centralizzate, esaminare l'inventario e definire le priorità dei risultati e stabilire criteri di governance, proprietà e uso accettabile. Implementare il monitoraggio continuo e la correzione per l'evoluzione dei rischi di IA.
Registrare gli agenti	Registrare gli agenti di intelligenza artificiale in un registro centralizzato per mantenere visibilità e controllo. Classificare e organizzare gli agenti in base allo scopo e al rischio, assegnare proprietà e responsabilità e definire pubblicazione, certificazione e ciclo di vita
Proteggere l'autenticazione e l'accesso all'intelligenza artificiale	Applicare controlli di accesso basati sull'identità per sistemi e agenti di intelligenza artificiale. Applicare l'accesso condizionale, i criteri basati sui rischi e basati sugli attributi e i processi di governance delle identità per garantire che solo gli utenti e i servizi autorizzati possano interagire con le risorse di intelligenza artificiale.
Proteggere l'accesso alla rete di intelligenza artificiale	Controllare l'accesso ai servizi di intelligenza artificiale attraverso la rete. Instradare il traffico tramite controlli di accesso sicuri, applicare criteri di filtraggio e ispezione per le interazioni con l'intelligenza artificiale e proteggere da rischi come il prompt injection e i percorsi di accesso non autorizzati.
Proteggere l'accesso ai dati di intelligenza artificiale	Proteggere i dati sensibili usati nei prompt di intelligenza artificiale, nelle attività di base e negli output. Applica criteri di classificazione, etichettatura e DLP, controlla l'accesso alle fonti di dati collegate e monitora l'eccessiva condivisione e i rischi di esposizione dei dati nelle interazioni con l'IA.
Creare agenti in modo sicuro	Proteggere lo sviluppo e la distribuzione degli agenti di intelligenza artificiale applicando gli standard di autenticazione, autorizzazione e gestione dei dati. Integrare i controlli di sicurezza dei contenuti, richiedere la convalida e il red teaming e stabilire processi di pubblicazione e distribuzione sicuri.
Rilevamento e risposta per l'IA	Monitorare l'attività di intelligenza artificiale e rilevare minacce come uso improprio, anomalie e attacchi basati su prompt. Integrare i segnali di intelligenza artificiale nelle operazioni di sicurezza, abilitare flussi di lavoro di indagine e risposta e migliorare continuamente le funzionalità di rilevamento e risposta.

Passaggi successivi

Iniziare il workshop sull'intelligenza artificiale.