Scheda applicazione: Indagini sulla sicurezza dei dati di Microsoft Purview

Che cos'è una scheda applicazione o piattaforma?

Le schede microsoft per applicazioni e piattaforme sono progettate per aiutarti a comprendere come funziona la nostra tecnologia di intelligenza artificiale, le scelte che i proprietari delle applicazioni possono fare che influenzano le prestazioni e il comportamento dell'applicazione e l'importanza di considerare l'intera applicazione, inclusa la tecnologia, le persone e l'ambiente. Le schede applicazione vengono create per le applicazioni di intelligenza artificiale e le schede della piattaforma vengono create per i servizi della piattaforma di intelligenza artificiale. Queste risorse possono supportare lo sviluppo o la distribuzione di applicazioni personalizzate e possono essere condivise con utenti o stakeholder interessati.

Come parte del suo impegno per l'IA responsabile, Microsoft rispetta sei principi fondamentali: equità, affidabilità e sicurezza, privacy e sicurezza, inclusività, trasparenza e responsabilità. Questi principi sono incorporati nella Standard di intelligenza artificiale responsabile, che guida i team nella progettazione, nella compilazione e nel test delle applicazioni di intelligenza artificiale. Le schede delle applicazioni e della piattaforma svolgono un ruolo fondamentale nell'operazionalizzazione di questi principi offrendo trasparenza sulle funzionalità, gli usi previsti e le limitazioni. Per altre informazioni dettagliate, i lettori sono invitati a esplorare il report sulla trasparenza responsabile dell'IA e il codice di condotta di Microsoft, che descrivono in che modo i clienti e gli utenti aziendali possono interagire con l'IA in modo responsabile.

Panoramica

Indagini sulla sicurezza dei dati di Microsoft Purview è un'applicazione di indagine abilitata per l'intelligenza artificiale per i team di sicurezza informatica e sicurezza dei dati. Consente alle organizzazioni di analizzare i dati associati a potenziali violazioni, eventi insider ed eventi di esfiltrazione combinando ricerca, analisi dell'intelligenza artificiale e pianificazione della mitigazione in un unico flusso di lavoro. L'applicazione usa l'intelligenza artificiale generativa per identificare i rischi di contenuto sensibili, assegnare priorità agli elementi a impatto elevato e produrre raccomandazioni che supportano il contenimento e la correzione.

L'applicazione è progettata per ridurre il tempo e la complessità nelle indagini post-violazione e ad alto rischio. Invece di esaminare manualmente set molto grandi di file, messaggi di posta elettronica e messaggi, gli analisti possono usare strumenti di ricerca vettoriale, categorizzazione ed esame per concentrarsi prima sul contenuto più rilevante e rischioso. Ciò migliora l'efficienza della valutazione, supporta il coordinamento tra team e consente alle organizzazioni di intraprendere azioni tempestive, ad esempio la pianificazione della mitigazione basata su indagini e le operazioni di eliminazione.

Indagini sulla sicurezza dei dati è destinato ai clienti aziendali e agli utenti downstream, ad esempio analisti della sicurezza, risponditori di eventi imprevisti, investigatori delle minacce e team di protezione dei dati. La documentazione principale include Informazioni su Indagini sulla sicurezza dei dati amd Informazioni sull'analisi dell'intelligenza artificiale in Indagini sulla sicurezza dei dati.

Termini chiave

Nell'elenco seguente viene fornito un glossario dei termini chiave relativi a Indagini sulla sicurezza dei dati di Microsoft Purview:

  • Categorizzazione: Funzionalità di intelligenza artificiale che raggruppa il contenuto dell'indagine con ambito in categorie predefinite, personalizzate o suggerite dall'IA per velocizzare la definizione delle priorità. Standard e le opzioni di elaborazione avanzata consentono agli analisti di passare dalla valutazione generale al clustering a livello di argomento più approfondito.
  • Esame: modalità di analisi dell'intelligenza artificiale che esegue una revisione a livello di elemento mirato per aree quali credenziali, rischi e indicazioni sulla mitigazione. Gli output dell'esame aiutano gli investigatori a comprendere la gravità e le azioni successive consigliate.
  • Ambito di indagine: set di elementi di contenuto selezionati per la revisione e l'analisi in un'indagine.
  • Piano di mitigazione: set strutturato di azioni per gli elementi identificati come priorità elevata durante l'indagine. Consente agli analisti di tenere traccia ed eseguire attività di correzione e riduzione dei rischi.
  • Eliminazione (soft/hard): azione di mitigazione per rimuovere gli elementi rischiosi identificati in un'indagine. L'eliminazione temporanea sposta gli elementi in posizioni recuperabili, mentre l'eliminazione definitiva elimina definitivamente gli elementi.
  • Punteggio di rischio: punteggio generato durante l'esame che consente agli analisti di assegnare priorità ai contenuti in base al potenziale impatto sulla sicurezza. Supporta le decisioni di valutazione e escalation.
  • Ricerca per intelligenza artificiale (anteprima): un'esperienza di ricerca aumentata per il recupero che combina il recupero semantico con riepiloghi e citazioni generati dall'intelligenza artificiale. Consente agli analisti di valutare se i risultati della ricerca corrispondono alla finalità investigativa.
  • Ricerca vettoriale: metodo di ricerca semantica che usa incorporamenti per recuperare contenuto rilevante dal punto di vista contestuale, anche quando mancano parole chiave esatte. Supporta query con riconoscimento delle finalità e classificazione basata sulla rilevanza.

Funzionalità o funzionalità principali

Le funzionalità e le funzionalità principali descritte qui descrivono cosa è progettato per eseguire Indagini sulla sicurezza dei dati di Microsoft Purview e come vengono eseguite nelle attività supportate.

  • Flusso di lavoro integrato da evento imprevisto a indagine: l'applicazione supporta la creazione di indagini da eventi imprevisti Microsoft Defender XDR, casi di gestione dei rischi Insider, informazioni dettagliate Gestione della postura di sicurezza dei dati (anteprima) o modalità bozza manuale. Ciò consente ai team di sicurezza di passare dall'avviso all'analisi incentrata sui dati senza cambiare gli strumenti. Migliora anche la collaborazione tra i team di sicurezza informatica, conformità e rischio.
  • Recupero semantico basato sull'intelligenza artificiale: la ricerca vettoriale consente il recupero in grado di riconoscere le finalità tra contenuti con ambito e basati su testo. Gli analisti possono trovare elementi rilevanti anche quando il contenuto non contiene termini di query esatti. Ciò migliora il richiamo e riduce l'errore e la valutazione manuale delle parole chiave.
  • Assegnazione di priorità assistita dall'intelligenza artificiale tramite la categorizzazione: la categorizzazione organizza i dati in categorie predefinite, personalizzate e suggerite dall'intelligenza artificiale, in modo che gli analisti possano concentrarsi rapidamente sulle aree a rischio più elevato. La categorizzazione avanzata offre un'organizzazione aggiuntiva a livello di argomento per una revisione più approfondita. In questo modo si riduce il lavoro di revisione nelle indagini di grandi dimensioni, aprendo il contenuto con priorità invece di richiedere prima la revisione manuale completa.
  • Rischio mirato e esame delle credenziali: gli strumenti di esame estraggono le credenziali, valutano il rischio dell'elemento e generano output orientati alla mitigazione per il contenuto selezionato. Gli analisti ottengono una comprensione più rapida di ciò che potrebbe essere esposto e cosa fare dopo. Ciò supporta un contenimento e una correzione più rapidi negli eventi imprevisti attivi.
  • Azioni di mitigazione ed eliminazione: gli investigatori possono convertire i risultati in azioni concrete tramite piani di mitigazione e flussi di lavoro di eliminazione. Ciò collega gli output dell'analisi direttamente all'esecuzione della riduzione dei rischi. Teams può tenere traccia dello stato e dello stato delle decisioni di mitigazione all'interno del ciclo di vita dell'indagine.
  • Audit e integrazione dell'ecosistema: la soluzione si integra con i flussi di lavoro di controllo di Microsoft Purview e le soluzioni di sicurezza Microsoft, consentendo ai team di mantenere il contesto di evidenza e allineare le azioni di risposta. Supporta anche la registrazione delle attività di indagine nel log di controllo unificato per rafforzare la responsabilità operativa.

Usi previsti

Indagini sulla sicurezza dei dati di Microsoft Purview può essere usato in più scenari. Alcuni esempi di casi d'uso includono:

  • Risposta alla violazione da un evento imprevisto Defender XDR: un analista può creare una nuova indagine sulla sicurezza dei dati direttamente da un evento imprevisto Defender XDR per valutare il raggio di esplosione di un utente compromesso. L'esame basato sull'intelligenza artificiale illustra le credenziali, i documenti sensibili e le comunicazioni a cui l'utente malintenzionato avrebbe potuto accedere, con i dati regolamentati e che influiscono sui clienti in primo luogo. Le azioni di mitigazione vengono eseguite all'interno della stessa indagine, producendo una risposta documentata per il controllo e il follow-up.
  • Traccia dell'esfiltrazione dei dati dei dipendenti tramite il log di controllo: quando un dipendente è sospettato di esfiltrare un volume elevato di dati, un investigatore esegue una query sul log di controllo unificato tramite Indagini sulla sicurezza dei dati ai file di traccia scaricati e accessibili. La categorizzazione dell'intelligenza artificiale separa l'attività di routine dai contenuti sospetti e concentra l'attenzione sui dati a rischio più elevato. I risultati arricchiti dall'intelligenza artificiale vengono consegnati ai team legali e privacy per ulteriori azioni.
  • Ricerca di dati sensibili in un sito di SharePoint sovraesposto: dopo aver appreso che un sito di SharePoint contenente contenuto sensibile è ampiamente sovradiviso, un investigatore definisce un ambito di indagine per tale sito ed esegue l'analisi dell'intelligenza artificiale per identificare gli elementi effettivamente a rischio. Ricerca vettoriale e concentrazione della superficie di categorizzazione di contenuto sensibile che non sarebbe pratico esaminare manualmente.
  • Revisione delle interazioni di IA rischiose: un investigatore definisce l'ambito di un'indagine DSI per le richieste di intelligenza artificiale e le risposte che coinvolgono dati sensibili, sia da strumenti di intelligenza artificiale di Microsoft Copilot che da strumenti di intelligenza artificiale di terze parti. Gli esami identificano dove contenuti regolamentati, credenziali o informazioni personali sono apparsi nelle interazioni e la categorizzazione evidenzia i modelli ricorrenti di uso rischioso. I risultati informano sia la correzione immediata sul contenuto esposto che un più ampio follow-up con gli utenti e gli strumenti coinvolti.

Modelli e dati di training

Indagini sulla sicurezza dei dati di Microsoft Purview sfrutta un'ampia gamma di modelli di intelligenza artificiale per potenziare l'esperienza visualizzata dagli utenti. Alcuni esempi includono Azure modelli di servizio OpenAI e funzionalità della piattaforma Microsoft Security Copilot usate per incorporamenti vettoriali, categorizzazione e output di intelligenza artificiale correlati all'esame. Per altre informazioni sui dati usati per eseguire il training dei modelli di base dietro Indagini sulla sicurezza dei dati di Microsoft Purview, vedere le schede modello collegate per trovare le schede dati pertinenti.

Prestazioni

Indagini sulla sicurezza dei dati di Microsoft Purview è progettato per eseguire in modo affidabile nei flussi di lavoro aziendali post-violazione e analisi del rischio di dati in cui l'ambito di indagine è definito correttamente e agli utenti vengono assegnati i gruppi di ruoli necessari. In queste condizioni, gli analisti possono perfezionare in modo iterativo i risultati della ricerca, assegnare priorità ai dati tramite la categorizzazione ed eseguire l'esame degli elementi selezionati per supportare le decisioni di mitigazione.

Gli input previsti sono principalmente contenuti aziendali e richieste di investigatore. Gli input includono file, messaggi di posta elettronica e messaggi con ambito da origini dati Microsoft 365 supportate; metadati e contesto collegato al controllo; e query di linguaggio naturale o parole chiave usate nella ricerca vettoriale e nella ricerca con intelligenza artificiale (anteprima). Gli output previsti includono i risultati della ricerca classificati in base alla rilevanza, i raggruppamenti di categorie, gli output dell'esame dei rischi e delle credenziali e le raccomandazioni orientate alla mitigazione.

La modalità principale di interazione con intelligenza artificiale valutata e documentata è il testo. La vettorializzazione e il recupero semantico dipendono dal contenuto contenente testo. Alcuni tipi di contenuto che non includono testo utilizzabile vengono esclusi dai flussi di lavoro di vettorizzazione, quindi gli investigatori devono tenere conto di questo durante la pianificazione dell'ambito.

Le prestazioni e l'utilità sono influenzate dalla qualità della configurazione dell'indagine, tra cui la precisione dell'ambito, la selezione delle categorie e la revisione umana iterativa. Nei set di dati di grandi dimensioni, la categorizzazione restituisce subset con priorità anziché una copertura esaustiva per ogni categoria. Per un'analisi completa a livello di elemento, i team devono combinare la categorizzazione con l'esame e la convalida degli investigatori.

Limitazioni

Comprendere le limitazioni di Indagini sulla sicurezza dei dati di Microsoft Purview è fondamentale per determinare se viene usato entro limiti sicuri ed efficaci. Anche se incoraggiamo i clienti a sfruttare Indagini sulla sicurezza dei dati di Microsoft Purview nelle loro soluzioni o applicazioni innovative, è importante notare che Indagini sulla sicurezza dei dati di Microsoft Purview non è stato progettato per ogni possibile scenario. Si consiglia agli utenti di fare riferimento al Codice di condotta di Microsoft Enterprise AI Services (per le organizzazioni) o alla sezione Condotta del codice nel Contratto di servizi Microsoft (per singoli utenti), nonché alle considerazioni seguenti quando si sceglie un caso d'uso:

  • Vincoli di affidabilità dell'output dell'intelligenza artificiale: i risultati generati dall'intelligenza artificiale generativa potrebbero non essere sempre completamente accurati o completi. Questa limitazione è importante perché gli investigatori potrebbero sovrastimare la fiducia e perdere il contesto che modifica la gravità dell'evento imprevisto. Gli utenti devono convalidare i risultati critici, in particolare prima di azioni legali, di conformità o tecniche irreversibili. Il giudizio umano rimane necessario nelle decisioni finali.
  • Dipendenza del contenuto di testo per gli strumenti semantici: la ricerca vettoriale e i flussi di lavoro semantici correlati richiedono contenuti contenenti testo. Alcuni tipi di contenuto, ad esempio elementi di sola immagine o contenuto senza testo estraibile, possono essere esclusi dalla vettorizzazione e quindi da alcuni flussi di lavoro di recupero assistiti dall'intelligenza artificiale. Teams deve valutare se l'evidenza chiave potrebbe richiedere metodi di revisione aggiuntivi al di fuori della ricerca semantica. Ciò consente di evitare false ipotesi sulla copertura completa.
  • Comportamento di categorizzazione con priorità non esaustiva: la categorizzazione è ottimizzata per visualizzare contenuti di rilevanza elevata per categorie selezionate, non per garantire la revisione completa di ogni elemento nell'ambito per categoria. Nei set di dati di grandi dimensioni, gli elementi con punteggio inferiore pertinenti potrebbero non essere visualizzati negli output delle categorie. Gli utenti devono usare l'esame per un'analisi completa a livello di elemento in cui è necessaria una copertura completa. Ciò è particolarmente importante nelle indagini ad alto impatto.
  • Limiti operativi e limiti di capacità: si applicano i limiti di analisi e funzionalità, inclusi i limiti per i documenti totali, le dimensioni totali dei file per ogni indagine e i limiti nei flussi di lavoro di ricerca e eliminazione dei controlli. Questi vincoli possono influire sul modo in cui i team segmentano il lavoro e sequenziano indagini di grandi dimensioni. Gli utenti devono pianificare l'ambito e la strategia di elaborazione per i limiti pubblicati per evitare ritardi. La pianificazione compatibile con la capacità migliora sia il controllo dei costi che la continuità investigativa.
  • Non destinato a scenari non supportati o all'uso non consentito: Indagini sulla sicurezza dei dati è destinato all'analisi degli eventi imprevisti e ai contesti di mitigazione della sicurezza dei dati. L'uso di questa funzionalità come unico decision maker, flussi di lavoro esterni alla governance e alla sicurezza o in modi vietati da termini e requisiti di codice di condotta può creare rischi per la sicurezza e la conformità. Le organizzazioni devono mantenere lo strumento entro i limiti operativi previsti e applicare controlli a più livelli. Ciò include la revisione legale e dei criteri prima di azioni con conseguenze elevate.

Giudizi

Le valutazioni delle prestazioni e della sicurezza valutano se le applicazioni di intelligenza artificiale funzionano in modo affidabile e sicuro esaminando fattori come la solidità, la rilevanza e la coerenza, identificando al tempo stesso i rischi di generazione di contenuti dannosi. Le seguenti valutazioni sono state condotte con componenti di sicurezza già in atto, descritti anche nella sezione 9. Componenti di sicurezza e mitigazioni.

Valutazioni di prestazioni e qualità

Le valutazioni delle prestazioni e della qualità per le funzionalità di intelligenza artificiale in Indagini sulla sicurezza dei dati di Microsoft Purview si concentrano sui risultati pratici dell'indagine, tra cui la pertinenza della ricerca vettoriale, l'accuratezza della categorizzazione e l'utilità dell'output di esame. In base alla documentazione del prodotto, le attività di valutazione includono test non definitive e convalida basata su scenario per valutare se le funzionalità di individuazione assistita dall'intelligenza artificiale, definizione delle priorità e analisi consentono agli investigatori di agire sui rischi identificati.

Per le esperienze di intelligenza artificiale correnti, la modalità valutata primaria è il testo. I risultati ideali sono risultati accurati e pertinenti che consentono agli analisti di identificare rapidamente gli elementi ad alto rischio e di intraprendere azioni investigative informate. I risultati non ottimali includono risultati incompleti, irrilevanti o che richiedono analisi e convalida aggiuntive sostanziali.

Valutazioni dei rischi e della sicurezza

I dati di valutazione sono personalizzati per valutare le prestazioni delle applicazioni di intelligenza artificiale in aree chiave di sicurezza e qualità, simulando scenari e rischi reali. Iniziamo identificando gli aspetti rilevanti della valutazione delle preoccupazioni in base alla ricerca multidisciplinare e al contributo di esperti. Queste preoccupazioni vengono tradotte in obiettivi di valutazione mirati e guidano la formulazione delle metriche di valutazione. Per motivi di sicurezza, vengono create richieste antagonistiche per generare risposte indesiderate o edge case, che vengono quindi valutate usando annotazioni assistite dall'IA addestrate per valutare l'allineamento con gli standard di sicurezza di Microsoft. Per la qualità, vengono create richieste basate su rubriche rilevanti per scenari quali la valutazione di applicazioni e agenti di generazione aumentata del recupero (RAG). I set di dati vengono curati da origini diverse, inclusi i set di dati sintetici e pubblici, per simulare scenari utente reali. Usando i set di dati curati, entrambe le valutazioni vengono sottoposte a perfezionamento iterativo e all'allineamento umano per migliorare l'efficacia e l'affidabilità delle metriche. Questa metodologia costituisce la base di valutazioni ripetibili e rigorose che riflettono il modo in cui i clienti usano le valutazioni per creare un'IA migliore e più sicura.

Valutazioni personalizzate

Indagini sulla sicurezza dei dati è stato valutato usando più indicatori di qualità e affidabilità, tra cui accuratezza dell'IA, rilevanza dei risultati e chiarezza dell'output. In base a procedure documentate, le valutazioni usano una combinazione di red teaming manuale e classificazione umana per verificare se gli output assistiti dall'IA sono utili e affidabili per i flussi di lavoro di analisi degli eventi imprevisti. La modalità primaria valutata per le esperienze di intelligenza artificiale correnti è il testo.

Gli scenari di valutazione includono il recupero semantico, la pertinenza della categorizzazione e gli output di esame usati per definire le priorità e attenuare i rischi. I risultati ideali sono risultati contestualmente rilevanti che consentono agli analisti di identificare rapidamente gli elementi ad alto rischio e di intraprendere azioni successive informate. I risultati non ottimali includono output incompleti, poco chiari o meno rilevanti che richiedono ulteriori iterazione e convalida da parte degli investigatori.

Il feedback operativo viene usato anche per migliorare le prestazioni nel tempo. Il prodotto raccoglie metriche selezionate incentrate sulla qualità su input e output di intelligenza artificiale per ottimizzare la rilevanza e l'utilità, mentre i controlli di privacy documentati descrivono quali contenuti sono e non vengono raccolti. Questo ciclo continuo supporta miglioramenti qualitativi continui dopo il rilascio.

Componenti di sicurezza & mitigazioni

  • Controlli di accesso in base al ruolo: Indagini sulla sicurezza dei dati usa gruppi di ruoli dedicati (amministratori, investigatori, revisori) per controllare l'accesso alle funzionalità e le responsabilità. Ciò consente di limitare gli utenti che possono eseguire attività sensibili, ad esempio l'eliminazione e la configurazione amministrativa. Una chiara separazione dei compiti riduce il rischio di uso improprio e rafforza la responsabilità nei flussi di lavoro di indagine.
  • Processo decisionale human-in-the-loop: gli output di intelligenza artificiale sono progettati per assistere gli analisti e non sostituire il giudizio degli investigatori. I team devono convalidare i risultati ad alto impatto e le raccomandazioni di mitigazione prima di intraprendere un'azione consequenziale. In questo modo si attenua l'eccessiva dipendenza e si riduce la possibilità di agire su un output di IA incompleto.
  • Controlli di perfezionamento ed esclusione dell'ambito: gli investigatori possono restringere in modo iterativo l'ambito dell'indagine ed escludere elementi irrilevanti prima dell'analisi avanzata dell'IA. Ciò migliora la rilevanza, riduce il rumore e riduce l'esposizione all'elaborazione del contenuto non necessaria. La gestione mirata dell'ambito supporta anche il controllo dei costi e una risposta più rapida agli eventi imprevisti.
  • Registrazione di controllo e tracciabilità probatoria: le attività correlate all'indagine vengono registrate tramite flussi di lavoro di controllo integrati. La registrazione supporta la tracciabilità forense, la revisione operativa e la responsabilità della conformità. Si tratta di una mitigazione chiave per i requisiti di governance e di convalida post-evento imprevisto.
  • Misure di sicurezza per la privacy e la gestione dei dati: i controlli documentati descrivono l'archiviazione delle indagini isolate dal tenant e le protezioni della privacy per l'elaborazione dell'IA. I controlli di condivisione, registrazione e analisi dei dati nei percorsi di elaborazione integrati sono documentati come disattivati per impostazione predefinita per contesti di elaborazione Copilot specifici. Queste misure di sicurezza consentono di ridurre i rischi per la privacy e supportano le aspettative di conformità aziendale.

Procedure consigliate per la distribuzione e l'adozione di Indagini sulla sicurezza dei dati di Microsoft Purview

L'IA responsabile è un impegno condiviso tra Microsoft e i suoi clienti. Mentre Microsoft crea applicazioni di intelligenza artificiale con sicurezza, equità e trasparenza al centro, i clienti svolgono un ruolo fondamentale nella distribuzione e nell'uso responsabile di queste tecnologie all'interno dei propri contesti. Per supportare questa partnership, offriamo le procedure consigliate seguenti per i deployer e gli utenti finali per aiutare i clienti a implementare l'IA responsabile in modo efficace. I deployer e gli utenti finali (amministratori) devono:

  • Prestare attenzione e valutare i risultati quando si usano Indagini sulla sicurezza dei dati di Microsoft Purview per decisioni consequenziali o in domini sensibili: le decisioni consequenziali possono avere un impatto legale o significativo sull'accesso di una persona all'istruzione, all'occupazione, alle piattaforme finanziarie, alle prestazioni governative, all'assistenza sanitaria, all'alloggio, alle assicurazioni, alle piattaforme legali o che potrebbero causare danni fisici, psicologici o finanziari. I domini sensibili, come le piattaforme finanziarie, l'assistenza sanitaria e l'alloggio, richiedono un'assistenza particolare a causa del potenziale impatto sproporzionato su diversi gruppi di persone. Quando si usa l'intelligenza artificiale per le decisioni in queste aree, assicurarsi che gli stakeholder interessati possano comprendere come vengono prese le decisioni, prendere decisioni di appello e aggiornare i dati di input pertinenti.
  • Valutare considerazioni legali e normative: i clienti devono valutare potenziali obblighi legali e normativi specifici quando usano piattaforme e soluzioni di intelligenza artificiale, che potrebbero non essere appropriate per l'uso in ogni settore o scenario. Inoltre, le piattaforme o le soluzioni di intelligenza artificiale non sono progettate per e non possono essere usate in modi vietati nei termini di servizio applicabili e nei codici di condotta pertinenti.
  • Pianificare le indagini per l'analisi iterativa: i flussi di lavoro Indagini sulla sicurezza dei dati sono intenzionalmente iterativi, in particolare per il perfezionamento della ricerca, l'ottimizzazione dell'ambito e la valutazione assistita dall'intelligenza artificiale. Teams deve definire checkpoint ripetibili per quando eseguire la ricerca vettoriale, la categorizzazione e l'esame. Ciò migliora la coerenza, riduce l'uso di calcolo non necessario e rafforza la qualità delle indagini.
  • Coordinare tempestivamente la risposta interfun funzionalità: gli eventi imprevisti di sicurezza spesso coinvolgono i proprietari di sicurezza, IT, legali, di conformità e aziendali. Portare questi stakeholder nel processo di indagine non appena vengono identificati i risultati ad alto rischio. Il coordinamento precoce migliora la velocità di contenimento e riduce l'attrito di correzione a valle.

Gli utenti finali devono:

  • Usare richieste di indagine chiare e mirate: per la ricerca vettoriale e la ricerca con intelligenza artificiale (anteprima), le richieste devono includere contesto, oggetto e finalità (ad esempio, credenziali in un progetto denominato o contenuto a rischio di accesso per un evento imprevisto specifico). Le richieste di cancellazione producono un recupero più pertinente e riducono il rumore investigativo. Gli utenti devono eseguire l'iterazione e confrontare gli output prima di trarre conclusioni.
  • Convalidare i risultati dell'intelligenza artificiale con le prove di supporto: esaminare le citazioni, i dettagli degli elementi e il contesto dell'attività prima di eseguire l'escalation o la mitigazione. Gli output di intelligenza artificiale possono accelerare la valutazione, ma possono perdere casi limite o includere risultati di minore attendibilità. Il controllo incrociato con la ricerca, le visualizzazioni dell'ambito e l'input degli stakeholder riduce il rischio di errore.
  • Esercitare la supervisione umana quando necessario: la supervisione umana è una protezione importante quando si interagisce con le applicazioni di intelligenza artificiale. Anche se miglioriamo continuamente le nostre applicazioni di intelligenza artificiale, l'IA potrebbe comunque commettere errori. Gli output generati possono essere imprecisi, incompleti, distorti, disallineati o irrilevanti per gli obiettivi previsti. Ciò può verificarsi a causa di vari motivi, ad esempio ambiguità negli input o limitazioni dei modelli sottostanti. Di conseguenza, gli utenti devono esaminare le risposte generate da Indagini sulla sicurezza dei dati di Microsoft Purview e verificare che soddisfino le aspettative e i requisiti.
  • Tenere presente il rischio di overreliance: l'overreliance sull'IA si verifica quando gli utenti accettano output di intelligenza artificiale errati o incompleti, principalmente perché gli errori negli output di intelligenza artificiale possono essere difficili da rilevare. Per l'utente finale, l'eccessiva affidabilità potrebbe comportare una riduzione della produttività, perdita di fiducia, abbandono dell'applicazione, perdita finanziaria, danni psicologici, danni fisici, tra gli altri. (ad esempio, un medico accetta un output di intelligenza artificiale errato).
  • Prestare attenzione durante la progettazione dell'intelligenza artificiale agentic nei domini sensibili: gli utenti devono prestare attenzione quando progettano e/o distribuiscono applicazioni agentic per intelligenza artificiale in domini sensibili in cui le azioni degli agenti sono irreversibili o altamente consequenziali.
  • Quando si crea un'intelligenza artificiale agentic autonoma, come descritto più avanti nel Codice di condotta di Microsoft Enterprise AI Services (per le organizzazioni) o nella sezione Code Conduct del Contratto di servizi Microsoft (per i singoli utenti), è consigliabile adottare precauzioni aggiuntive.

I deployer devono:

  • Configurare le autorizzazioni e il modello di proprietà in anticipo: assegnare gruppi di ruoli Indagini sulla sicurezza dei dati in base ai privilegi minimi e alla responsabilità operativa prima che si verifichino eventi imprevisti. Includere gli amministratori del backup e una copertura chiara dei ruoli per evitare ritardi nella risposta. In questo modo si riduce il rischio di accesso con overbroad e si rafforza la continuità durante gli eventi imprevisti attivi.
  • Progettare limiti, costi e velocità effettiva: l'analisi, la ricerca di controllo e i limiti di eliminazione devono indicare come i team segmentare gli eventi imprevisti di grandi dimensioni. Teams deve anche monitorare l'utilizzo della capacità e l'elaborazione temporanea dell'intelligenza artificiale per allinearsi all'urgenza e al budget. In questo modo si evitano colli di bottiglia e si supportano prestazioni di risposta prevedibili.
  • Testare i flussi di lavoro di mitigazione e i percorsi di escalation: eseguire indagini sul piano di tabella o pilota usando dati rappresentativi per convalidare i modelli di query, la strategia di categorizzazione e gli handoff di mitigazione. I flussi di lavoro pre-testati riducono la confusione durante gli eventi imprevisti reali e migliorano il tempo di intervento. Includere i controlli per i requisiti legali e di notifica di conformità nell'ambito di questo test.

Altre informazioni su Indagini sulla sicurezza dei dati di Microsoft Purview

Per altre indicazioni o per altre informazioni sull'uso responsabile di Indagini sulla sicurezza dei dati di Microsoft Purview, è consigliabile esaminare la documentazione seguente:

Altre informazioni sull'intelligenza artificiale responsabile

  • Last updated on