Sviluppare e distribuire app di intelligenza artificiale sicure e conformi Microsoft Foundry o app di intelligenza artificiale personalizzate

La sicurezza e la conformità sono essenziali per l'adozione dell'IA aziendale. I clienti aziendali si aspettano che le applicazioni di intelligenza artificiale siano sicure in base alla progettazione e siano conformi ai criteri interni e alle normative esterne.

Il mancato rispetto di queste aspettative può comportare:

  • Rifiuto durante le verifiche di sicurezza e conformità.
  • Perdite di dati o altro comportamento dannoso dell'IA.
  • Perdita di fiducia dei clienti e riduzione dell'adozione.

Per ridimensionare l'IA in modo responsabile, le organizzazioni devono basarsi su una solida governance e sicurezza dei dati. Poiché le applicazioni di intelligenza artificiale elaborano sempre più dati aziendali sensibili, gli sviluppatori devono incorporare i controlli di sicurezza e conformità all'inizio del ciclo di vita dello sviluppo, durante la progettazione e l'implementazione.

Microsoft Purview fornisce API e servizi che consentono Microsoft Foundry e altre piattaforme di intelligenza artificiale per integrare controlli di governance e sicurezza dei dati di livello aziendale in applicazioni e agenti di intelligenza artificiale personalizzati, indipendentemente dal modello o dalla piattaforma di distribuzione.

Questo articolo illustra come gli sviluppatori possono integrarsi con Microsoft Purview per supportare i requisiti di sicurezza e conformità dei dati nelle app e negli agenti di intelligenza artificiale creati usando Microsoft Foundry, Agent Framework o app di intelligenza artificiale personalizzate. La tabella seguente riepiloga gli scenari di Microsoft Purview e quali opzioni gli sviluppatori devono scegliere per ogni scenario.

Scenario Microsoft Foundry Framework dell'agente API di Microsoft Purview
Gestire i dati usati in fase di esecuzione dalle app di intelligenza artificiale Supportato Supportato Supportato
Proteggersi dalle perdite di dati e dai rischi insider Non supportato Supportato Supportato
Prevenire la condivisione eccessiva dei dati Non supportato Non supportato Supportato

Gestire i dati usati in fase di esecuzione dalle app di intelligenza artificiale

Le funzionalità di Microsoft Purview seguenti possono essere usate per fornire la governance dei dati per le app di intelligenza artificiale:

  • Analisi in tempo reale per l'utilizzo dei dati sensibili, comportamenti rischiosi e interazioni di intelligenza artificiale non etica.
  • Controllo per la tracciabilità.
  • Conformità delle comunicazioni per rilevare contenuti dannosi o non autorizzati.
  • Gestione del ciclo di vita dei dati eDiscovery per esigenze legali e normative.

È possibile integrare queste funzionalità di Microsoft Purview nella Microsoft Foundry o nell'app di intelligenza artificiale personalizzata, usando le opzioni seguenti:

  • Integrazione nativa di Microsoft Purview in Microsoft Foundry (scelta consigliata): quando si usano modelli in Microsoft Foundry, usare le impostazioni di Microsoft Purview per i risultati di controllo e governance correlati incorporati in Microsoft Foundry. Azure Gli amministratori possono attivare l'impostazione per qualsiasi sottoscrizione Azure specificata. Non è necessario eseguire alcuna azione da parte degli sviluppatori. Questa impostazione consente l'invio di dati da tutte le applicazioni basate su intelligenza artificiale Azure in esecuzione in tale sottoscrizione a Microsoft Purview per supportare i risultati di governance e conformità. Per altre informazioni sull'attivazione dell'impostazione, vedere Abilitare la sicurezza dei dati per Azure intelligenza artificiale con Microsoft Purview.

  • Usare le API: gli sviluppatori di Microsoft Foundry possono usare le API di Microsoft Purview in Microsoft Graph per inviare programmaticamente a Microsoft Purview i dati relativi ai prompt e alle risposte delle loro app di intelligenza artificiale.

    Usare queste API per l'integrazione basata su API:

    Per altre informazioni, vedere Usare le API di Microsoft Purview in Microsoft Graph.

  • Framework agente: se si creano agenti usando Microsoft Agent Framework, è possibile aggiungere funzionalità di Microsoft Purview per proteggere gli agenti. Queste funzionalità aggiungeranno sicurezza e conformità dei dati all'agente. Nella pipeline del middleware del tuo agente, aggiungi il middleware dei criteri di Microsoft Purview per:

    • Intercettare e passare richieste e risposte a Microsoft Purview.
    • Applicare i criteri DLP dell'organizzazione in Microsoft Purview.

    Per altre informazioni, vedere Usare Microsoft Purview SDK con Agent Framework.

Proteggersi dalle perdite di dati e dai rischi insider

Gli sviluppatori possono usare Agent Framework o api Microsoft Purview per applicare i criteri di Prevenzione della perdita dei dati Microsoft Purview (DLP) nelle applicazioni.

Framework agente: se si creano agenti usando Microsoft Agent Framework, è possibile aggiungere funzionalità di Microsoft Purview per proteggere gli agenti. Queste funzionalità aggiungeranno sicurezza e conformità dei dati all'agente. Nella pipeline del middleware del tuo agente, aggiungi il middleware dei criteri di Microsoft Purview per:

  • Intercettare e passare richieste e risposte a Microsoft Purview.
  • Applicare i criteri DLP dell'organizzazione in Microsoft Purview.

Per altre informazioni, vedere Usare Microsoft Purview SDK con Agent Framework.

Usare le API: questa opzione consente alle applicazioni di comprendere e applicare il comportamento nelle app e negli agenti di intelligenza artificiale in base ai criteri impostati in Microsoft Purview. Ad esempio, è possibile proteggere le informazioni riservate condivise con modelli di linguaggio di grandi dimensioni o controllare le informazioni riservate condivise con utenti rischiosi nelle app di intelligenza artificiale.

Usare queste API per l'integrazione basata su API:

Importante

Per configurare un nuovo criterio DLP in Microsoft Purview per testare l'integrazione DLP, eseguire il New-DlpComplianceRule cmdlet . Per altre informazioni, vedere New-DlpComplianceRule.

Azure esempio di codice di intelligenza artificiale:

Impedire la condivisione eccessiva dei dati

La condivisione eccessiva dei dati è limitata quando ai dati vengono applicate etichette di riservatezza. Gli sviluppatori possono usare Microsoft Purview API o Azure AI Search per rispettare le etichette di riservatezza applicate ai dati usati dalle macchine virtuali per generare risposte. Entrambe queste opzioni assicurano che le risposte generate dall'intelligenza artificiale rispettino i controlli di accesso, impediscano l'oversharing dei dati e limitano gli utenti ai contenuti che sono autorizzati a visualizzare, proprio come all'esterno dell'ambiente dell'app di intelligenza artificiale.

Quando è abilitata l'indicizzazione delle etichette di riservatezza di Microsoft Purview, Azure AI Search controlla i metadati dell'etichetta del documento in fase di esecuzione della query, applica i filtri di accesso in base ai criteri di Microsoft Purview e restituisce solo i risultati a cui l'utente richiedente è autorizzato ad accedere.

È possibile usare una delle API seguenti durante la compilazione di questo scenario:

  • Last updated on