Che cos'è l'intelligenza artificiale responsabile?

SI APPLICA A:Estensione ml dell'interfaccia della riga di comando di Azure v2 (corrente)Python SDK azure-ai-ml v2 (corrente)

L'intelligenza artificiale responsabile (IA responsabile) è un approccio allo sviluppo, alla valutazione e alla distribuzione di sistemi di IA in modo sicuro, etico e con fiducia. I sistemi di intelligenza artificiale derivano da molte decisioni prese dai loro creatori. L'IA responsabile aiuta a guidare queste decisioni, dalla definizione dello scopo del sistema all'interazione dell'utente, verso risultati più vantaggiosi ed equi. Mantiene le persone e i loro obiettivi al centro del design e rispetta valori come equità, affidabilità e trasparenza.

Microsoft ha creato uno standard di intelligenza artificiale responsabile, un framework per la creazione di sistemi di IA in base a sei principi: equità, affidabilità e sicurezza, privacy e sicurezza, inclusività, trasparenza e responsabilità. Questi principi sono la base di un approccio responsabile e affidabile all'IA, soprattutto quando la tecnologia intelligente diventa più comune nei prodotti e nei servizi di tutti i giorni.

Questo articolo illustra in che modo Azure Machine Learning fornisce strumenti che consentono agli sviluppatori e ai data scientist di implementare e rendere operativi questi sei principi.

Diagramma dei sei principi di Microsoft'IA responsabile, che comprende equità, affidabilità e sicurezza, privacy e sicurezza, inclusività, trasparenza e responsabilità.

Equità e inclusività

I sistemi di IA devono trattare tutti in modo equo ed evitare di influire in modo diverso su gruppi simili. Ad esempio, quando i sistemi di IA forniscono indicazioni sul trattamento medico, le applicazioni di prestito o l'occupazione, devono fare le stesse raccomandazioni alle persone con sintomi simili, circostanze finanziarie o qualifiche.

Equità e inclusività in Azure Machine Learning: il componente di valutazione dell'equità del dashboard dell'intelligenza artificiale responsabile consente di valutare l'equità del modello tra gruppi sensibili, ad esempio sesso, etnia, età e altre caratteristiche.

Affidabilità e sicurezza

Per creare fiducia, è fondamentale che i sistemi IA funzionino in modo affidabile, sicuro e coerente. Devono funzionare come progettati, rispondere in modo sicuro a condizioni impreviste e resistere alla manipolazione dannosa. Il comportamento e la capacità di gestire condizioni diverse riflettono la gamma di situazioni previste dagli sviluppatori durante la progettazione e i test.

Affidabilità e sicurezza in Azure Machine Learning: il componente di analisi degli errori del dashboard di intelligenza artificiale responsabile consente di:

  • Ottenere una conoscenza approfondita del modo in cui viene distribuito l'errore per un modello.
  • Identificare le coorti (subset) di dati con una frequenza di errore superiore rispetto al benchmark generale.

Queste discrepanze possono verificarsi quando il sistema o il modello è sottoperforma per gruppi demografici specifici o per condizioni di input raramente osservate nei dati di training.

Trasparenza

Quando i sistemi di intelligenza artificiale informano le decisioni che influiscono sulla vita delle persone, è fondamentale che le persone comprendano come vengono prese queste decisioni. Ad esempio, una banca potrebbe usare un sistema di intelligenza artificiale per decidere se una persona è affidabile dal punto di vista creditizio, oppure un’azienda potrebbe usarlo per selezionare i candidati al lavoro.

Una parte fondamentale della trasparenza è l'interpretazione: fornire spiegazioni utili del comportamento del sistema di intelligenza artificiale. Migliorare l'interpretazione consente agli stakeholder di comprendere come e perché funzionano i sistemi di IA, in modo da identificare problemi di prestazioni, problemi di equità, procedure di esclusione o risultati imprevisti.

Trasparenza in Azure Machine Learning: i componenti di interpretabilità del modello e analisi controfattuale del tipo «what-if» del dashboard di IA responsabile aiutano a generare descrizioni delle previsioni del modello comprensibili per l’uomo.

Il componente di interpretabilità del modello offre diverse visualizzazioni nel comportamento di un modello:

  • Spiegazioni globali. Ad esempio, quali caratteristiche influenzano il comportamento generale di un modello di assegnazione del prestito?
  • Spiegazioni locali. Ad esempio, perché la richiesta di prestito di un cliente è stata approvata o rifiutata?
  • Spiegazioni del modello per una coorte selezionata di punti dati. Ad esempio, quali caratteristiche influenzano il comportamento generale di un modello di assegnazione del prestito per i richiedenti a basso reddito?

Il componente di analisi controfattuale consente di comprendere e diagnosticare un modello di apprendimento automatico, mostrando come reagisce alle variazioni e alle perturbazioni delle caratteristiche.

Azure Machine Learning supporta anche una scorecard di intelligenza artificiale responsabile. La scorecard è un report PDF personalizzabile che gli sviluppatori possono configurare, generare, scaricare e condividere con stakeholder tecnici e non tecnici. Aiuta a sensibilizzare gli stakeholder sullo stato del dataset e del modello, a garantire la conformità e a generare fiducia. La scorecard può anche supportare le verifiche di controllo rivelando le caratteristiche del modello di Machine Learning.

Privacy e sicurezza

Man mano che l'IA diventa più comune, la protezione della privacy e la protezione delle informazioni personali e aziendali è più importante e complessa. La privacy e la sicurezza dei dati richiedono attenzione perché i sistemi di intelligenza artificiale necessitano di dati per prendere stime e decisioni accurate. I sistemi di intelligenza artificiale devono rispettare le leggi sulla privacy che:

  • Richiedono trasparenza sulla raccolta, l'uso e l'archiviazione dei dati.
  • Impongono che i consumer abbiano controlli appropriati per scegliere la modalità di utilizzo dei dati.

Privacy e sicurezza in Azure Machine Learning: Azure Machine Learning consente agli amministratori e agli sviluppatori di creare configurazioni sicure conformi ai criteri aziendali. Con Azure Machine Learning e la piattaforma Azure è possibile:

  • Limitare l'accesso alle risorse e alle operazioni per account utente o gruppo.
  • Limitare le comunicazioni di rete in ingresso e in uscita.
  • Cifrare i dati in transito e a riposo.
  • Verificare la presenza di vulnerabilità.
  • Applicare e controllare i criteri di configurazione.

Microsoft ha anche creato due pacchetti open source per implementare principi di privacy e sicurezza:

  • SmartNoise SDK: la privacy differenziale è un set di sistemi e procedure che consentono di mantenere i dati delle persone al sicuro e privato. Nelle soluzioni di apprendimento automatico la privacy differenziale potrebbe essere necessaria per la conformità alle normative. SmartNoise è un progetto open source (co-sviluppato da Microsoft) che contiene componenti per la creazione di sistemi privati globali in modo differenziale.

  • Counterfit: Counterfit è un progetto open source che comprende uno strumento da riga di comando e un livello di automazione generico per consentire agli sviluppatori di simulare attacchi informatici contro i sistemi di intelligenza artificiale. Chiunque può scaricare lo strumento e distribuirlo tramite Azure Cloud Shell per l'esecuzione in un browser o distribuirlo in locale in un ambiente Anaconda Python. Può valutare i modelli di intelligenza artificiale ospitati in diversi ambienti cloud, locali o perimetrali. Lo strumento è indipendente dai modelli di intelligenza artificiale e supporta vari tipi di dati, tra cui testo, immagini o input generici.

Responsabilità

Le persone che progettano e distribuiscono sistemi di intelligenza artificiale devono essere responsabili del funzionamento di tali sistemi. Le organizzazioni devono usare gli standard di settore per sviluppare norme di responsabilità. Queste norme aiutano a garantire che i sistemi di IA non siano l'autorità finale sulle decisioni che influiscono sulla vita delle persone e che gli esseri umani mantengano un controllo significativo sui sistemi altamente autonomi.

Responsabilità in Azure Machine Learning: le operazioni di Machine Learning (MLOps) si basano su principi e procedure DevOps che migliorano l'efficienza del flusso di lavoro di intelligenza artificiale. Azure Machine Learning offre queste funzionalità MLOps per una migliore responsabilità:

  • Registrare i modelli, inserirli in pacchetti e distribuirli da qualsiasi posizione. È possibile anche tenere traccia dei metadati associati necessari per usare il modello.
  • Acquisisci i dati sulla governance per l'intero ciclo di vita dell'apprendimento automatico. Le informazioni sulla derivazione dei dati registrate possono includere chi pubblica i modelli, perché sono state apportate modifiche e quando i modelli sono stati distribuiti o usati nell'ambiente di produzione.
  • Inviare notifiche e avvisi riguardo agli eventi nel ciclo di vita dell'apprendimento automatico. Gli esempi includono il completamento dell'esperimento, la registrazione del modello, la distribuzione del modello e il rilevamento della deriva dei dati.
  • Monitorare le applicazioni per problemi operativi e problemi relativi all'apprendimento automatico. Confrontare gli input del modello tra training e inferenza, esplorare le metriche specifiche del modello e offrire monitoraggio e avvisi nell'infrastruttura di apprendimento automatico.

Inoltre, la scheda di valutazione dell'IA responsabile in Azure Machine Learning promuove la responsabilizzazione consentendo la comunicazione fra i diversi stakeholder. La scorecard consente agli sviluppatori di configurare, scaricare e condividere informazioni sull'integrità del modello con stakeholder tecnici e non tecnici. La condivisione di queste informazioni dettagliate consente di creare fiducia.

Azure Machine Learning supporta anche il processo decisionale informando le decisioni aziendali tramite:

  • Informazioni dettagliate basate sui dati, che aiutano gli stakeholder a comprendere gli effetti causali del trattamento sui risultati usando solo i dati cronologici. Ad esempio, "In che modo una medicina influisce sulla pressione sanguigna di un paziente?" Queste informazioni dettagliate provengono dal componente di inferenza causale del dashboard di intelligenza artificiale responsabile.
  • Approfondimenti basati sul modello, che rispondono alle domande degli utenti (ad esempio: "Cosa posso fare per ottenere un risultato diverso dalla tua IA la prossima volta?"), in modo che possano agire. Queste informazioni vengono fornite tramite il componente di simulazione controfactuale del dashboard di intelligenza artificiale responsabile.

Passaggi successivi

  • Ultimo aggiornamento: