Introduzione

  • 2 minuti

I controlli di sicurezza dell'intelligenza artificiale sono le misure e i protocolli implementati per proteggere i sistemi di intelligenza artificiale da minacce, vulnerabilità e accesso non autorizzato. Anche se i controlli di sicurezza tradizionali (ad esempio sicurezza di rete, gestione degli accessi e crittografia) si applicano ancora, i sistemi di intelligenza artificiale richiedono controlli aggiuntivi specializzati che risondono i rischi univoci introdotti dalle interfacce del linguaggio naturale, dal comportamento del modello e dalle funzionalità degli agenti.

Questo modulo offre una panoramica dei controlli di sicurezza che è possibile implementare nei sistemi di intelligenza artificiale per rafforzare il comportamento di sicurezza degli ambienti di intelligenza artificiale. Si esplorano i controlli in diverse aree: sicurezza della supply chain per librerie di intelligenza artificiale, filtro dei contenuti, sicurezza dei dati, progettazione delle richieste di sistema, base, procedure consigliate per la sicurezza delle applicazioni e monitoraggio continuo.

Diagramma che illustra le sette aree di controllo di sicurezza di intelligenza artificiale descritte in questo modulo.

Obiettivi di apprendimento

Alla fine di questo modulo, sarai in grado di:

  • Valutare le librerie di intelligenza artificiale open source per i rischi per la sicurezza
  • Descrivere le funzionalità di filtro del contenuto e come configurarle in modo efficace
  • Illustrare i principi di sicurezza dei dati di intelligenza artificiale, tra cui l'identità dell'agente e il controllo di accesso
  • Progettare metaprompt efficaci (richieste di sistema) come controllo di sicurezza
  • Descrivere in che modo il livello di base riduce i rischi di sicurezza e contenuti generati dall'intelligenza artificiale non accurati
  • Applicare le procedure consigliate per la sicurezza delle applicazioni alle applicazioni abilitate per l'intelligenza artificiale
  • Descrivere le strategie di monitoraggio per rilevare minacce specifiche dell'intelligenza artificiale

Prerequisiti

  • Familiarità con i concetti di sicurezza di base (ad esempio, autenticazione, controllo di accesso, crittografia)
  • Familiarità con i concetti di base dell'intelligenza artificiale (ad esempio, modelli, training, inferenza)
  • Completamento del modulo Nozioni fondamentali sulla sicurezza dell'intelligenza artificiale o delle conoscenze equivalenti