Valutazione del modulo

1.

Quale delle seguenti è una categoria di red teaming per intelligenza artificiale?

Red teaming dello stack completo

Test di livello 7

Test del modello

2.

Si sta testando un sistema di intelligenza artificiale creando richieste progettate per ignorare le istruzioni di sicurezza del sistema. Qual è la categoria di red teaming per intelligenza artificiale?

Red teaming dello stack completo

Apprendimento automatico con avversari

Prompt injection

3.

Quale dei seguenti test deve essere eseguito come parte del red teaming di intelligenza artificiale?

Sia l'LLM di base che il livello applicazione

Solo l'LLM di base tramite endpoint API

Solo l'applicazione tramite l'interfaccia utente

4.

Perché è importante includere professionisti non di sicurezza in un team rosso di intelligenza artificiale?

I professionisti non di sicurezza sono meno costosi da assumere

Gli utenti regolari possono portare prospettive sui danni che i professionisti della sicurezza potrebbero non prendere in considerazione

I professionisti della sicurezza non sono necessari per il red teaming per intelligenza artificiale

5.

Perché il red teaming di intelligenza artificiale richiede più tentativi dello stesso test?

Per verificare che l'ambiente di test sia configurato correttamente

Poiché i sistemi di intelligenza artificiale generativi sono probabilistici, lo stesso input può produrre output diversi ogni volta

Poiché i modelli di intelligenza artificiale cambiano tra ogni esecuzione di test

Commenti e suggerimenti