Monitoraggio degli abusi nel rilevamento dell'attività del viso
Il rilevamento dell'attività viso di Azure per intelligenza artificiale consente di rilevare e attenuare le istanze di contenuto ricorrente e/o comportamenti che indicano una violazione del Codice di comportamento o di altri termini del prodotto applicabili. Questa guida illustra come usare queste funzionalità per garantire che l'applicazione sia conforme ai criteri di Azure.
Informazioni dettagliate sulla gestione dei dati sono disponibili nella pagina Dati, privacy e sicurezza .
Importante
Gli SDK del client Viso per il liveness sono una funzionalità controllata. È necessario richiedere l'accesso alla funzionalità di attività compilando il modulo di assunzione riconoscimento del viso. Quando alla sottoscrizione di Azure viene concesso l'accesso, è possibile scaricare Face Liveness SDK.
Componenti del monitoraggio degli abusi
Esistono diversi componenti per il monitoraggio degli abusi di liveness:
- Gestione delle sessioni: il sistema dell'applicazione back-end crea sessioni di rilevamento dello stato attivo per conto degli utenti finali. Il servizio Viso rilascia i token di autorizzazione per una determinata sessione e ognuno è valido per un numero limitato di chiamate API. Quando l'utente finale rileva un errore durante il rilevamento dell'attività, viene richiesto un nuovo token. Ciò consente all'applicazione back-end di valutare il rischio di tentativi aggiuntivi di attività. Un numero eccessivo di tentativi può indicare un tentativo antagonista di forza bruta di ignorare il sistema di rilevamento del liveness.
- Identificatore di correlazione temporaneo: il processo di creazione della sessione richiede di assegnare un GUID di correlazione a 128 bit temporaneo (identificatore univoco globale) per ogni utente finale del sistema dell'applicazione. In questo modo è possibile associare ogni sessione a un singolo utente. I modelli di classificatore nel back-end del servizio possono rilevare segnali di attacco di presentazione e osservare i modelli di errore nell'utilizzo di un PARTICOLARE GUID. Questo GUID deve essere reimpostabile su richiesta per supportare l'override manuale del sistema di mitigazione automatizzato degli abusi.
- Acquisizione di modelli di abuso: il servizio di rilevamento dell'attività viso per intelligenza artificiale di Azure esamina i modelli di utilizzo dei clienti e usa algoritmi ed euristiche per rilevare gli indicatori di potenziale abuso. I modelli rilevati considerano, ad esempio, la frequenza e la gravità in cui il contenuto dell'attacco di presentazione viene rilevato nell'acquisizione di immagini di un cliente.
- Revisione umana e decisione: quando gli identificatori di correlazione vengono contrassegnati tramite l'acquisizione di criteri di abuso come descritto in precedenza, non è possibile creare altre sessioni per tali identificatori. È consigliabile consentire ai dipendenti autorizzati di valutare i modelli di traffico e confermare o ignorare la determinazione in base a linee guida e criteri predefiniti. Se la revisione umana conclude che è necessaria una sostituzione, è necessario generare un nuovo GUID di correlazione temporaneo per l'individuo per generare più sessioni.
- Notifica e azione: quando una soglia di comportamenti offensivi è stata confermata in base ai passaggi precedenti, il cliente deve essere informato della determinazione tramite posta elettronica. Ad eccezione dei casi di abuso grave o ricorrente, i clienti in genere hanno la possibilità di spiegare o correggere e implementare meccanismi per evitare la ricorrenza del comportamento offensivo. L'impossibilità di risolvere il comportamento o l'abuso ricorrente o grave può comportare la sospensione o la chiusura dell'idoneità all'accesso limitato per le risorse e/o le funzionalità di Viso per intelligenza artificiale di Azure.