Introduzione
La quantità di contenuti generati dall'utente che vengono pubblicati online è in rapida crescita. Siamo sempre più consapevoli della necessità di proteggere tutti da contenuti inappropriati o dannosi.
Microsoft Foundry Content Safety è un servizio di intelligenza artificiale progettato per aiutare gli sviluppatori a includere sicurezza avanzata dei contenuti nelle applicazioni e nei servizi.
Le sfide nella gestione di spazi online sicuri e rispettosi stanno crescendo per i team di sviluppo responsabili dell'hosting di discussioni online. Foundry Content Safety identifica contenuti potenzialmente non sicuri e aiuta le organizzazioni a rispettare le normative e a soddisfare i propri standard di qualità.
La necessità di migliorare la sicurezza dei contenuti online ha quattro fattori principali:
- Aumento del contenuto dannoso: c'è stata una crescita enorme nel contenuto online generato dall'utente, inclusi contenuti dannosi e inappropriati.
- Pressioni normative: pressioni governative per regolare i contenuti online.
- Trasparenza: gli utenti hanno bisogno di trasparenza negli standard di moderazione del contenuto e nell'applicazione.
- Contenuto complesso: i progressi nella tecnologia rendono più semplice per gli utenti pubblicare contenuti e video multilicenza.
Nota
Microsoft Foundry Content Safety sostituisce Azure Content Moderator, deprecato nel febbraio 2024 e verrà ritirato entro febbraio 2027.
In questo modulo verranno fornite informazioni sulle funzionalità principali di Microsoft Foundry Content Safety e quando ognuna potrebbe essere usata.