Résumé
La prolifération du contenu généré par les utilisateurs empêche les modérateurs humains de gérer efficacement des plateformes en ligne. Pourtant, à mesure que le contenu généré par les utilisateurs gagne en importance, il en est de même pour la sécurité en ligne.
Microsoft Foundry Content Safety utilise des modèles IA pour détecter automatiquement des langages violents, sexuels, auto-nuisibles ou haineux en temps réel. Il attribue un niveau de gravité afin que les modérateurs humains puissent se concentrer sur des cas à haute priorité et soient moins exposés à des contenus gênants. Foundry Content Safety inclut des fonctionnalités permettant de modérer les éléments générés par les personnes et générés par l’IA.
Dans ce module, vous avez vu comment les fonctionnalités de Foundry Content Safety peuvent aider les marques de commerce électronique, les entreprises de jeux et les enseignants à fournir des espaces plus sûrs aux utilisateurs.