Catégories de préjudices dans Azure AI Content Safety

Ce guide décrit toutes les catégories de préjudices et toutes les évaluations que Azure AI Content Safety utilise pour marquer le contenu. Le contenu texte et le contenu d’image utilisent le même ensemble d’indicateurs.

Catégories préjudiciables

Content Safety reconnaît quatre catégories distinctes de contenu répréhensible.

Category	Description	Terme d’API
Haine et équité	Les préjudices liés à la haine et à l’impartialité font référence à tout contenu qui attaque ou tient des propos discriminatoires à l’égard d’une personne ou à d’un groupe d’identités sur la base de certains attributs de différenciation de ces groupes. Ce sont notamment les suivantes : Race, origine ethnique et nationalité Expression et groupes d’identité de genre Orientation sexuelle Religion Apparence personnelle et corpulence Statut de handicap Harcèlement et intimidation	Hate
Sexuel	Le terme « sexuel » désigne les propos relatifs aux organes anatomiques et les parties génitales, aux relations amoureuses, aux actes sexuels, aux actes décrits en termes érotiques ou affectueux, y compris les actes présentés comme une agression ou un acte sexuel violent forcé contre la volonté d’une personne.   Il s’agit entre autres des documents suivants : Contenu vulgaire Prostitution Nudité et pornographie Abus Exploitation des enfants, abus d’enfants, pédopiégeage	Sexual
Violence	Le terme « violence » désigne les propos relatifs aux actes physiques visant à endommager quelque chose, à blesser quelqu’un ou à le tuer ; utilisé pour décrire des armes (à feu) et des objets associés. Cela comprend, entre autres : Armes Du harcèlement et de l’intimidation Terrorisme et extrémisme violent Le harcèlement	Violence
Automutilation	L’automutilation décrit le langage lié aux actions physiques destinées à blesser ou nuire le corps d’une personne ou à se tuer. Cela comprend, entre autres : Trouble alimentaire Du harcèlement et de l’intimidation	SelfHarm

La classification peut avoir plusieurs intitulés. Par exemple, lorsqu’un exemple de texte est exécuté via le modèle de modération de texte, il peut être classé à la fois comme du contenu à caractère sexuel et de la violence.

Niveaux de gravité

Chaque catégorie de préjudice appliquée par le service est également accompagnée d’une évaluation de niveau de gravité. Le niveau de gravité est destiné à indiquer la gravité des conséquences de l’affichage du contenu marqué d’un indicateur.

Texte: la version actuelle du modèle de texte prend en charge l’échelle de gravité complète de 0 à 7. Le classifieur détecte parmi toutes les gravités le long de cette échelle. Sur demande de l’utilisateur, il peut renvoyer des gravités sur une échelle réduite de 0, 2, 4 et 6; chacun des deux niveaux adjacents est mappé à un seul niveau.

• [0,1] ->0
• [2,3] ->2
• [4,5] ->4
• [6,7] ->6

Image: la version actuelle du modèle d’image prend en charge la version réduite de l’échelle de gravité complète de 0 à 7. Le classifieur retourne uniquement les gravités 0, 2, 4 et 6.

• 0
• 2
• 4
• 6

Image avec texte : la version actuelle du modèle multimodal prend en charge l’échelle de gravité complète de 0 à 7. Le classifieur détecte parmi toutes les gravités le long de cette échelle. Sur demande de l’utilisateur, il peut renvoyer des gravités sur une échelle réduite de 0, 2, 4 et 6; chacun des deux niveaux adjacents est mappé à un seul niveau.

• [0,1] ->0
• [2,3] ->2
• [4,5] ->4
• [6,7] ->6

Contenu textuel

Avertissement

Avertissement

L’onglet Définitions de gravité de ce document contient des exemples de contenu dangereux qui peut déranger certains lecteurs.

Définitions de gravité

Niveaux de gravité de haine et d’équité

Niveau de gravité	Description	Exemple de texte
Niveau 0	Du contenu qui contient des termes liés à la haine et à l’équité utilisés dans le sens général et qui convient à tous les publics cibles, y compris les enfants. notamment : Du langage général péjoratif exprimant l’aversion contre des groupes d’identités Des mentions générales des attributs de groupe d’identités, tels que la race, l’ethnicité, la religion, etc. dans un contexte historique, géographique, médical et d’autres contextes similaires sans sentiment Des termes généraux qui n’ont aucune connotation raciale d’une intention injurieuse en-dehors du contexte	I hate cats.
Niveau 1	Du contenu qui contient des termes liés à la haine et à l’équité utilisés dans le sens général, mais qui peut acquérir une signification différente en fonction du contexte et qui ne fait pas la distinction entre les groupes d’identités et d’autres de manière biaisée ou négative. notamment : Des statistiques officielles, de la législation ou de la documentation Les actualités/médias Des ressources éducatives destinées à sensibiliser sur la diversité et la lutte contre la haine Des produits et publicités de traitement pour un blanchissement de peau Des mentions de swastika indo-eurasienne, du drapeau confédéré, de groupes autres que le KKK qui ont une ressemblance visuelle au KKK	Black people should not be killed by police or mistreated just because of their skin color.
Niveau 2	Du contenu qui contient une caractérisation positive ou une protection des groupes d’identités qui déclenchent une réponse émotionnelle favorable. notamment : Des injures raciales orthographiées entièrement dans des documents de recherche, des dictionnaires ou des médias avec des citations directes Des déclarations par un orateur qui appartient à un groupe d’identités sans intention de cibler le même groupe d’identités Des injures, des jurons, et des insultes verbales ne ciblant pas un groupe d’identités Un discours de haine général qui cible des individus/groupes non identifiés sans cibler un groupe d’identités Un utilisateur cherchant à créer une liste noire de termes injurieux Des représentations de l’Allemagne nazie, Hitler, du drapeau confédéré et du symbolisme Ku Klux Klan dans les films, les jeux vidéo, les costumes, les jouets, les reconstitutions ou l’argot en ligne	I hate you.
Niveau 3	Du contenu qui contient des préjugés, des jugements, une caractérisation stéréotypée ou un sentiment négatif. notamment : Une opinion basée sur des stéréotypes ou des sentiments négatifs L’expression de préjugés, de jugements ou d’opinions dogmatiques Des comparaisons négatives ou positives insistant sur la différence entre divers groupes. Des mentions dans des mondes fictifs La discrimination à l’embauche dans des offres d’emploi Des faits historiques et des artefacts liés à l’Allemagne nazie, au drapeau confédéré pendant la guerre civile américaine, ou au Ku Klux Klan	I don't like [identity group] because they are all so aggressive. They attacked us over and over again for no reason at all.
Niveau 4	Du contenu qui contient des insultes directes motivées par des sentiments, des commentaires négatifs et des insultes raciales utilisées comme descriptions ciblant des groupes d’identités avec l’intention de blesser des individus selon leurs attributs. notamment : Des références utilisées pour cibler la race, la couleur de peau Des promotions de l’évitement social et de l’isolement La simulation et l’imitation d’attributs de groupes d’identités	All [identity group] are ugly.
Niveau 5	Du contenu qui contient la déshumanisation ou la dérogation des individus ou des groupes qui renforcent le sentiment négatif par le biais de la déshumanisation, de la violence, du déni d’événements, de l’intimidation ou des comportements d’intimidation. notamment : Des textes qui refusent des événements historiques, bien documentés et violents tels que l’Holocauste Des textes qui décrivent des individus ou des groupes comme physiquement ou mentalement inférieurs en fonction de leur appartenance à un groupe d’identités Des textes qui interrogent, refusent ou dénigrent l’existence d’un groupe d’identités L’application d’attributs souhaités ou attendus Les théories eugéniques et « d’amélioration raciale » qui ciblent les groupes d’identités Les marchandises modernes qui contiennent des symboles nazi, du drapeau confédéré ou du KKK	The [real world event] is a fraud. What we've discovered is that sources have been lying about the number of victims. Here is proof.
Niveau 6	Du contenu basé sur des sentiments négatifs et des discours haineux envers les groupes d’identités. En faisant référence à des caractéristiques de groupe qui différencient le groupe d’identités et d’autres personnes et qui appellent à prendre des mesures envers les groupes d’identités en fonction de leurs attributs. Cela peut inclure : De la propagande haineuse qui peut être perçue comme une menace directe pour ou un appel à la violence envers un groupe d’identités Des discours incendiaires, injurieux et vulgaires de haine Des textes qui prétendent la supériorité d’un groupe par rapport aux attributs des groupes d’identités pour justifier la discrimination, la ségrégation ou l’exclusion Des textes décrivant la joie concernant un événement violent qui ciblait un groupe d’identités	Send [identity group] back to the gas chambers.
Niveau 7	Du contenu basé sur des sentiments négatifs, affichant l’intention de crime haineux et de harcèlement, déclenchant une réponse émotionnelle hostile et différenciant les groupes d’identités, entraînant des crimes. notamment : La préparation, l’éloge et la glorification de crimes de haines et de violence contre un groupe d’identités Des textes représentant du contenu de recrutement de groupes suprémacistes Des textes destinés à radicaliser et encourager le discours haineux contre un groupe d’identités	Millions of [identity group] were wiped out because they were the inferior race. Murdering them continues to be right and honorable because…

Niveaux de gravité sexuelle

Niveau de gravité	Description	Exemple de texte
Niveau 0	Du contenu qui contient des termes sexuels utilisés dans le sens général et qui convient à tous les publics cibles, y compris les enfants. Des mentions des relations familiales Du contenu inoffensif pour tous les publics cibles, y compris les enfants	The sports bra and yoga pants were too tight for comfort.
Niveau 1	Du contenu qui contient des termes liés au sexe utilisés en général, mais qui peuvent acquérir une signification différente en fonction du contexte. notamment : Des statistiques officielles et la documentation sur les sujets liés au sexe Les actualités/médias Des termes anatomiques, l’anatomie sexuelle et le traitement médical Des ressources éducatives sur le sexe, le bien-être sexuel, la sensibilisation, etc. Des mentions de sexe biologique ou de descriptions de la reproduction sexuelle Des textes décrivant les relations romantiques en termes non graphiques	Fewer young adults are having sex than in previous generations.
Niveau 2	Du contenu qui contient des termes liés au sexe dans des expériences fictives ou réelles qui ne sont pas extrêmement graphiques. notamment : Des mentions de textes littéraires/artistiques, de films, de sculptures, etc. qui contiennent des « mots cochons » limités ou de brèves scènes de nudité non explicite Des expériences personnelles liées au sexe en général, aux problèmes sexuels et aux traumatismes, le partage de mécanismes d’adaptation et de ressources pour résoudre ces problèmes Un utilisateur cherchant à créer une liste noire de termes sexuels Des mentions « lightcore » des actes sexuels et de la nudité	My husband and I introduced a vibrator to our sex life and it has really made a difference.
Niveau 3	Du contenu avec des termes sexuels dans les cas qui contiennent du contenu graphique, des opinions exprimant des préjugés, des jugements ou des opinions dogmatiques sur les questions liées au sexe. notamment : Des expériences sexuelles personnelles passées ou présentes avec du contenu graphique	We made out for a while, and he started to feel me up. I felt a bulge in his pants.
Niveau 4	Du contenu décrivant les fantasmes sexuels, l’industrie du sexe professionnel et les publicités, et la reproduction d’animaux sexualisée. notamment : Des fantasmes de sexe de différents types, y compris l’imagination de nudité réelle ou fictive L’industrie du sexe professionnel sans descriptions des scènes de sexe Des publicités des préservatifs, des lubrifiants, des jouets sexuels, des vêtements, etc. Des descriptions de la reproduction sexuelle entre des animaux ou des personnages sous les traits d’animaux avec du contenu graphique Des mentions « softcore » des actes sexuels et de la nudité	I got into BDSM because I had some friends into the lifestyle and it piqued my interest. I like using silk, scarves, collars, and bondage…
Niveau 5	Du contenu décrivant des spectacles ou des expériences érotiques en tant qu’expérience personnelle, du BDSM avec consentement clair, et histoires et sites web érotiques. notamment : Des mentions de massage sexuel, érotique ou tantrique, des strip clubs, des spectacles érotiques en tant qu’expérience personnelle (pas en tant que service professionnel) Des expériences personnelles et des descriptions liées aux attributs et pratiques BDSM en général ou dans des situations avec du contenu clair de pratique BDSM Des mentions de contenu érotique non commercial lié au désir sexuel ou au plaisir	We both climaxed at the same time.
Niveau 6	Du contenu décrivant la sollicitation de services commerciaux sexuels, contenant des descriptions détaillées d’activités sexuelles, de violences sexuelles et de viols, ainsi que d’échanges de pouvoir non consensuels, d’abus et de voyeurisme. notamment : Des mentions de stimulation des organes génitaux avec les mains ou d’autres objets, de la masturbation, etc. Des fétichismes ou du contenu grossier impliquant des fluides corporels, des situations de contrôle sexuel ou des activités BDSM sans consentement clair Des textes décrivant la violence sexuelle, l’agression sexuelle, le viol ou l’abus de façon graphique Des textes qui attribuent des qualités positives à l’agression sexuelle Des textes qui cherchent ou fournissent des instructions pour effectuer des agressions sexuelles Des actes de chantage et de menaces pour révéler des images ou des vidéos sexuelles non consenties précédemment enregistrées	I love forced sex, it's so much hotter.
Niveau 7	Du contenu utilisé pour promouvoir, approuver ou glorifier des formes extrêmes d’esclavage sexuel. Du contenu extrême ou illégal. notamment : Du sexe avec des animaux, des cadavres, etc. La pédophilie La recherche ou fourniture d’instructions sur le pédopiégeage Des références explicites ou potentielles à l’inceste Du recrutement pour du trafic sexuel humain	I was abused as a child by my uncle and I liked it. Nowadays, I make money by producing child pornography with my neighbor’s 6 year old son.

Niveaux de gravité de violence

Niveau de gravité	Description	Exemple de texte
Niveau 0	Du contenu qui contient des termes d’actions non-violentes, ou des termes liés à la violence utilisés dans le sens général et qui convient à tous les publics cibles, y compris les enfants. notamment : Des objets communs lorsqu’ils ne sont pas utilisés comme armes Des armes à feu jouets ou des armes à feu factices Des mentions de cordes lorsqu’elles ne sont pas utilisées comme nœud coulant	According to our child and parent testers, here are the best long-range soakers for soft blasters for toddlers suitable for epic water battles.
Niveau 1	Du contenu qui contient des termes ou des actions liés à la violence utilisés dans le sens général, mais qui peuvent acquérir une signification différente en fonction du contexte. notamment : Des sous-ensembles de textes qui contiennent des descriptions d’actes violents, si la contextualisation du texte intégral ne possède pas d’intention violente Des statistiques officielles et de la documentation sur les armes à feu, les armes, la violence domestique, la guerre, les militaires, etc. Des ressources éducatives liées à la violence Les actualités/médias Du contenu et des termes médicaux Des spécifications techniques d’armes à feu de chasse ou de tir Les pratiques de combat La lutte contre le terrorisme et les symboles terroristes non liés à ISIS/al-Qaïda	Carnivores such as lions and tigers are prone to killing one another. Death occurs at the paws, claws, jaws, or tusks that might fatally gore one another during fights.
Niveau 2	Du contenu qui contient des termes ou actes liés à la violence dans des expériences fictives ou réelles qui ne sont pas extrêmement graphiques et sans glorification ou approbation d’intentions malveillantes. notamment : De la narration à la première, deuxième et troisième personne dans les jeux vidéo, des textes littéraires/artistiques qui décrivent des scènes violentes ou graphiques Des astuces et recommandations de jeu Des expériences personnelles dans lesquelles une personne décrit comment elle a été exposée à un certain type de violence Des mentions de cordes lorsqu’elles sont utilisées comme un nœud coulant sans sujets humains présents, ou si ces derniers ne sont pas liés au nœud coulant Un utilisateur dont l’intention est de créer une liste noire de contenu violent	Physical punishment is a way to correct bad behavior and doesn’t cause harm to children.
Niveau 3	Du contenu avec des actions ou termes violents dans les cas qui contiennent du contenu graphique, des opinions exprimant des préjugés, des jugements ou des opinions dogmatiques sur les questions liées à la violence. notamment : L’autorisation de cruauté envers certains animaux Des textes prétendant avoir un impact positif sur certains types de violence	Some people just need to be slapped.
Niveau 4	Du contenu décrivant une justification non fondée pour la raison pour laquelle les victimes sont victimes d’abus physique, l’attribution infondée de qualités positives des agresseurs, des menaces d’actes violents et des fantasmes liés à la façon de nuire à une autre personne, et le niveau de gore moyen. notamment : Des textes qui blâment une victime ou qui décrivent les auteurs d’une façon positive Des descriptions graphiques de la violence et de la mort avec un niveau de gore moyen Un rapport d’autopsie, une enquête légale, un crime ou une scène de mort Des installations liées à la viande et la volaille, et le sacrifice religieux d’animaux Des références aux génocides historiques ou récents et aux événements de tir connus avec de nombreuses victimes, sans approbation ni glorification Des références aux événements terroristes et extrémistes violents, sans approbation ni glorification	Victims of abuse deserve to be hit. They push and push until they get what they deserve.
Niveau 5	Du contenu visant à poursuivre la violence, fournissant des instructions directes sur la façon de nuire à des individus ou groupes spécifiques. notamment : Des textes qui encouragent la violence physique contre des individus/groupes ciblés Des instructions sur la façon de causer des violences physiques à des individus ou à des animaux Des textes demandant des conseils sur la façon d’effectuer des actes violents sur des animaux, des individus ou des groupes Du harcèlement et de l’intimidation	Go to another state or another city and kill any stranger; for example, shoot them with a silencer gun. Since you have not any connection with him, you will not get caught.
Niveau 6	Du contenu décrivant des groupes extrémistes et des organisations terroristes, des meurtres de masse et des dommages physiques explicites avec un niveau de gore élevé, et la promotion du terrorisme et de sa propagande. notamment : Du matériel de propagande terroriste ou extrémiste officiel et des idéologies violentes sur Internet Une incitation à effectuer une action violente	We must kill them all. God wills it, and society will be better for it.
Niveau 7	Du contenu utilisé pour décrire, féliciter, soutenir, promouvoir, approuver, glorifier des formes extrêmes de violence. Du contenu qui soutient les organisations terroristes et radicalise, donne des instructions ou de l’entraînement. notamment : Le travail forcé, y compris des enfants, la servitude domestique ou le traitement médical forcé Du matériel de propagande extrémiste terroriste et violent en ligne qui glorifie les meurtres dans le cadre d’activités terroristes, et les offres d’aide à des organisations ou des causes terroristes Des textes qui cherchent des instructions sur l’affiliation à des groupes extrémistes terroristes et violents, parlant de la façon de recruter, d’influencer et de former des personnes à cette cause Des comportements de harcèlement illégal tels que le harcèlement ou la surveillance indésirable Des textes qui planifient et coordonnent les attaques sur des individus ou des groupes de personnes Des textes qui approuvent, glorifient ou fournissent des instructions sur le cannibalisme	Let's call and threaten to explode the hospital during the weekend. I've got the explosives ready, and will have them installed tonight.

Niveaux de gravités d’automutilation

Niveau de gravité	Description	Exemple de texte
Niveau 0 – Sûr	Du contenu qui contient des termes d’automutilation utilisés dans le sens général et qui convient à tous les publics cibles, y compris les enfants. notamment : Des mentions de la graisse corporelle, indicateurs d’indice de masse grasse par âge et sexe dans les contextes liés à la santé	I appreciate your hard work, but you don't need to keep killing yourself over this project.
Niveau 1	Du contenu qui contient des termes liés à l’automutilation utilisés en général, mais qui peut acquérir une signification différente en fonction du contexte. notamment : Des statistiques officielles et de la documentation sur les blessures auto-suicidaires (NSSI), le suicide, etc. Des ressources éducatives liées à l’automutilation Les actualités/médias Du contenu et des termes médicaux Des actions qui décrivent une automutilation accidentelle, les conseils de premier secours, etc.	Binging and purging may be a warning sign for people with a history of extreme weight loss.
Niveau 2	Du contenu qui contient des termes liés à l’automutilation dans des expériences fictives ou réelles qui ne sont pas extrêmement graphiques. notamment : Des textes littéraires/artistiques, films, etc. illustrant des personnages qui prévoient ou commettent un suicide, effectuent de l’automutilation ou une alimentation désordonnée, sans glorification ni approbation Des textes où les actes d’automutilation ou le suicide sont représentés avec un niveau de gore faible Un utilisateur dont l’intention est de créer une liste noire de termes d’automutilation	Oedipus stabbed his eyes in despair.
Niveau 3	Du contenu avec des actions ou termes d’automutilation dans les cas qui contiennent du contenu graphique, des opinions exprimant des préjugés, des jugements ou des opinions dogmatiques sur les questions liées à l’automutilation. notamment : Des expériences personnelles liées à l’automutilation, comme une demande d’aide avant de se blesser ou de commettre un suicide	I'm really struggling with self-loathing and thoughts of self-harm to relieve my distress after my friend took his own life last month. Please can someone give me any useful advice?
Niveau 4	Du contenu qui se moque des victimes ou des survivants d’un suicide ou d’automutilation, l’attribution infondée de qualités positives à l’automutilation, les fantasmes ou les souhaits d’automutilation, et qui contient un contenu graphique explicite impliquant la mort, une autopsie, un crime ou une scène de mort. notamment : L’automutilation présentée comme une solution à un problème, une détresse émotionnelle, ou un échappatoire à la douleur/l’agonie Des textes dans lequel l’automutilation est présentée avec un niveau de gore moyen, ainsi que des descriptions d’objets comme des couteaux, des pistolets, etc.	It's hilarious when [identity group] kill themselves.
Niveau 5	Du contenu visant à promouvoir davantage l’automutilation, en fournissant des instructions directes sur la façon d’effectuer de l’automutilation ou d’intimider une victime. notamment : Des textes qui cherchent des conseils ou des recommandations sur la façon d’effectuer des actes d’automutilation, sauf pour le suicide Des textes qui décrivent des expériences personnelles passées et présentes d’automutilation qui contiennent des détails explicites Du harcèlement, de l’intimidation et de la mise en pression qui incite et promeut les actes d’automutilation	Go kill yourself, you are worthless.
Niveau 6	Du contenu décrivant des instructions détaillées et explicites sur la façon de commettre un suicide. notamment : Des textes qui indiquent comment écrire un message d’adieu à votre famille	Here is a quick guide to do-it-yourself suicide. One method is asphyxia suicide by inhaling helium inside a plastic bag.
Niveau 7	Du contenu utilisé pour approuver et glorifier le suicide ou d’autres actes graves d’automutilation. notamment : L’auto-décapitation L’immolation	Get a shotgun and blow your brains out. It won't even hurt. And you'll be remembered for ages, like Kurt Cobain or Ernest Hemingway. There's nothing bad about suicide. Actually it's noble.

Contenu du fichier image

Avertissement

Avertissement

L’onglet Définitions de gravité de ce document contient des exemples de contenu dangereux qui peut déranger certains lecteurs.

Définitions de gravité

Niveaux de gravité de haine et d’équité

Niveau de gravité	Description	Exemple d’image
Safe	Le contenu est sûr, mais peut contenir des images liées à la haine et à l’équité sans sentiment ou un sentiment neutre de manière non discriminatoire dans les contextes suivants ou ceux similaires à : Le journalisme Historique Médecine Informations juridiques Éducatif Géographique	Les drapeaux non confédérés, par exemple des drapeaux de pays ou d’États qui contiennent des croix Une image du drapeau Union Jack de la Grande-Bretagne Une représentation de l’émancipation des personnes esclaves aux États-Unis dans des photos historiques
Bas	Du contenu qui contient des sentiments positifs, des faux sentiments positifs ou des sentiments négatifs et biaisés différenciant les groupes d’identités. Ce contenu est destiné à déclencher une réponse émotionnelle. notamment : Protection Du symbolisme nazi, un drapeau confédéré, du symbolisme Ku Klux Klan Les stéréotypes Discrimination à l’embauche	Les représentations du mouvement « No Hate Speech » Les représentations des candidats d’emploi dépriorisés tels que les candidats handicapés dans les milieux d’entretien
Moyenne	Du contenu qui contient un sentiment négatif sur les groupes d’identités et d’autres personnes qui mènent à la promotion d’une action contre des groupes d’identité et des sentiments de supériorité. notamment : Des insultes, de l’isolation, des moqueries Des drapeaux nazis, des drapeaux confédérés, et des variations et de la marchandise LGBTQIA+	Des images promouvant l’évitement social de [groupes d’identité] Des images représentant la théorie de l’amélioration raciale et l’eugénique
Forte	Du contenu qui contient des sentiments négatifs et des discours haineux envers les groupes d’identité menant à la génération de discours haineux ou à des crimes haineux. notamment : Le racisme Des attaques sur les LGBTQIA+ La discrimination fondée sur le handicap La discrimination fondée sur le sexe La glorification du symbolisme nazi, d’un drapeau confédéré, ou du symbolisme Ku Klux Klan Un drapeau confédéré violent	De l’imagerie antisémite De l’imagerie représentant la « Croix sud » qui présente une saltire bleue (croix diagonale) avec l’affiliation d’une violence évidente (par exemple, l’affichage ou l’utilisation d’armes à feu)

Niveaux de gravité sexuelle

Niveau de gravité	Description	Exemple d’image
Safe	Le contenu est sûr, mais contient des images liées au sexe utilisées dans un sens général. notamment : Les relations familiales et romantiques La nudité non-sexuelle Clothing Les objets courants Une pose ou activité non sexuelle L’accouplement animal Le bien-être sexuel	Des représentations de câlins ou de contact physique non-sexuel Des représentations de marques physiques d’affections comme des baisers sans la langue et sans nudité
Bas	Du contenu qui contient des comportements ou des actes sexuellement suggestifs. notamment : Les expériences personnelles Le mannequinat La nudité dans l’art L’art du corps Un spectacle osé	Des représentations de personnes
Moyenne	Du contenu qui contient des contenus érotiques et/ou pornographiques commerciaux et/ou amateurs sans pénétration photographique visuelle et des participants nus ou semi-nus impliqués dans des scènes sexuelles destinées à l’excitation sexuelle. notamment : Du mannequinat sexuel De la nudité soft dans l’art Des emplois sexuels ou sex shops Une activité sexuelle masquée Les coulisses des productions pornographiques Du pole dancing	Des représentations de rapports qui peuvent être partiellement obstrués mais toujours clairement présents dans l’image
Forte	Du contenu qui contient des représentations détaillées explicites des organes sexuels et des actes sexuels, y compris des actes illégaux. notamment : De la pornographie amateur softcore et hardcore De la sollicitation sexuelle Du voyeurisme Du sexe dans l’art Du BDSM sans consentement ou du viol De l’exploitation sexuelle et des abus sexuels d’enfants Du pédopiégeage De l’inceste	Des représentations d’activités sexuelles avec des animaux ou des cadavres

Niveaux de gravité de violence

Niveau de gravité	Description	Exemple d’image
Safe	Le contenu est sûr, mais contient des images liés à la violence utilisées dans un sens général. notamment : Une pose de sommeil ou de repos Les objets courants Une activité non violente Des cordes non utilisées comme nœud coulant Des outils à lame utilisés dans la cuisine/couture Des blessures, des cicatrices et les traitements chirurgicaux Les sports de chasse et de tir Les armes jouets et factices Les pratiques de combat Les dommages aux objets et le vandalisme Le symbolisme terroriste non marqué	Des représentations d’armes et d’outils à lames non réalistes
Bas	Du contenu qui contient des images et des actes liés à la violence dans le monde réel ou des contextes fictifs avec un niveau de gore faible. notamment : L’affichage et l’utilisation d’armes à feu, d’armes et d’outils à lame Un cadavre non réaliste De la violence non réaliste Des armes animées Des blessures faibles et des expériences personnelles Des cordes utilisées en tant que nœud coulant La mort dans des contextes historiques, éducatifs ou funéraires Le symbolisme terroriste non réaliste Des combats de taureaux	Des représentations de drapeaux d’ISIS/al-Qaïda
Moyenne	Du contenu qui contient une violence graphique modérée et des actes violents visant une cible identifiée. notamment : Une autopsie Une scène de crime ou de mort Une mort animale (naturelle ou de chasse), du sacrifice animal, de la cruauté envers les d’animaux L’esclavage Le génocide et les meurtres de masse dans des contextes historiques et éducatifs Un abattoir La violence familiale et les violences physiques L’intimidation Les armes et armes à feu utilisées contre une cible	Des représentations de l’usage de la force et de la contrainte pour dominer ou intimider agressivement un individu
Forte	Du contenu qui contient des représentations détaillées explicites de la violence et des actes violents avec un niveau de gore élevé. notamment : Des blessures graphiques et des décès Un démembrement, une décapitation, une immolation Un cadavre en décomposition Le terrorisme, les groupes et drapeaux terroristes La servitude et le travail forcés, les procédures médicales forcées Le harcèlement Un cadavre dans le contexte de terrorisme et de crime de guerre Les tueries par arme à feu Toute autre forme d’extrémisme	Les représentations de la mort lorsqu’elles sont effectuées par des groupes terroristes identifiables par des drapeaux et des symboles d’ISIS

Niveaux de gravités d’automutilation

Niveau de gravité	Description	Exemple d’image
Safe	Le contenu est sûr, mais contient des images liées à l’automutilation utilisées dans un sens général. notamment : Un faible taux de graisse corporelle Les actes non liés à l’automutilation Une blessure accidentelle du corps	Des représentations de saut avec un parachute hors d’un avion
Bas	Du contenu qui contient des images et des actes liés à l’automutilation dans le monde réel ou des contextes fictifs avec un niveau de gore faible. notamment : Des cicatrices Une blessure d’automutilation en cours de guérison Une automutilation non réaliste Des individus ou animaux émaciés	Des représentations des actes, des outils, des blessures et de l’état émotionnel liés à l’automutilation
Moyenne	Du contenu qui contient des images graphiques modérées liées à l’automutilation et au suicide. notamment : Une autopsie Une scène de crime ou de mort L’intimidation	Des représentations de l’usage de la force et de la contrainte pour dominer ou intimider agressivement un individu et le forcer à s’automutiler
Forte	Du contenu qui contient des représentations détaillées explicites de l’automutilation avec un niveau de gore élevé. notamment : Un acte d’automutilation imminente Les actes d’automutilation Le suicide	Des représentations du suicide intentionnel, où une personne s’est suicidée en sautant d’un grand bâtiment

Contenu multimodal (image avec texte)

Avertissement

Avertissement

L’onglet Définitions de gravité de ce document contient des exemples de contenu dangereux qui peut déranger certains lecteurs.

Définitions de gravité

Niveaux de gravité de haine et d’équité

Niveau de gravité	Description	Exemple d’image
Safe	Le contenu est sûr, mais peut contenir du texte et des visuels liés à la haine et à l’impartialité utilisés dans des contextes génériques et sûrs tels que : Education Média Statistiques officielles Historique Médecine Science Autres contextes similaires	Scénario : image avec superposition de texte Image : photo bénigne d’une personne Texte : « Baskets obligatoires pour le rassemblement »
Faible	Du contenu présentant une caractérisation positive ou une protection de groupes d’identité, qui affiche une discrimination, des stéréotypes et des préjugés, des jugements ou des opinions ou attitudes liés à un discours haineux ou ciblant des groupes d’identité. notamment : Des insultes dans des articles de recherche, des dictionnaires ou des médias avec une citation directe Discours général de haine ciblant des objets, des individus ou des groupes Discours de haine limité ou représentations de sentiments négatifs dans des contextes fictifs (par exemple, jeux, films, littérature)	Scénario : image avec superposition de texte Image : photo bénigne d’une personne Texte : « Tout le monde pense que j’ai de bonnes notes en math parce que je suis asiatique. Et c’est le cas. » Justification : implique un stéréotype racial.
Moyenne	Contenu contenant des insultes, des brimades, de l’intimidation, de la déshumanisation ou du dénigrement d’individus ou de groupes. notamment : Des insultes dans des articles de recherche, des dictionnaires ou des médias avec une citation directe Discours général de haine ciblant des objets, des individus ou des groupes Discours de haine limité ou représentations de sentiments négatifs dans des contextes fictifs (par exemple, jeux, films, littérature)	Scénario : image avec superposition de texte Image : photo bénigne d’une personne atteinte de Parkinsons Text : « Ce mec m’a ajouté et supprimé 45 fois de ses amis en 15 secondes. Vous le connaissez ? » Justification : implique des moqueries lié au handicap
Élevé	Du contenu qui contient un discours de haine comme de la propagande menaçant ou appelant à la violence contre des groupes d’identité, qui radicalise, recrute ou incite des personnes à rejoindre des efforts extrémistes ou à répandre un discours de haine. notamment : Du contenu provocateur, offensant et vulgaire visant des individus ou des groupes d’identité spécifiques Des revendications de supériorité pour justifier la discrimination, la ségrégation ou l’exclusion Toute forme de glorification du symbolisme nazi et SS, du KKK et du drapeau confédéré en dehors de tout contexte historique, éducatif ou artistique Démonstration de préparation d’un crime de haine, éloge et glorification de la violence contre des groupes d’identité, ou éloge, glorification ou approbation de génocides	Scénario : image et texte intercalés « N’oubliez jamais que tout ce qu’a fait [image d’Adolf Hitler] en Allemagne été légal. »

Niveaux de gravité sexuelle

Niveau de gravité	Description	Exemple d’image
Safe	Le contenu est sûr mais peut contenir des termes ou des visuels à connotation sexuelle utilisés dans des contextes génériques et sûrs, tels que : Formation Multimédia Statistiques officielles Historique Médecine Science Mentions de relations familiales ou amoureuses	Scénario : image avec superposition de texte Image : une moufette Texte : « L’apparence ne fait pas tout, soyez prudent avant de dire « oui » et regardez dans le rétro. »
Faible	Contenu exprimant des préjugés, des jugements ou des opinions sur des sujets liés à la sexualité ou mentionnant des termes liés à la sexualité dans des expériences fictives ou réelles qui ne sont pas extrêmement graphiques. notamment : Des mentions d’anatomie sexuelle ou de scènes de sexe dans des contextes fictionnels et artistiques Des prescriptions médicales et des diagnostics Des expériences personnelles, des problèmes sexuels et des traumatismes avec un contenu graphique, y compris des mécanismes et des ressources pour y faire face	Scénario : image et texte intercalés « J’espère qu’ils débattent sur les questions sociales que je veux [image d’une personne faisant mine d’écouter avec sa main, représentant « écouter »] concernant la façon dont un représentant veut réglementer les organes sexuels féminins.
Moyenne	Du contenu qui décrit l’excitation et l’activité sexuelles avec des termes ou des visuels explicites et graphiques, y compris des fantasmes sur le sexe et les abus sexuels. notamment : Description de stimulation sexuelle et de masturbation La pornographie limitée au commerce et la prostitution, l’escorte, etc. en tant que carrières sans scènes de sexe Des publicités pour des produits pour adultes tels que des jouets sexuels Des expériences personnelles et des descriptions liées à des massages sexuels, érotiques ou tantriques, à des clubs de strip-tease, à des spectacles érotiques, à des attributs et pratiques BDSM	Scénario : image et texte intercalés « Il y a tellement de [image contenant l’expression « sexe et violence »] dans ce livre qu’ils devraient mettre un avertissement dans la couverture. »
Élevé	Du contenu décrivant la sollicitation de services commerciaux sexuels, contenant des descriptions détaillées d’activités sexuelles, de violences sexuelles et de viols, ainsi que d’échanges de pouvoir non consensuels, d’abus et de voyeurisme. Cela inclut également le contenu utilisé pour promouvoir, approuver ou glorifier des actes sexuels extrêmes ou illégaux. notamment : Toute représentation de matériel pédopornographique, y compris toute référence explicite ou potentielle à des relations sexuelles avec des mineurs Exploitation sexuelle, maltraitance et autres formes d’exploitation des enfants Des références explicites ou potentielles à l’inceste, à la zoophilie, à la nécrophilie, etc. Du recrutement pour la traite des êtres humains à des fins sexuelles, y compris la manipulation des victimes	Scénario : image et texte intercalés « Est-ce que trop de [image pornographique] peut tuer ? Je ne pense pas, sinon, vous ne seriez déjà plus parmi nous. »

Niveaux de gravité de violence

Niveau de gravité	Description	Exemple d’image
Safe	Le contenu est sûr, mais peut contenir des termes ou des visuels liés à la violence utilisés dans des contextes génériques et sûrs, tels que : Formation Multimédia Statistiques officielles Historique Médecine Science Des objets communs lorsqu’ils ne sont pas utilisés comme armes Des spécifications techniques d’armes à feu de chasse ou de tir	Scénario : image et texte intercalés « [Image d’une tondeuse] peut facilement lancer une [image d’une pierre] à une plus de 20 mètres. »
Faible	Contenu dans des contextes fictifs (par exemple des jeux, de la littérature, de l’art) qui dépeint des scènes violentes ou graphiques sans glorification, approbation ou intention malveillante. notamment : Des expériences personnelles de violence (sans intention violente) Des opinions biaisées, des préjugés, des jugements ou des avis sur la violence Des mentions d’actes violents et de la mort à une faible intensité	Scénario : image avec superposition de texte Image : photo bénigne d’un « nerd » Texte : « Fais un suicide drills au basket. Meurt. » Justification : implique un épuisement dû au manque de capacités physiques de la personne.
Moyenne	Du contenu qui contient des représentations graphiques de la violence et de la mort à une intensité moyenne, ainsi que des fantasmes d’actes violents ou de menaces. notamment : Du contenu qui blâme une victime ou qui décrit les auteurs d’une façon positive Des références historiques au génocide et à l’Holocauste, sans approbation ni glorification Des références à des fusillades de masse connues, sans approbation ni glorification Des références à des groupes et événements terroristes et extrémistes violents, sans approbation ni glorification Du harcèlement et de l’intimidation	Scénario : image et texte intercalés « Il faut [image graphique avec « mourir » écrit], Madame. »
Élevé	Du contenu contenant de la propagande terroriste ou extrémiste violente et une idéologie violente sur Internet qui décrit, loue, soutient, approuve ou glorifie les meurtres dans le cadre d’une activité terroriste, aide les organisations ou les causes terroristes. notamment : Du contenu demandant des instructions sur l’affiliation à des groupes terroristes et extrémistes violents Du contenu fournissant des instructions sur la manière de recruter des adeptes, d’influencer les gens en faveur d’une cause terroriste ou d’une idéologie extrémiste, d’adopter des opinions radicales ou de fournir une formation sur la manière dont les groupes terroristes et extrémistes violents fonctionnent, ou de fournir des informations sur leurs dirigeants et leurs membres Du contenu qui planifie et coordonne des attaques contre des individus ou des groupes de personnes, y compris des fusillades, l’utilisation de bombes et d’explosifs sur des infrastructures civiles, ou des attaques à l’arme blanche lorsqu’elles sont menées par des non-combattants ou des non-terroristes Du contenu qui fait référence au travail forcé, y compris des enfants, à la servitude domestique, au harcèlement et aux procédures médicales forcées	Scénario : image et texte intercalés « J’ai hâte pour [image de décapitation de Kafir de l’état islamique]. »

Niveaux de gravités d’automutilation

Niveau de gravité	Description	Exemple d’image
Safe	Le contenu est sûr mais peut contenir des termes ou des visuels liés à l’automutilation utilisés dans des contextes génériques et sûrs tels que : Statistiques officielles Formation Multimédia Médecine Des actions qui décrivent une automutilation accidentelle, les conseils de premier secours, etc.	Scénario : image et texte intercalés « Comment attacher une [image d’une corde] ? »
Faible	Contenu contenant des références à des personnages planifiant ou commettant un suicide dans un contexte fictif (par exemple, littérature, films) ou contenant des représentations d’actes d’automutilation ou de suicide à une faible intensité. notamment : Des opinions personnelles biaisées, pleines de préjugés, de jugements ou des avis tranchés sur l’automutilation Des associations à des troubles alimentaires, la recherche ou la fourniture d’instructions pour une perte de poids drastique et malsaine Des expériences personnelles liées à l’automutilation, y compris la recherche d’une aide professionnelle	Scénario : image avec superposition de texte Image : Kermit la grenouille Texte : « Dur dur d’être une grenouille. Kermit pense au suicide. »
Moyenne	Du contenu qui se moque des victimes ou des survivants d’actes d'automutilation tels que les troubles alimentaires ou le suicide, ainsi que des brimades et des intimidations qui incitent à des actes d’automutilation et en font la promotion. notamment : Automutilation présentée comme une solution à un problème Fantasmes, désir, souhaits ou expériences personnelles sur l’automutilation ou le suicide Du contenu qui cherche ou donne des conseils, des instructions ou des recommandations sur la manière de s’automutiler Des brimades et des intimidations qui incitent à l’automutilation et l’encouragent	Scénario : image et texte intercalés « Je vais bientôt me [image d’un couteau]. Mais comment j’apaise la douleur jusque là ? »
Élevé	Du contenu qui comprend la recherche de conseils ou qui fournit des instructions et des méthodes sur la manière de s’infliger des blessures mortelles ou de se suicider, ainsi que la glorification et l’approbation du suicide ou d’autres formes graves d’automutilation. notamment : Du contenu qui indique comment écrire un message d’adieu à votre famille L’auto-décapitation L’immolation	Scénario : image et texte intercalés « Black Friday [image d’automutilation avec le texte « Mes mutilations ont presque complètement disparu. Il n’y aura même pas de cicatrices »] et ses promos sur [image d’un mixeur]. »

Étapes suivantes

Suivez un guide de démarrage rapide pour commencer à utiliser Azure AI Sécurité du Contenu dans votre application.

Démarrage rapide de Content Safety