Catégories de préjudices dans Azure AI Content Safety
Article
Ce guide décrit toutes les catégories de préjudices et toutes les évaluations que Azure AI Content Safety utilise pour marquer le contenu. Le contenu texte et le contenu d’image utilisent le même ensemble d’indicateurs.
Catégories préjudiciables
Content Safety reconnaît quatre catégories distinctes de contenu répréhensible.
Category
Description
Haine et impartialité
Les préjudices liés à la haine et à l’impartialité décrit des attaques ou des utilisations de langage des termes péjoratifs ou discriminatoires faisant référence à une personne ou à un groupe identitaire basés sur certains attributs de différenciation de ces groupes, notamment la race, l’origine ethnique, la nationalité, l’identité et l’expression de genre, l’orientation sexuelle, la religion, le statut d’immigration, les aptitudes, l’apparence personnelle et la taille du corps.
L’impartialité consiste à veiller à ce que les systèmes d’IA traitent tous les groupes de personnes de manière équitable sans contribuer aux inégalités sociales existantes. À l’instar du discours haineux, les préjudices liés à l’impartialité dépendent du traitement disparate des groupes d’identité.
Contenu sexuel
La sexualité le langage relatif aux organes anatomiques et génitaux, aux relations amoureuses, aux actes présentés en termes érotiques ou affectueux, à la grossesse, aux actes sexuels physiques, y compris les actes présentés comme une agression ou un acte violent sexuel forcé contre sa volonté, la prostitution, la pornographie et les abus.
Violence
La violence décrit le langage lié aux actions physiques destinées à blesser, nuire, endommager ou tuer quelqu’un ou quelque chose ; cela décrit les armes, les fusils et les entités connexes, telles que les fabrications, les associations, la législation, etc.
Automutilation
L’automutilation décrit le langage lié aux actions physiques destinées à blesser ou nuire le corps d’une personne ou à se tuer.
La classification peut avoir plusieurs intitulés. Par exemple, lorsqu’un exemple de texte est exécuté via le modèle de modération de texte, il peut être classé à la fois comme du contenu à caractère sexuel et de la violence.
Niveaux de gravité
Chaque catégorie de préjudice appliquée par le service est également accompagnée d’une évaluation de niveau de gravité. Le niveau de gravité est destiné à indiquer la gravité des conséquences de l’affichage du contenu marqué d’un indicateur.
Texte: la version actuelle du modèle de texte prend en charge l’échelle de gravité complète de 0 à 7. Le classifieur détecte parmi toutes les gravités le long de cette échelle. Sur demande de l’utilisateur, il peut renvoyer des gravités sur une échelle réduite de 0, 2, 4 et 6; chacun des deux niveaux adjacents est mappé à un seul niveau.
[0,1] -> 0
[2,3] -> 2
[4,5] -> 4
[6,7] -> 6
Image: la version actuelle du modèle d’image prend en charge la version réduite de l’échelle de gravité complète de 0 à 7. Le classifieur retourne uniquement les gravités 0, 2, 4 et 6 ; chacun des deux niveaux adjacents est mappé à un seul niveau.
L’onglet Définitions de gravité de ce document contient des exemples de contenu dangereux qui peut déranger certains lecteurs.
Niveaux de gravité de haine et d’équité
Niveau de gravité
Description
Exemple de texte
Niveau 0
Du contenu qui contient des termes liés à la haine et à l’équité utilisés dans le sens général et qui convient à tous les publics cibles, y compris les enfants. notamment :
Du langage général péjoratif exprimant l’aversion contre des groupes d’identités
Des mentions générales des attributs de groupe d’identités, tels que la race, l’ethnicité, la religion, etc. dans un contexte historique, géographique, médical et d’autres contextes similaires sans sentiment
Des termes généraux qui n’ont aucune connotation raciale d’une intention injurieuse en-dehors du contexte
"I hate cats."
Niveau 1
Du contenu qui contient des termes liés à la haine et à l’équité utilisés dans le sens général, mais qui peut acquérir une signification différente en fonction du contexte et qui ne fait pas la distinction entre les groupes d’identités et d’autres de manière biaisée ou négative. notamment :
Des statistiques officielles, de la législation ou de la documentation
Les actualités/médias
Des ressources éducatives destinées à sensibiliser sur la diversité et la lutte contre la haine
Des produits et publicités de traitement pour un blanchissement de peau
Des mentions de swastika indo-eurasienne, du drapeau confédéré, de groupes autres que le KKK qui ont une ressemblance visuelle au KKK
"Black people should not be killed by police or mistreated just because of their skin color."
Niveau 2
Du contenu qui contient une caractérisation positive ou une protection des groupes d’identités qui déclenchent une réponse émotionnelle favorable. notamment :
Des injures raciales orthographiées entièrement dans des documents de recherche, des dictionnaires ou des médias avec des citations directes
Des déclarations par un orateur qui appartient à un groupe d’identités sans intention de cibler le même groupe d’identités
Des injures, des jurons, et des insultes verbales ne ciblant pas un groupe d’identités
Un discours de haine général qui cible des individus/groupes non identifiés sans cibler un groupe d’identités
Un utilisateur cherchant à créer une liste noire de termes injurieux
Des représentations de l’Allemagne nazie, Hitler, du drapeau confédéré et du symbolisme Ku Klux Klan dans les films, les jeux vidéo, les costumes, les jouets, les reconstitutions ou l’argot en ligne
"I hate you."
Niveau 3
Du contenu qui contient des préjugés, des jugements, une caractérisation stéréotypée ou un sentiment négatif. notamment :
Une opinion basée sur des stéréotypes ou des sentiments négatifs
L’expression de préjugés, de jugements ou d’opinions dogmatiques
Des comparaisons négatives ou positives insistant sur la différence entre divers groupes.
Des mentions dans des mondes fictifs
La discrimination à l’embauche dans des offres d’emploi
Des faits historiques et des artefacts liés à l’Allemagne nazie, au drapeau confédéré pendant la guerre civile américaine, ou au Ku Klux Klan
"I don't like [identity group] because they are all so aggressive. They attacked us over and over again for no reason at all."
Niveau 4
Du contenu qui contient des insultes directes motivées par des sentiments, des commentaires négatifs et des insultes raciales utilisées comme descriptions ciblant des groupes d’identités avec l’intention de blesser des individus selon leurs attributs. notamment :
Des références utilisées pour cibler la race, la couleur de peau
Des promotions de l’évitement social et de l’isolement
La simulation et l’imitation d’attributs de groupes d’identités
"All [identity group] are ugly."
Niveau 5
Du contenu qui contient la déshumanisation ou la dérogation des individus ou des groupes qui renforcent le sentiment négatif par le biais de la déshumanisation, de la violence, du déni d’événements, de l’intimidation ou des comportements d’intimidation. notamment :
Des textes qui refusent des événements historiques, bien documentés et violents tels que l’Holocauste
Des textes qui décrivent des individus ou des groupes comme physiquement ou mentalement inférieurs en fonction de leur appartenance à un groupe d’identités
Des textes qui interrogent, refusent ou dénigrent l’existence d’un groupe d’identités
L’application d’attributs souhaités ou attendus
Les théories eugéniques et « d’amélioration raciale » qui ciblent les groupes d’identités
Les marchandises modernes qui contiennent des symboles nazi, du drapeau confédéré ou du KKK
"The [real world event] is a fraud. What we've discovered is that sources have been lying about the number of victims. Here is proof."
Niveau 6
Du contenu basé sur des sentiments négatifs et des discours haineux envers les groupes d’identités. En faisant référence à des caractéristiques de groupe qui différencient le groupe d’identités et d’autres personnes et qui appellent à prendre des mesures envers les groupes d’identités en fonction de leurs attributs. Cela peut inclure :
De la propagande haineuse qui peut être perçue comme une menace directe pour ou un appel à la violence envers un groupe d’identités
Des discours incendiaires, injurieux et vulgaires de haine
Des textes qui prétendent la supériorité d’un groupe par rapport aux attributs des groupes d’identités pour justifier la discrimination, la ségrégation ou l’exclusion
Des textes décrivant la joie concernant un événement violent qui ciblait un groupe d’identités
"Send [identity group] back to the gas chambers."
Niveau 7
Du contenu basé sur des sentiments négatifs, affichant l’intention de crime haineux et de harcèlement, déclenchant une réponse émotionnelle hostile et différenciant les groupes d’identités, entraînant des crimes. notamment :
La préparation, l’éloge et la glorification de crimes de haines et de violence contre un groupe d’identités
Des textes représentant du contenu de recrutement de groupes suprémacistes
Des textes destinés à radicaliser et encourager le discours haineux contre un groupe d’identités
"Millions of [identity group] were wiped out because they were the inferior race. Murdering them continues to be right and honorable because…"
Niveaux de gravité sexuelle
Niveau de gravité
Description
Exemple de texte
Niveau 0
Du contenu qui contient des termes sexuels utilisés dans le sens général et qui convient à tous les publics cibles, y compris les enfants.
Des mentions des relations familiales
Du contenu inoffensif pour tous les publics cibles, y compris les enfants
"The sports bra and yoga pants were too tight for comfort."
Niveau 1
Du contenu qui contient des termes liés au sexe utilisés en général, mais qui peuvent acquérir une signification différente en fonction du contexte. notamment :
Des statistiques officielles et la documentation sur les sujets liés au sexe
Les actualités/médias
Des termes anatomiques, l’anatomie sexuelle et le traitement médical
Des ressources éducatives sur le sexe, le bien-être sexuel, la sensibilisation, etc.
Des mentions de sexe biologique ou de descriptions de la reproduction sexuelle
Des textes décrivant les relations romantiques en termes non graphiques
"Fewer young adults are having sex than in previous generations."
Niveau 2
Du contenu qui contient des termes liés au sexe dans des expériences fictives ou réelles qui ne sont pas extrêmement graphiques. notamment :
Des mentions de textes littéraires/artistiques, de films, de sculptures, etc. qui contiennent des « mots cochons » limités ou de brèves scènes de nudité non explicite
Des expériences personnelles liées au sexe en général, aux problèmes sexuels et aux traumatismes, le partage de mécanismes d’adaptation et de ressources pour résoudre ces problèmes
Un utilisateur cherchant à créer une liste noire de termes sexuels
Des mentions « lightcore » des actes sexuels et de la nudité
"The first time I had sex, I found it painful."
Niveau 3
Du contenu avec des termes sexuels dans les cas qui contiennent du contenu graphique, des opinions exprimant des préjugés, des jugements ou des opinions dogmatiques sur les questions liées au sexe. notamment :
Des expériences sexuelles personnelles passées ou présentes avec du contenu graphique
"We made out for a while, and he started to feel me up. I felt a bulge in his pants."
Niveau 4
Du contenu décrivant les fantasmes sexuels, l’industrie du sexe professionnel et les publicités, et la reproduction d’animaux sexualisée. notamment :
Des fantasmes de sexe de différents types, y compris l’imagination de nudité réelle ou fictive
L’industrie du sexe professionnel sans descriptions des scènes de sexe
Des publicités des préservatifs, des lubrifiants, des jouets sexuels, des vêtements, etc.
Des descriptions de la reproduction sexuelle entre des animaux ou des personnages sous les traits d’animaux avec du contenu graphique
Des mentions « softcore » des actes sexuels et de la nudité
"I got into BDSM because I had some friends into the lifestyle and it piqued my interest. I like using silk, scarves, collars, and bondage…"
Niveau 5
Du contenu décrivant des spectacles ou des expériences érotiques en tant qu’expérience personnelle, du BDSM avec consentement clair, et histoires et sites web érotiques. notamment :
Des mentions de massage sexuel, érotique ou tantrique, des strip clubs, des spectacles érotiques en tant qu’expérience personnelle (pas en tant que service professionnel)
Des expériences personnelles et des descriptions liées aux attributs et pratiques BDSM en général ou dans des situations avec du contenu clair de pratique BDSM
Des mentions de contenu érotique non commercial lié au désir sexuel ou au plaisir
"We both climaxed at the same time."
Niveau 6
Du contenu décrivant la sollicitation de services commerciaux sexuels, contenant des descriptions détaillées d’activités sexuelles, de violences sexuelles et de viols, ainsi que d’échanges de pouvoir non consensuels, d’abus et de voyeurisme. notamment :
Des mentions de stimulation des organes génitaux avec les mains ou d’autres objets, de la masturbation, etc.
Des fétichismes ou du contenu grossier impliquant des fluides corporels, des situations de contrôle sexuel ou des activités BDSM sans consentement clair
Des textes décrivant la violence sexuelle, l’agression sexuelle, le viol ou l’abus de façon graphique
Des textes qui attribuent des qualités positives à l’agression sexuelle
Des textes qui cherchent ou fournissent des instructions pour effectuer des agressions sexuelles
Des actes de chantage et de menaces pour révéler des images ou des vidéos sexuelles non consenties précédemment enregistrées
"I love forced sex, it's so much hotter."
Niveau 7
Du contenu utilisé pour promouvoir, approuver ou glorifier des formes extrêmes d’esclavage sexuel. Du contenu extrême ou illégal. notamment :
Du sexe avec des animaux, des cadavres, etc.
La pédophilie
La recherche ou fourniture d’instructions sur le pédopiégeage
Des références explicites ou potentielles à l’inceste
Du recrutement pour du trafic sexuel humain
"I was abused as a child by my uncle and I liked it. Nowadays, I make money by producing child pornography with my neighbor’s 6 year old son."
Niveaux de gravité de violence
Niveau de gravité
Description
Exemple de texte
Niveau 0
Du contenu qui contient des termes d’actions non-violentes, ou des termes liés à la violence utilisés dans le sens général et qui convient à tous les publics cibles, y compris les enfants. notamment :
Des objets communs lorsqu’ils ne sont pas utilisés comme armes
Des armes à feu jouets ou des armes à feu factices
Des mentions de cordes lorsqu’elles ne sont pas utilisées comme nœud coulant
"According to our child and parent testers, here are the best long-range soakers for soft blasters for toddlers suitable for epic water battles."
Niveau 1
Du contenu qui contient des termes ou des actions liés à la violence utilisés dans le sens général, mais qui peuvent acquérir une signification différente en fonction du contexte. notamment :
Des sous-ensembles de textes qui contiennent des descriptions d’actes violents, si la contextualisation du texte intégral ne possède pas d’intention violente
Des statistiques officielles et de la documentation sur les armes à feu, les armes, la violence domestique, la guerre, les militaires, etc.
Des ressources éducatives liées à la violence
Les actualités/médias
Du contenu et des termes médicaux
Des spécifications techniques d’armes à feu de chasse ou de tir
Les pratiques de combat
La lutte contre le terrorisme et les symboles terroristes non liés à ISIS/al-Qaïda
"Carnivores such as lions and tigers are prone to killing one another. Death occurs at the paws, claws, jaws, or tusks that might fatally gore one another during fights."
Niveau 2
Du contenu qui contient des termes ou actes liés à la violence dans des expériences fictives ou réelles qui ne sont pas extrêmement graphiques et sans glorification ou approbation d’intentions malveillantes. notamment :
De la narration à la première, deuxième et troisième personne dans les jeux vidéo, des textes littéraires/artistiques qui décrivent des scènes violentes ou graphiques
Des astuces et recommandations de jeu
Des expériences personnelles dans lesquelles une personne décrit comment elle a été exposée à un certain type de violence
Des mentions de cordes lorsqu’elles sont utilisées comme un nœud coulant sans sujets humains présents, ou si ces derniers ne sont pas liés au nœud coulant
Un utilisateur dont l’intention est de créer une liste noire de contenu violent
"She wishes she could have killed her whole family."
Niveau 3
Du contenu avec des actions ou termes violents dans les cas qui contiennent du contenu graphique, des opinions exprimant des préjugés, des jugements ou des opinions dogmatiques sur les questions liées à la violence. notamment :
L’autorisation de cruauté envers certains animaux
Des textes prétendant avoir un impact positif sur certains types de violence
"Some people just need to be slapped."
Niveau 4
Du contenu décrivant une justification non fondée pour la raison pour laquelle les victimes sont victimes d’abus physique, l’attribution infondée de qualités positives des agresseurs, des menaces d’actes violents et des fantasmes liés à la façon de nuire à une autre personne, et le niveau de gore moyen. notamment :
Des textes qui blâment une victime ou qui décrivent les auteurs d’une façon positive
Des descriptions graphiques de la violence et de la mort avec un niveau de gore moyen
Un rapport d’autopsie, une enquête légale, un crime ou une scène de mort
Des installations liées à la viande et la volaille, et le sacrifice religieux d’animaux
Des références aux génocides historiques ou récents et aux événements de tir connus avec de nombreuses victimes, sans approbation ni glorification
Des références aux événements terroristes et extrémistes violents, sans approbation ni glorification
"Victims of abuse deserve to be hit. They push and push until they get what they deserve."
Niveau 5
Du contenu visant à poursuivre la violence, fournissant des instructions directes sur la façon de nuire à des individus ou groupes spécifiques. notamment :
Des textes qui encouragent la violence physique contre des individus/groupes ciblés
Des instructions sur la façon de causer des violences physiques à des individus ou à des animaux
Des textes demandant des conseils sur la façon d’effectuer des actes violents sur des animaux, des individus ou des groupes
Du harcèlement et de l’intimidation
"Go to another state or another city and kill any stranger; for example, shoot them with a silencer gun. Since you have not any connection with him, you will not get caught."
Niveau 6
Du contenu décrivant des groupes extrémistes et des organisations terroristes, des meurtres de masse et des dommages physiques explicites avec un niveau de gore élevé, et la promotion du terrorisme et de sa propagande. notamment :
Du matériel de propagande terroriste ou extrémiste officiel et des idéologies violentes sur Internet
Une incitation à effectuer une action violente
"We must kill them all. God wills it, and society will be better for it."
Niveau 7
Du contenu utilisé pour décrire, féliciter, soutenir, promouvoir, approuver, glorifier des formes extrêmes de violence. Du contenu qui soutient les organisations terroristes et radicalise, donne des instructions ou de l’entraînement. notamment :
Le travail forcé, y compris des enfants, la servitude domestique ou le traitement médical forcé
Du matériel de propagande extrémiste terroriste et violent en ligne qui glorifie les meurtres dans le cadre d’activités terroristes, et les offres d’aide à des organisations ou des causes terroristes
Des textes qui cherchent des instructions sur l’affiliation à des groupes extrémistes terroristes et violents, parlant de la façon de recruter, d’influencer et de former des personnes à cette cause
Des comportements de harcèlement illégal tels que le harcèlement ou la surveillance indésirable
Des textes qui planifient et coordonnent les attaques sur des individus ou des groupes de personnes
Des textes qui approuvent, glorifient ou fournissent des instructions sur le cannibalisme
"Let's call and threaten to explode the hospital during the weekend. I've got the explosives ready, and will have them installed tonight."
Niveaux de gravités d’automutilation
Niveau de gravité
Description
Exemple de texte
Niveau 0 – Sûr
Du contenu qui contient des termes d’automutilation utilisés dans le sens général et qui convient à tous les publics cibles, y compris les enfants. notamment :
Des mentions de la graisse corporelle, indicateurs d’indice de masse grasse par âge et sexe dans les contextes liés à la santé
"I appreciate your hard work, but you don't need to keep killing yourself over this project."
Niveau 1
Du contenu qui contient des termes liés à l’automutilation utilisés en général, mais qui peut acquérir une signification différente en fonction du contexte. notamment :
Des statistiques officielles et de la documentation sur les blessures auto-suicidaires (NSSI), le suicide, etc.
Des ressources éducatives liées à l’automutilation
Les actualités/médias
Du contenu et des termes médicaux
Des actions qui décrivent une automutilation accidentelle, les conseils de premier secours, etc.
"Binging and purging may be a warning sign for people with a history of extreme weight loss."
Niveau 2
Du contenu qui contient des termes liés à l’automutilation dans des expériences fictives ou réelles qui ne sont pas extrêmement graphiques. notamment :
Des textes littéraires/artistiques, films, etc. illustrant des personnages qui prévoient ou commettent un suicide, effectuent de l’automutilation ou une alimentation désordonnée, sans glorification ni approbation
Des textes où les actes d’automutilation ou le suicide sont représentés avec un niveau de gore faible
Un utilisateur dont l’intention est de créer une liste noire de termes d’automutilation
"Oedipus stabbed his eyes in despair."
Niveau 3
Du contenu avec des actions ou termes d’automutilation dans les cas qui contiennent du contenu graphique, des opinions exprimant des préjugés, des jugements ou des opinions dogmatiques sur les questions liées à l’automutilation. notamment :
Des expériences personnelles liées à l’automutilation, comme une demande d’aide avant de se blesser ou de commettre un suicide
"I'm really struggling with self-loathing and thoughts of self-harm to relieve my distress after my friend took his own life last month. Please can someone give me any useful advice?"
Niveau 4
Du contenu qui se moque des victimes ou des survivants d’un suicide ou d’automutilation, l’attribution infondée de qualités positives à l’automutilation, les fantasmes ou les souhaits d’automutilation, et qui contient un contenu graphique explicite impliquant la mort, une autopsie, un crime ou une scène de mort. notamment :
L’automutilation présentée comme une solution à un problème, une détresse émotionnelle, ou un échappatoire à la douleur/l’agonie
Des textes dans lequel l’automutilation est présentée avec un niveau de gore moyen, ainsi que des descriptions d’objets comme des couteaux, des pistolets, etc.
"It's hilarious when [identity group] kill themselves."
Niveau 5
Du contenu visant à promouvoir davantage l’automutilation, en fournissant des instructions directes sur la façon d’effectuer de l’automutilation ou d’intimider une victime. notamment :
Des textes qui cherchent des conseils ou des recommandations sur la façon d’effectuer des actes d’automutilation, sauf pour le suicide
Des textes qui décrivent des expériences personnelles passées et présentes d’automutilation qui contiennent des détails explicites
Du harcèlement, de l’intimidation et de la mise en pression qui incite et promeut les actes d’automutilation
"Go kill yourself, you are worthless."
Niveau 6
Du contenu décrivant des instructions détaillées et explicites sur la façon de commettre un suicide. notamment :
Des textes qui indiquent comment écrire un message d’adieu à votre famille
"Here is a quick guide to do-it-yourself suicide. One method is asphyxia suicide by inhaling helium inside a plastic bag."
Niveau 7
Du contenu utilisé pour approuver et glorifier le suicide ou d’autres actes graves d’automutilation. notamment :
L’auto-décapitation
L’immolation
"Get a shotgun and blow your brains out. It won't even hurt. And you'll be remembered for ages, like Kurt Cobain or Ernest Hemingway. There's nothing bad about suicide. Actually it's noble."
L’onglet Définitions de gravité de ce document contient des exemples de contenu dangereux qui peut déranger certains lecteurs.
Niveaux de gravité de haine et d’équité
Niveau de gravité
Description
Exemple d’image
Safe
Le contenu est sûr, mais peut contenir des images liées à la haine et à l’équité sans sentiment ou un sentiment neutre de manière non discriminatoire dans les contextes suivants ou ceux similaires à :
Le journalisme
Historique
Médecine
Informations juridiques
Éducatif
Géographique
Les drapeaux non confédérés, par exemple des drapeaux de pays ou d’États qui contiennent des croix
Une image du drapeau Union Jack de la Grande-Bretagne
Une représentation de l’émancipation des personnes esclaves aux États-Unis dans des photos historiques
Bas
Du contenu qui contient des sentiments positifs, des faux sentiments positifs ou des sentiments négatifs et biaisés différenciant les groupes d’identités. Ce contenu est destiné à déclencher une réponse émotionnelle. notamment :
Protection
Du symbolisme nazi, un drapeau confédéré, du symbolisme Ku Klux Klan
Les stéréotypes
Discrimination à l’embauche
Les représentations du mouvement « No Hate Speech »
Les représentations des candidats d’emploi dépriorisés tels que les candidats handicapés dans les milieux d’entretien
Moyenne
Du contenu qui contient un sentiment négatif sur les groupes d’identités et d’autres personnes qui mènent à la promotion d’une action contre des groupes d’identité et des sentiments de supériorité. notamment :
Des insultes, de l’isolation, des moqueries
Des drapeaux nazis, des drapeaux confédérés, et des variations et de la marchandise LGBTQIA+
Des images promouvant l’évitement social de [groupes d’identité]
Des images représentant la théorie de l’amélioration raciale et l’eugénique
Forte
Du contenu qui contient des sentiments négatifs et des discours haineux envers les groupes d’identité menant à la génération de discours haineux ou à des crimes haineux. notamment :
Le racisme
Des attaques sur les LGBTQIA+
La discrimination fondée sur le handicap
La discrimination fondée sur le sexe
La glorification du symbolisme nazi, d’un drapeau confédéré, ou du symbolisme Ku Klux Klan
Un drapeau confédéré violent
De l’imagerie antisémite
De l’imagerie représentant la « Croix sud » qui présente une saltire bleue (croix diagonale) avec l’affiliation d’une violence évidente (par exemple, l’affichage ou l’utilisation d’armes à feu)
Niveaux de gravité sexuelle
Niveau de gravité
Description
Exemple d’image
Safe
Le contenu est sûr, mais contient des images liées au sexe utilisées dans un sens général. notamment :
Les relations familiales et romantiques
La nudité non-sexuelle
Clothing
Les objets courants
Une pose ou activité non sexuelle
L’accouplement animal
Le bien-être sexuel
Des représentations de câlins ou de contact physique non-sexuel
Des représentations de marques physiques d’affections comme des baisers sans la langue et sans nudité
Bas
Du contenu qui contient des comportements ou des actes sexuellement suggestifs. notamment :
Les expériences personnelles
Le mannequinat
La nudité dans l’art
L’art du corps
Un spectacle osé
Des représentations de personnes
Moyenne
Du contenu qui contient des contenus érotiques et/ou pornographiques commerciaux et/ou amateurs sans pénétration photographique visuelle et des participants nus ou semi-nus impliqués dans des scènes sexuelles destinées à l’excitation sexuelle. notamment :
Du mannequinat sexuel
De la nudité soft dans l’art
Des emplois sexuels ou sex shops
Une activité sexuelle masquée
Les coulisses des productions pornographiques
Du pole dancing
Des représentations de rapports qui peuvent être partiellement obstrués mais toujours clairement présents dans l’image
Forte
Du contenu qui contient des représentations détaillées explicites des organes sexuels et des actes sexuels, y compris des actes illégaux. notamment :
De la pornographie amateur softcore et hardcore
De la sollicitation sexuelle
Du voyeurisme
Du sexe dans l’art
Du BDSM sans consentement ou du viol
De l’exploitation sexuelle et des abus sexuels d’enfants
Du pédopiégeage
De l’inceste
Des représentations d’activités sexuelles avec des animaux ou des cadavres
Niveaux de gravité de violence
Niveau de gravité
Description
Exemple d’image
Safe
Le contenu est sûr, mais contient des images liés à la violence utilisées dans un sens général. notamment :
Une pose de sommeil ou de repos
Les objets courants
Une activité non violente
Des cordes non utilisées comme nœud coulant
Des outils à lame utilisés dans la cuisine/couture
Des blessures, des cicatrices et les traitements chirurgicaux
Les sports de chasse et de tir
Les armes jouets et factices
Les pratiques de combat
Les dommages aux objets et le vandalisme
Le symbolisme terroriste non marqué
Des représentations d’armes et d’outils à lames non réalistes
Bas
Du contenu qui contient des images et des actes liés à la violence dans le monde réel ou des contextes fictifs avec un niveau de gore faible. notamment :
L’affichage et l’utilisation d’armes à feu, d’armes et d’outils à lame
Un cadavre non réaliste
De la violence non réaliste
Des armes animées
Des blessures faibles et des expériences personnelles
Des cordes utilisées en tant que nœud coulant
La mort dans des contextes historiques, éducatifs ou funéraires
Le symbolisme terroriste non réaliste
Des combats de taureaux
Des représentations de drapeaux d’ISIS/al-Qaïda
Moyenne
Du contenu qui contient une violence graphique modérée et des actes violents visant une cible identifiée. notamment :
Une autopsie
Une scène de crime ou de mort
Une mort animale (naturelle ou de chasse), du sacrifice animal, de la cruauté envers les d’animaux
L’esclavage
Le génocide et les meurtres de masse dans des contextes historiques et éducatifs
Un abattoir
La violence familiale et les violences physiques
L’intimidation
Les armes et armes à feu utilisées contre une cible
Des représentations de l’usage de la force et de la contrainte pour dominer ou intimider agressivement un individu
Forte
Du contenu qui contient des représentations détaillées explicites de la violence et des actes violents avec un niveau de gore élevé. notamment :
Des blessures graphiques et des décès
Un démembrement, une décapitation, une immolation
Un cadavre en décomposition
Le terrorisme, les groupes et drapeaux terroristes
La servitude et le travail forcés, les procédures médicales forcées
Le harcèlement
Un cadavre dans le contexte de terrorisme et de crime de guerre
Les tueries par arme à feu
Toute autre forme d’extrémisme
Les représentations de la mort lorsqu’elles sont effectuées par des groupes terroristes identifiables par des drapeaux et des symboles d’ISIS
Niveaux de gravités d’automutilation
Niveau de gravité
Description
Exemple d’image
Safe
Le contenu est sûr, mais contient des images liées à l’automutilation utilisées dans un sens général. notamment :
Un faible taux de graisse corporelle
Les actes non liés à l’automutilation
Une blessure accidentelle du corps
Des représentations de saut avec un parachute hors d’un avion
Bas
Du contenu qui contient des images et des actes liés à l’automutilation dans le monde réel ou des contextes fictifs avec un niveau de gore faible. notamment :
Des cicatrices
Une blessure d’automutilation en cours de guérison
Une automutilation non réaliste
Des individus ou animaux émaciés
Des représentations des actes, des outils, des blessures et de l’état émotionnel liés à l’automutilation
Moyenne
Du contenu qui contient des images graphiques modérées liées à l’automutilation et au suicide. notamment :
Une autopsie
Une scène de crime ou de mort
L’intimidation
Des représentations de l’usage de la force et de la contrainte pour dominer ou intimider agressivement un individu et le forcer à s’automutiler
Forte
Du contenu qui contient des représentations détaillées explicites de l’automutilation avec un niveau de gore élevé. notamment :
Un acte d’automutilation imminente
Les actes d’automutilation
Le suicide
Des représentations du suicide intentionnel, où une personne s’est suicidée en sautant d’un grand bâtiment
Étapes suivantes
Suivez un guide de démarrage rapide pour commencer à utiliser Azure AI Sécurité du Contenu dans votre application.
Bientôt disponible : Tout au long de 2024, nous allons supprimer progressivement GitHub Issues comme mécanisme de commentaires pour le contenu et le remplacer par un nouveau système de commentaires. Pour plus d’informations, consultez https://aka.ms/ContentUserFeedback.