Schadenskategorien in Azure AI Content Safety

In diesem Leitfaden werden alle Schadenskategorien und Bewertungen von Azure KI Inhaltssicherheit Content Safety zum Kennzeichnen von Inhalten beschrieben. Für Text- und Bildinhalte wird der gleiche Satz von Kennzeichnungen genutzt.

Schadenskategorien

Content Safety erkennt vier verschiedene Kategorien anstößiger Inhalte.

Category	Beschreibung
Hass und Fairness	Schäden im Zusammenhang mit Hass und Fairness beschreibt sprachliche Angriffe oder Verwendungen, die abwertende oder diskriminierende Ausdrücke in Bezug auf eine Person oder eine Identitätsgruppe auf der Grundlage bestimmter differenzierender Merkmale dieser Gruppen verwendet, einschließlich, aber nicht beschränkt auf Rasse, ethnische Zugehörigkeit, Nationalität, Geschlechtsidentität und -ausdruck, sexuelle Orientierung, Religion, Einwanderungsstatus, Fähigkeitsstatus, persönliches Aussehen und Körpergröße. Fairness befasst sich mit der Sicherstellung, dass KI-Systeme alle Gruppen von Menschen gleichwertig behandeln, ohne zu bestehenden gesellschaftlichen Ungleichheiten beizutragen. Ähnlich wie Hassreden basieren fairnessbezogene Schäden auf einer unterschiedlichen Behandlung von Identitätsgruppen.
Sexuell	„Sexuell“ beschreibt Sprache, die sich auf anatomische Organe und Genitalien, romantische Beziehungen, erotisch oder zärtlich dargestellte Akte, Schwangerschaft, körperliche sexuelle Akte – einschließlich solcher Akte, die als Übergriff oder erzwungener sexueller Gewaltakt gegen den eigenen Willen dargestellt werden –, Prostitution, Pornografie und Missbrauch beziehen.
Gewalt	„Gewalt“ beschreibt die Sprache im Zusammenhang mit körperlichen Handlungen, die dazu dienen, jemanden oder etwas zu verletzen, zu beschädigen oder zu töten bzw. die Waffen, Schusswaffen und damit verbundene Einrichtungen, wie Hersteller, Verbände, Gesetzgebung usw. beschreibt.
Selbstverletzung	Selbstverletzendes Verhalten beschreibt Sprache, die sich auf körperliche Handlungen beziehen, die darauf abzielen, den eigenen Körper absichtlich zu verletzen, zu verwunden oder zu schädigen oder sich selbst zu töten.

Die Klassifizierung kann mit mehreren Bezeichnungen versehen werden. Wenn z. B. ein Textbeispiel das Textmoderationsmodell durchläuft, kann es sowohl als sexueller als auch als gewalttätiger Inhalt eingestuft werden.

Schweregrade

Jede Schadenskategorie des Diensts verfügt auch über eine Bewertung des Schweregrads. Der Schweregrad gibt an, wie schwerwiegend die Folgen des Zeigens des gekennzeichneten Inhalts sind.

Text: Die aktuelle Version des Textmodells unterstützt die vollständige Schweregrad-Skala von 0–7. Der Klassifizierer erkennt alle Schweregrade entlang dieser Skala. Wenn der Benutzer angibt, kann er Schweregrade in der gekürzten Skala von 0, 2, 4 und 6 zurückgeben; jeder zwei angrenzenden Ebenen wird einer einzelnen Ebene zugeordnet.

• [0,1] –> 0
• [2,3] –> 2
• [4,5] –> 4
• [6,7] –> 6

Bild: Die aktuelle Version des Bildmodells unterstützt eine gekürzte Version des vollständigen Schweregrads von 0 bis 7. Der Klassifizierer gibt nur die Schweregrade 0, 2, 4 und 6 zurück; jeweils zwei angrenzende Stufen werden einer einzelnen Stufe zugeordnet.

• [0,1] –> 0
• [2,3] –> 2
• [4,5] –> 4
• [6,7] –> 6

Textinhalte

Warning

Warnung

Die Registerkarte Schweregraddefinitionen in diesem Dokument enthält Beispiele für schädliche Inhalte, die für manche Leser*innen verstörend sein können.

Schweregraddefinitionen

Schweregrade der Kategorie „Hass und Fairness“

Schweregrad	Beschreibung	Beispieltext
Stufe 0	Inhalte, die Hass- und Fairness-bezogene Begriffe enthalten, die im allgemeinen Sinn verwendet werden und für alle Zielgruppen, einschließlich Kindern, geeignet sind. Dies schließt Folgendes ein: Allgemeine, pejorative Sprache, die sich gegen Identitätsgruppen ausdrückt Allgemeine Erwähnungen von Identitätsgruppenattributen wie Rasse, Ethnie, Religion usw. in historischen, geografischen, medizinischen und anderen ähnlichen Kontexten ohne Stimmung Allgemeine Begriffe ohne ethnische Untertöne von anstößigen Absichten außerhalb des Kontexts	"I hate cats."
Level 1	Inhalte, die Hass- und Fairness-bezogene Begriffe enthalten, die im allgemeinen Sinn verwendet werden, können aber eine andere Bedeutung basierend auf dem Kontext erwerben und unterscheiden sich nicht zwischen Identitätsgruppen und anderen in einer voreingenommenen oder negativen Weise. Dies schließt Folgendes ein: Amtliche Statistiken, Rechtsvorschriften oder Dokumentationen News/Medienberichterstattung Bildungsressourcen zur Sensibilisierung für Vielfalt/Bekämpfung von Hassreden Hautweißprodukte und Behandlungsanzeigen Erwähnungen von Indo-Eurasischen Swastika, der konföderierten Flagge, Nicht-KKK-Gruppen mit visueller Ähnlichkeit mit dem KKK	"Black people should not be killed by police or mistreated just because of their skin color."
Level 2	Inhalte, die eine positive Charakterisierung oder den Schutz der Identitätsgruppen enthalten, die eine günstige emotionale Reaktion auslösen. Dies schließt Folgendes ein: Schrägstriche sind in Recherchearbeiten, Wörterbüchern oder Medien mit direkten Zitaten vollständig geschrieben Anweisungen eines Sprechers, der zu einer Identitätsgruppe gehört, ohne die gleiche Identitätsgruppe als Ziel zu verwenden Fluchworte, Profanität und verbale Beleidigungen, die nicht auf eine Identitätsgruppe abzielen Allgemeine Hassrede, die auf nicht identifizierte Personen/Gruppen ausgerichtet ist, ohne auf eine Identitätsgruppe abzielen Benutzerabsicht, eine Blockliste anstößige Ausdrücke zu erstellen Darstellungen von Nazi-Deutschland, Hitler, der konföderierten Flagge und Ku Klux Klan Symbolismus in Filmen, Videospielen, Kostümen, Spielzeug, Reenactments oder Online-Slang	"I hate you."
Level 3	Inhalte, die voreingenommene, urteilsfähige, stereotypische Charakterisierung oder negative Stimmung enthalten. Dies schließt Folgendes ein: Meinung auf der Grundlage von Stereotypisierung oder negativer Stimmung Drückt Vorurteile, urteilsfähige oder meinungsverurteilte Ansichten aus Negative oder positive Vergleiche unterscheiden sich zwischen Identitätsgruppen und anderen. Erwähnungen in fiktiven Welten Arbeitsdiskriminierung bei Stellenbuchungen Historische Fakten und Artefakte im Zusammenhang mit Nazi-Deutschland, der konföderierten Flagge während des US-Bürgerkriegs oder der Ku Klux Klan	"I don't like [identity group] because they are all so aggressive. They attacked us over and over again for no reason at all."
Ebene 4	Inhalte, die direkte verbale, gefühlsbetonte Beleidigungen, negative Kommentare und rassistische Verunglimpfungen enthalten, die als Beschreibungen von Identitätsgruppen mit der Absicht verwendet werden, Personen aufgrund ihrer Eigenschaften zu verletzen. Dies schließt Folgendes ein: Bezüge, die für das Rennen, die Hautfarbe, verwendet werden Förderung sozialer Vermeidung und Isolation Modellieren und Imitieren von Attributen von Identitätsgruppen	"All [identity group] are ugly."
Ebene 5	Inhalte, die Entmenschlichung oder Abweichung von Einzelpersonen oder Gruppen enthalten, die negative Gefühle durch Entmenschlichung, Gewalt, Verleugnung von Ereignissen, Mobbing oder Einschüchterungsverhalten weiterbilden. Dies schließt Folgendes ein: Texte, die historische, gut dokumentierte und gewaltsame Ereignisse wie den Holocaust leugnen Texte, die Einzelpersonen oder Gruppen als physisch oder geistig minderwertig beschreiben, basierend auf der Mitgliedschaft in einer Identitätsgruppe Texte, die die Existenz von Identitätsgruppen in Frage stellen, leugnen oder herabwürdigen Erzwingen von gewünschten/erwarteten Attributen Eugenik und Theorien zur „Rassenverbesserung“, die auf Identitätsgruppen abzielen Moderne Waren mit Nazi-, Konföderiertenflaggen oder KKK-Symbolen	"The [real world event] is a fraud. What we've discovered is that sources have been lying about the number of victims. Here is proof."
Level 6	Inhalte, die auf negativen Stimmungen und Hassreden gegenüber Identitätsgruppen basieren. Durch Verweisen auf Gruppenmerkmale, die die Identitätsgruppe und andere unterscheiden und ansprechend sind, um Maßnahmen gegen Identitätsgruppen basierend auf ihren Attributen zu ergreifen. Dies kann beinhalten: Hassrede-Propaganda, die als direkte Bedrohung oder ein Aufruf von Gewalt gegen eine Identitätsgruppe wahrgenommen werden kann Anstößige, anstößige und vulgäre Hassrede Texte, die angeblich die Überlegenheit einer Gruppe gegenüber den Attributen der Identitätsgruppen behaupten, um Diskriminierung, Trennung oder Ausgrenzung zu rechtfertigen Texte, die Freude über ein gewalttätiges Ereignis beschreiben, das auf eine Identitätsgruppe ausgerichtet ist	"Send [identity group] back to the gas chambers."
Stufe 7	Inhalte auf der Grundlage negativer Stimmungen, die Absicht von Hassverbrechen und Stalking zeigen, eine feindselige emotionale Reaktion auslösen und Identitätsgruppen und andere, die zu Verbrechen führen, auslösen. Dies schließt Folgendes ein: Hassverbrechen und deren Vorbereitung, Lob und Verherrlichung von Gewalt gegen eine Identitätsgruppe Texte, die Rekrutierungsmaterial von supremistischen Gruppen enthalten Texte, die dazu gedacht sind, Hassreden gegen eine Identitätsgruppe zu radikalisieren und zu fördern	"Millions of [identity group] were wiped out because they were the inferior race. Murdering them continues to be right and honorable because…"

Sexueller Schweregrad

Schweregrad	Beschreibung	Beispieltext
Stufe 0	Inhalte, die sexuelle Begriffe enthalten, die allgemein verwendet werden, was für alle Zielgruppen, einschließlich Kindern, harmlos ist. Erwähnungen von Familienbeziehungen Inhalte, die für alle Zielgruppen harmlos sind, einschließlich Kinder	"The sports bra and yoga pants were too tight for comfort."
Level 1	Inhalte, die sexuelle Begriffe enthalten, die im allgemeinen Sinne verwendet werden, aber je nach Kontext eine andere Bedeutung haben können. Dies schließt Folgendes ein: Offizielle Statistiken und Dokumentationen zu sexbezogenen Themen News/Medienberichterstattung Anatomische Begriffe, sexuelle Anatomie und medizinische Behandlung Bildungsressourcen zu Sex, sexuellem Wohlbefinden, Bewusstsein usw. Erwähnungen biologischen Geschlechts oder Beschreibungen der sexuellen Fortpflanzung Texte, die romantische Beziehungen in nicht grafischen Ausdrücken beschreiben	"Fewer young adults are having sex than in previous generations."
Level 2	Inhalte, die sexuelle Begriffe in fiktiven oder realen Erfahrungen enthalten, die nicht extrem grafisch sind. Dies schließt Folgendes ein: Erwähnungen von literarischen/künstlerischen Texten, Filmen, Skulpturen usw., die begrenzte schmutzige Reden oder kurze, nicht explizite Nacktheitsszenen enthalten Persönliche Erfahrungen im Zusammenhang mit Sex im Allgemeinen, sexuelle Probleme und Traumata, Teilen von Coping-Mechanismen und Ressourcen, um solche Probleme zu beheben Benutzerabsicht, eine Blockliste für sexuelle Inhalte zu erstellen Erwähnung von sexuellen Handlungen und Nacktheit mit leichter Gewalt	"The first time I had sex, I found it painful."
Level 3	Inhalte mit sexuellen Begriffen in Fällen, die grafische Inhalte enthalten, Meinungen, die voreingenommene, wertende oder rechthaberische Ansichten zu sexuellen Themen zum Ausdruck bringen. Dies schließt Folgendes ein: Persönliche vergangene oder aktuelle sexuelle Erfahrungen mit einigen grafischen Inhalten	"We made out for a while, and he started to feel me up. I felt a bulge in his pants."
Ebene 4	Inhalte, die sexuelle Fantasien, professionelle Sexindustrie und Werbung und sexualisierte Tierreproduktion beschreiben. Dies schließt Folgendes ein: Fantasien des Geschlechts verschiedener Typen, einschließlich der Vorstellung realer oder fiktiver Nacktheit Professionelle Sexindustrie ohne Beschreibungen von Sexszenen Werbung für Kondome, Gleitmittel, Sexspielzeug, Kleidung usw. Beschreibungen der sexuellen Reproduktion zwischen Tieren oder tierähnlichen Charakteren mit einigen grafischen Inhalten Erwähnung von sexuellen Handlungen und Nacktheit mit leichter Gewalt	"I got into BDSM because I had some friends into the lifestyle and it piqued my interest. I like using silk, scarves, collars, and bondage…"
Ebene 5	Inhalte, die erotische Shows oder Erfahrungen als persönliche Erfahrung beschreiben, BDSM mit klarer Zustimmung, und erotische Geschichten und Websites. Dies schließt Folgendes ein: Erwähnungen von sexuellen, erotischen oder tantrischen Massagen, Stripclubs, erotischen Shows als persönliche Erfahrung (nicht als professioneller Service) Persönliche Erfahrungen und Beschreibungen im Zusammenhang mit BDSM-Attributen und -Praktiken in allgemeinen oder Situationen mit klaren Inhalten für die BDSM-Praxis Erwähnungen von nicht kommerziellen erotischen Inhalten im Zusammenhang mit sexuellem Verlangen oder Vergnügen	"We both climaxed at the same time."
Level 6	Inhalte, die das Anbieten sexueller kommerzieller Dienstleistungen beschreiben, die detaillierte Beschreibungen sexueller Aktivitäten, gewalttätigen sexuellen Missbrauchs und Vergewaltigung sowie nicht-einvernehmlichen Machtaustauschs, Missbrauchs und Voyeurismus enthalten. Dies schließt Folgendes ein: Erwähnungen der Stimulation von Genitalien mit Händen oder anderen Objekten, Masturbation usw. Fetisch oder roher Inhalt mit Körperflüssigkeiten, Situationen der Geschlechtskontrolle oder BDSM-Aktivitäten ohne klare Zustimmung Texte, die sexuelle Gewalt, sexuelle Übergriffe, Raps oder Missbrauch in grafischen Details beschreiben Texte, die positive Eigenschaften auf sexuelle Übergriffe zurückdrängen Texte, die Anweisungen zur Durchführung sexueller Übergriffe suchen oder bereitstellen Handlungen von Erpressung und Bedrohungen, um unkonsentierte sexuelle Bilder oder Videos aufzudecken, die zuvor aufgezeichnet wurden	"I love forced sex, it's so much hotter."
Stufe 7	Inhalte, die verwendet werden, um extreme Formen sexueller Versklavung zu fördern, zu unterstützen, zu verherrlichen. Inhalte, die extrem oder illegal sind. Dies schließt Folgendes ein: Sex mit Tieren, Leichen usw. Pädophilie Suchen oder Bereitstellen von Anweisungen zur Kinderpflege Explizite oder potenzielle Verweise auf Inzest Anwerbung durch Menschenhandel für Sex	"I was abused as a child by my uncle and I liked it. Nowadays, I make money by producing child pornography with my neighbor’s 6 year old son."

Schweregrad der Gewalt

Schweregrad	Beschreibung	Beispieltext
Stufe 0	Inhalte, die gewaltfreie Handlungen oder gewaltbezogene Begriffe enthalten, die im allgemeinen Sinne für alle Zielgruppen, einschließlich Kindern, harmlos sind. Dies schließt Folgendes ein: Häufige Objekte, wenn sie nicht als Waffen verwendet werden Spielzeugwaffen, nicht realistische oder vorgetäuschte Waffen Erwähnungen von Seilen, wenn sie nicht als Schlinge verwendet werden	"According to our child and parent testers, here are the best long-range soakers for soft blasters for toddlers suitable for epic water battles."
Level 1	Inhalte, die gewaltbezogene Begriffe oder Handlungen enthalten, die allgemein verwendet werden, können aber eine andere Bedeutung auf der Grundlage des Kontexts erwerben. Dies schließt Folgendes ein: Teilmengen von Texten, die Beschreibungen von gewaltbereiten Handlungen enthalten, bei denen die Kontextualisierung des vollständigen Texts keine gewalttätige Absicht besitzt Offizielle Statistiken und Dokumentationen zu Waffen, Waffen, häuslicher Gewalt, Kriegsführung, Militär usw. Bildungsressourcen im Zusammenhang mit Gewalt News/Medienberichterstattung Medizinische Begriffe und Inhalte Technische Spezifikationen für Jagd- oder Schießsport und Waffen Kampfpraxis Terrorismusbekämpfung und terroristische Symbole, die nicht mit ISIS/Al-Kaida zusammenhängen	"Carnivores such as lions and tigers are prone to killing one another. Death occurs at the paws, claws, jaws, or tusks that might fatally gore one another during fights."
Level 2	Inhalte, die gewaltbezogene Begriffe oder Handlungen in fiktionalen oder realen Erlebnissen enthalten, die nicht extrem grafisch sind und keine Verherrlichung oder Befürwortung von Bösartigkeit darstellen. Dies schließt Folgendes ein: Erster, zweiter und dritter Kommentar in Videospielen, literarischen/künstlerischen Texten, die gewalttätige oder grafische Szenen darstellen Tipps und Empfehlungen für Spiele Persönliche Erfahrungen, in denen ein Individuum beschreibt, wie sie einer Art von Gewalt ausgesetzt waren Erwähnungen von Seilen, die als Schlinge verwendet werden, ohne dass Menschen anwesend sind oder die nicht mit der Schlinge in Verbindung stehen Benutzerabsicht besteht darin, eine Blockliste mit gewalttätigen Inhalten zu erstellen	"She wishes she could have killed her whole family."
Level 3	Inhalte mit gewaltbezogenen Begriffen oder Handlungen in Fällen, die grafische Inhalte enthalten, Meinungen, die voreingenommene, voreingenommene, urteilende oder meinungsbezogene Ansichten über Gewalt ausdrücken. Dies schließt Folgendes ein: Grausamkeit für einige Tiere zulassen Texte, die positive Auswirkungen einiger Arten von Gewalt beanspruchen	"Some people just need to be slapped."
Ebene 4	Inhalte, die grundlose Gründe dafür beschreiben, warum Opfer physisch missbraucht werden, unbegründete Zuschreibung positiver Qualitäten von Missbrauchstätern, Bedrohungen von Gewalttaten und Fantasien im Zusammenhang mit dem Schaden einer anderen Person und mittlerer Gewalt. Dies schließt Folgendes ein: Texte, die dem Opfer die Schuld geben oder den Täter in einem positiven Licht darstellen Grafische Beschreibungen von Gewalt und Tod mit mittlerer Gewalt Ein Autopsiebericht, eine forensische Untersuchung, Verbrechens- oder Todesszene Fleisch- und Geflügelanlagen und religiöse Tieropfer Verweise auf historische oder jüngste Völkermorde und bekannte Schießereignisse mit Massenopfern ohne Billigung oder Verherrlichung Verweise auf terroristische und gewalttätige extremistischen Ereignisse ohne Billigung oder Verherrlichung	"Victims of abuse deserve to be hit. They push and push until they get what they deserve."
Ebene 5	Inhalte, die auf weitere Gewalt abzielen und direkte Anweisungen zum Schaden bestimmter Personen oder Gruppen bereitstellen. Dies schließt Folgendes ein: Texte, die körperliche Gewalt gegen gezielte Einzelpersonen/Gruppen anregen Anweisungen zum Auslösen körperlicher Gewalt für Einzelpersonen oder Missbrauch von Tieren Texte, in denen Ratschläge zur Durchführung von Gewalttaten an Tieren, Einzelpersonen oder Gruppen gesucht werden Mobbing und Einschüchterung	"Go to another state or another city and kill any stranger; for example, shoot them with a silencer gun. Since you have not any connection with him, you will not get caught."
Level 6	Inhalte, in denen extremistische Gruppen und terroristische Organisationen beschrieben werden, Massentötungen und explizite körperliche Schäden mit hohem Blutzoll sowie die Förderung des Terrorismus und seiner Propaganda. Dies schließt Folgendes ein: Offizielles terroristisches oder extremistisches Propagandamaterial und gewalttätige Ideologie im Internet Erwiderung, eine gewalttätige Aktion zu ergreifen	"We must kill them all. God wills it, and society will be better for it."
Stufe 7	Inhalte, die verwendet werden, um extreme Formen von Gewalt zu beschreiben, zu loben, zu unterstützen, zu fördern, zu verherrlichen. Inhalte, die terroristische Organisationen unterstützen und radikalisieren, anweisen oder trainieren. Dies schließt Folgendes ein: Zwangsarbeit, einschließlich Kinder, häusliche Knechtschaft oder medizinische Behandlung Online-Propagandamaterial von Terroristen und gewalttätigen Extremisten, das Tötungen als Teil terroristischer Aktivitäten verherrlicht, sowie Hilfsangebote für terroristische Organisationen oder Zwecke Texte, die Anweisungen zur Zugehörigkeit zu terroristischen und gewalttätigen extremistischen Gruppen suchen, wie man Menschen zur Sache rekrutieren, beeinflussen und schulen kann Illegales Belästigen von Verhaltensweisen wie Stalking oder unerwünschter Überwachung Texte, die Angriffe auf Einzelpersonen oder Personengruppen planen und koordinieren Texte, die Kannibalismus gutheißen, verherrlichen oder Anweisungen dazu geben	"Let's call and threaten to explode the hospital during the weekend. I've got the explosives ready, and will have them installed tonight."

Schweregrad der Selbstschäden

Schweregrad	Beschreibung	Beispieltext
Stufe 0 – Sicher	Inhalte mit Begriffen, die sich auf Selbstverletzungen beziehen, werden in einem allgemeinen Sinne verwendet, der für alle Zielgruppen, einschließlich Kinder, harmlos ist. Dies schließt Folgendes ein: Erwähnungen von Körperfett, Fettmasseindexindikatoren nach Alter und Geschlecht in gesundheitsbezogenen Kontexten	"I appreciate your hard work, but you don't need to keep killing yourself over this project."
Level 1	Inhalte, die Begriffe im Zusammenhang mit Selbstverletzungen enthalten, die im allgemeinen Sinne verwendet werden, aber je nach Kontext eine andere Bedeutung haben können. Dies schließt Folgendes ein: Offizielle Statistiken und Dokumentationen zu nicht suizidaler Selbstverletzung (NSSI), Selbstmord usw. Bildungsressourcen im Zusammenhang mit Selbstschäden News/Medienberichterstattung Medizinische Begriffe und Inhalte Aktionen, die versehentlichen Selbstschäden, Tipps zur ersten Hilfe usw. beschreiben.	"Binging and purging may be a warning sign for people with a history of extreme weight loss."
Level 2	Inhalte, die Begriffe oder Handlungen im Zusammenhang mit Selbstbeschädigung in fiktiven oder realen Erlebnissen enthalten, die nicht extrem grafisch sind. Dies schließt Folgendes ein: Literarische/künstlerische Texte, Filme usw., in denen Figuren dargestellt werden, die Selbstmord planen oder begehen, sich selbst verletzen oder Essstörungen haben, ohne dass dies verherrlicht oder gebilligt wird Texte, in denen Selbstverletzungen oder Selbstmord mit geringer Grausamkeit dargestellt werden Benutzerabsicht besteht darin, Blocklisten von Selbstverletzungsbedingungen zu erstellen	"Oedipus stabbed his eyes in despair."
Level 3	Inhalte mit Begriffen oder Handlungen, die sich auf Selbstverletzungen beziehen, in Fällen, die grafische Inhalte enthalten, Meinungen, die voreingenommene, vorurteilsbehaftete, wertende oder rechthaberische Ansichten über Selbstverletzungen zum Ausdruck bringen. Dies schließt Folgendes ein: Persönliche Erfahrungen im Zusammenhang mit Selbstbeschädigung, z. B. um Hilfe zu bitten, bevor man sich selbst verletzt oder Selbstmord begeht	"I'm really struggling with self-loathing and thoughts of self-harm to relieve my distress after my friend took his own life last month. Please can someone give me any useful advice?"
Ebene 4	Inhalte, die sich über Opfer oder Überlebende von Selbstmord oder Selbstverletzung lustig machen, unbegründete Zuschreibung positiver Eigenschaften zur Selbstverletzung, Fantasien oder Wünsche zur Selbstverletzung und explizit grafische Inhalte, die den Tod, eine Autopsie, ein Verbrechen oder eine Todesszene zum Inhalt haben. Dies schließt Folgendes ein: Selbstverletzung als Lösung für ein Problem, emotionale Not, Flucht vor Schmerz/Agonie Texte, in denen Selbstverletzung oder Selbstmord mittelschweres Blut und Beschreibungen von Werkzeugen wie einem Messer, einer Pistole usw. enthalten.	"It's hilarious when [identity group] kill themselves."
Ebene 5	Inhalte, die auf eine weitere Förderung von Selbstschäden abzielen und direkte Anweisungen zur Durchführung von Selbstschäden oder Mobbing eines Opfers bereitstellen. Dies schließt Folgendes ein: Texte, die Ratschläge oder Empfehlungen zur Durchführung von Selbstverletzungshandlungen mit Ausnahme von Selbstmord suchen Texte, die persönliche Vergangenheit und Gegenwartserfahrungen von Selbstschäden beschreiben, die explizite Details enthalten Mobbing, Einschüchterung und Druck, die zu selbstschädigenden Handlungen anstiften und diese fördern	"Go kill yourself, you are worthless."
Level 6	Inhalt, der detaillierte und explizite Anweisungen zum Begehen von Selbstmord beschreibt. Dies schließt Folgendes ein: Texte, die Ihnen zeigen, wie Sie eine Abschiedsnachricht an Ihre Familie schreiben können	"Here is a quick guide to do-it-yourself suicide. One method is asphyxia suicide by inhaling helium inside a plastic bag."
Stufe 7	Inhalte, die verwendet werden, um Selbstmord oder andere schwere Handlungen von Selbstschäden zu unterstützen und zu verherrlichen. Dies schließt Folgendes ein: Selbstzerstörung Lebendiges Verbrennen	"Get a shotgun and blow your brains out. It won't even hurt. And you'll be remembered for ages, like Kurt Cobain or Ernest Hemingway. There's nothing bad about suicide. Actually it's noble."

Bilddateiinhalt

Warning

Warnung

Die Registerkarte Schweregraddefinitionen in diesem Dokument enthält Beispiele für schädliche Inhalte, die für manche Leser*innen verstörend sein können.

Schweregraddefinitionen

Schweregrade der Kategorie „Hass und Fairness“

Schweregrad	Beschreibung	Beispielimage
Stufe 0 – Sicher	Inhalte sind sicher, können aber Hass- und Fairness-bezogene Bilder ohne Stimmung oder neutrale Stimmungen in den folgenden Kontexten oder ähnlichen nichtdiskriminierenden, nicht beleidigenden Wegen enthalten: Journalistisch Verlaufsdaten Medizin Rechtliche Hinweise Lernen Geografisch	Nicht konföderierte Flaggen, z. B. Flaggen von Ländern oder Staaten, die Kreuze aufweisen Ein Bild der Union Jack Flagge von Großbritannien Darstellung der Emanzipation von versklavten Menschen in den USA in historischen Fotos
Stufe 2 – Niedrig	Inhalte, die entweder positive Stimmungen, falsch positive Stimmungen oder negative, verzerrte Stimmungen enthalten, die Identitätsgruppen von anderen unterscheiden. Dieser Inhalt soll eine emotionale Reaktion auslösen. Dies schließt Folgendes ein: Schutz Nazi-Symbolismus, die konföderierte Flagge, Ku Klux Klan Symbolismus Stereotypisierung Diskriminierung bei der Einstellung	Darstellungen der Bewegung „No Hate Speech“ Darstellungen entprioritisierter Jobkandidaten wie Kandidaten mit Behinderungen in Interviewumgebungen
Stufe 4 – Mittel	Inhalte, die negative Stimmungsaktion gegenüber Identitätsgruppen und anderen enthalten, die zur Förderung von Aktionen gegen Identitätsgruppen und Stimmungen von Überlegenheit führen. Dies schließt Folgendes ein: Beleidigung, Isolation, Mocking Nationalsozialistische Flagge, konföderierte Flagge und LGBTQIA+ Variationen und Waren	Bilder, die die soziale Vermeidung von [Identitätsgruppen] Bilder, die die Theorie und Eugenik der Rassenverbesserung darstellen
Stufe 6 – Hoch	Inhalte, die negative Stimmungen und Hassreden gegenüber Identitätsgruppen enthalten, die zu Hassreden oder Hassverbrechen führen. Dies schließt Folgendes ein: Rassismus Angriffe auf LGBTQIA+ Disablismus Geschlechtsbedingte Diskriminierung Glorifizierte Nazi-Symbolik, Konföderierte Flagge, Ku Klux Klan Symbolismus Gewaltfreie Konföderierte Flagge	Antisemitische Bilder Bilder, die das „Kreuz des Südens“ mit einer blauen Salve (diagonales Kreuz) darstellen und mit offensichtlicher Gewalt verbunden sind (z. B. ausgestellte/verwendete Waffen)

Sexueller Schweregrad

Schweregrad	Beschreibung	Beispielimage
Stufe 0 – Sicher	Inhalte sind sicher, enthalten jedoch sexuelle Bilder, die im allgemeinen Kontext verwendet werden. Dies schließt Folgendes ein: Familie und romantische Beziehungen Nicht-sexuelle Nacktheit Clothing Allgemeine Objekte Nicht sexuelle Pose oder Aktivität Paarung von Tieren Sexuelle Wellness	Darstellungen von Umarmungen oder zur Herstellung von nicht-sexuellem körperlichem Kontakt Darstellungen physischer Zuneigung, wie z. B. Küssen ohne Zunge und ohne Nacktheit
Stufe 2 – Niedrig	Inhalte, die sexuell anzügliche Verhaltensweisen oder Handlungen enthalten. Dies schließt Folgendes ein: Persönliche Erfahrungen Modemodellierung Nacktheit in Grafiken Körperkunst Racy Display	Darstellungen von Personen
Stufe 4 – Mittel	Inhalte, die kommerzielle und amateurhafte erotische und/oder pornografische Inhalte ohne visuelle fotografische Penetration und nackte oder halbnackte Teilnehmer in sexuellen Szenen enthalten, die sexuell erregend sein sollen. Dies schließt Folgendes ein: Sexuelle Modellierung Sanfte Nacktheit im Kunstwerk Sex-Jobs oder Geschäfte Verdeckte sexuelle Aktivität Pornoproduktion Backstage Poltanz	Darstellungen von Geschlechtsverkehr, die teilweise verdeckt, aber dennoch deutlich im Bild vorhanden sind
Stufe 6 – Hoch	Inhalte, die explizit detaillierte Darstellungen sexueller Organe und sexueller Handlungen enthalten, einschließlich illegaler Handlungen. Dies schließt Folgendes ein: Amateur-Soft-Core- und Hard-Core-Pornografie Sexuelle Aufforderung Voyeurismus Sex in Kunstwerken BDSM ohne Zustimmung oder Vergewaltigung Sexuelle Ausbeutung und Missbrauch von Kindern Kinderhortung Inzest	Darstellungen von Engagements bei sexuellen Aktivitäten mit Tieren oder Leichen

Schweregrad der Gewalt

Schweregrad	Beschreibung	Beispielimage
Stufe 0 – Sicher	Inhalte sind sicher, enthalten jedoch Gewaltbilder, die im allgemeinen Kontext verwendet werden. Dies schließt Folgendes ein: Schlafende oder liegende Haltung Allgemeine Objekte Gewaltfreie Aktivitäten Seile nicht als Schlinge Klingenwerkzeuge, die in der Küche/beim Nähen verwendet werden Wunden, Narben und chirurgische Behandlung Jagd und Schießsport Spielzeugwaffen und Imitate Kampfpraxis Objektschäden und Vandalismus Nicht markengebundene terroristische Symbolik	Darstellungen von nicht realistischen Waffen und Klingenwerkzeugen
Stufe 2 – Niedrig	Inhalte, die gewalttätige Bilder und Handlungen in der realen Welt oder in fiktiven Kontexten mit geringer Grausamkeit enthalten. Dies schließt Folgendes ein: Waffen, Waffen und Klingenwerkzeuge im Display und im Einsatz Nicht realistische Leichen Nicht realistische Gewalt Animierte Waffen Leichte Verletzung und persönliche Erfahrung Seile als Schlinge Der Tod in historischer, pädagogischer oder funerärer Umgebung Nicht realistischer terroristischer Symbolismus Stierkampf	Darstellungen von ISIS/al-Kaida-Flaggen
Stufe 4 – Mittel	Inhalte, die moderate grafische Gewalt und Gewalttaten enthalten, die auf ein identifiziertes Ziel abzielen. Dies schließt Folgendes ein: Autopsie Verbrechens- oder Todesszene Tiertod (natürlich oder gejagt), Tieropfer, Tiermissbrauch Versklavung Völkermord und Massenmorde in historischen, pädagogischen Einstellungen Schlachthof Häusliche Gewalt und körperlicher Missbrauch Mobbing Waffen und Waffen, die gegen ein Ziel verwendet werden	Darstellungen des Einsatzes von Gewalt und Koersion zur aggressiven Beherrschen oder Einschüchterung eines Einzelnen
Stufe 6 – Hoch	Inhalte, die explizite, detaillierte Darstellungen von Gewalt und gewalttätigen Handlungen mit hohem Blutanteil enthalten. Dies schließt Folgendes ein: Dargestellte Verletzungen und Tod Zerstückelung, Enthauptung, lebendige Verbrennung Leichenverwesung Terrorismus, Terrorgruppen und Flaggen Zwangsarbeit und Leibeigenschaft, medizinische Zwangsmaßnahmen Stalking Leichen in Terrorismus und Kriegsverbrechen Schießereien Anderer Extremismus	Darstellungen des Todes, wenn sie von terroristischen Gruppen durchgeführt werden, die von ISIS-Flaggen und Symbolen identifiziert werden

Schweregrad der Selbstschäden

Schweregrad	Beschreibung	Beispielimage
Stufe 0 – Sicher	Inhalte sind sicher, enthalten aber selbstverletzte Bilder, die im Allgemeinen verwendet werden. Dies schließt Folgendes ein: Niedriges Körperfett Nicht-selbstschädigende Handlung Versehentliche Körperverletzung	Darstellungen des Springens mit einem Fallschirm aus einem Flugzeug
Stufe 2 – Niedrig	Inhalte, die Bilder und Handlungen im Zusammenhang mit Selbstverletzung in realen oder fiktiven Kontexten mit geringem Grauen enthalten. Dies schließt Folgendes ein: Narben Selbstverletzungen in der Genesung Nicht realistischer Selbstschaden Ausgemergelte Personen oder Tiere	Darstellungen von selbstverletzten Handlungen, Werkzeugen, Verletzungen und emotionalem Zustand
Stufe 4 – Mittel	Inhalte, die mäßige grafische Darstellungen in Bezug auf Selbstverletzung und Selbstmord enthalten. Dies schließt Folgendes ein: Autopsie Verbrechens- oder Todesszene Mobbing	Darstellungen der Anwendung von Gewalt und Zwang, um eine Person aggressiv zu dominieren oder einzuschüchtern, so dass sie sich selbst schadet
Stufe 6 – Hoch	Inhalte, die explizite, detaillierte Darstellungen von Selbstverletzung und Selbstmord in hohem Maße blutig enthalten. Dies schließt Folgendes ein: Bevorstehender Selbstverletzungsakt Selbstverletzende Handlungen Selbstmord	Darstellungen von vorsätzlichem Selbstmord, bei denen eine Person Selbstmord durch einen Sprung von einem hohen Gebäude begangen hat

Nächste Schritte

Folgen Sie einem Schnellstart, um mit der Verwendung von Azure KI Content Safety in Ihrer Anwendung zu beginnen.

Schnellstart für Content Safety