Kategorie szkód w bezpieczeństwie zawartości usługi Azure AI

W tym przewodniku opisano wszystkie kategorie szkód i oceny używane przez bezpieczeństwo zawartości sztucznej inteligencji platformy Azure do flagowania zawartości. Zarówno tekst, jak i zawartość obrazu używają tego samego zestawu flag.

Kategorie szkód

Bezpieczeństwo zawartości rozpoznaje cztery odrębne kategorie niepożądanej zawartości.

Kategoria	opis	Termin interfejsu API
Nienawiść i sprawiedliwość	Nienawiść i sprawiedliwość szkody odnoszą się do wszelkich treści, które atakują lub używają dyskryminującego języka w odniesieniu do osoby lub grupy tożsamości w oparciu o pewne atrybuty różnicowe tych grup. Są to między innymi systemy: Rasa, pochodzenie etniczne, narodowość Grupy i wyrażenia tożsamości płci Orientacja seksualna Religia Wygląd osobisty i rozmiar ciała Stan niepełnosprawności Nękanie i zastraszanie	Hate
Seksualny	Seksualny opisuje język związany z anatomicznymi narządami i genitaliami, romantycznymi relacjami i aktami seksualnymi, aktami przedstawionymi w erotycznych lub pieszczotliwych warunkach, w tym tych przedstawianych jako napaść lub wymuszony akt przemocy seksualnej przeciwko woli.   Obejmuje ona między innymi następujące dokumenty: Wulgarna zawartość Prostytucja Nagość i pornografia Nadużycie Wykorzystywanie dzieci, wykorzystywanie dzieci, pielęgnacja dzieci	Sexual
Przemoc	Przemoc opisuje język związany z działaniami fizycznymi mającymi na celu zranienie, uszkodzenie, uszkodzenie lub zabicie kogoś lub coś; opisuje broń, broń i powiązane jednostki. Obejmuje to, ale nie jest ograniczone do: Broni Zastraszanie i zastraszanie Terroryzm i brutalny ekstremizm Stalking	Violence
Samookaleczenia	Samookaleczenia opisuje język związany z działaniami fizycznymi, które mają celowo zaszkodzić, zranić, uszkodzić ciało lub zabić siebie. Obejmuje to, ale nie jest ograniczone do: Zaburzenia odżywiania Zastraszanie i zastraszanie	SelfHarm

Klasyfikacja może być oznaczona wieloma etykietami. Na przykład gdy przykładowy tekst przechodzi przez model moderowania tekstu, może zostać sklasyfikowany jako zawartość seksualna i przemoc.

Poziomy ważności

Każda kategoria szkody, która ma zastosowanie, ma również klasyfikację poziomu ważności. Poziom ważności ma wskazywać ważność konsekwencji pokazywania oflagowanych zawartości.

Tekst: bieżąca wersja modelu tekstu obsługuje pełną skalę ważności od 0 do 7. Klasyfikator wykrywa wszystkie ważności w tej skali. Jeśli użytkownik określi, może zwrócić ważność w przyciętej skali 0, 2, 4 i 6; każdy z dwóch sąsiednich poziomów jest mapowany na jeden poziom.

• [0,1] ->0
• [2,3] ->2
• [4,5] ->4
• [6,7] ->6

Obraz: Bieżąca wersja modelu obrazu obsługuje przyciętą wersję pełnej skali ważności od 0 do 7. Klasyfikator zwraca tylko ważności 0, 2, 4 i 6.

• 0
• 2
• 4
• 6

Obraz z tekstem: bieżąca wersja modelu wielomodalnego obsługuje pełną skalę ważności 0–7. Klasyfikator wykrywa wszystkie ważności w tej skali. Jeśli użytkownik określi, może zwrócić ważność w przyciętej skali 0, 2, 4 i 6; każdy z dwóch sąsiednich poziomów jest mapowany na jeden poziom.

• [0,1] ->0
• [2,3] ->2
• [4,5] ->4
• [6,7] ->6

Zawartość tekstowa

Ostrzeżenie

Ostrzeżenie

Karta Definicje ważności w tym dokumencie zawiera przykłady szkodliwej zawartości, która może być niepokojąca dla niektórych czytelników.

Definicje ważności

Poziomy ważności nienawiści i sprawiedliwości

Poziom ważności	Opis	Przykładowy tekst
Poziom 0	Zawartość zawierająca terminy związane z nienawiścią i sprawiedliwością używane w ogólnym sensie i jest odpowiednia dla wszystkich odbiorców docelowych, w tym dla dzieci. Obejmuje to: Ogólny, pejoracyjny język wyrażający niechęć do grup tożsamości Ogólne wzmianki o atrybutach grupy tożsamości, takich jak rasa, pochodzenie etniczne, religia itp. w historycznych, geograficznych, medycznych i innych podobnych kontekstach bez sentymentu Ogólne terminy, które nie mają rasowych podtonów obraźliwych intencji poza kontekstem	I hate cats.
Poziom 1	Zawartość zawierająca terminy związane z nienawiścią i sprawiedliwością używane w ogólnym sensie, ale może uzyskać inne znaczenie na podstawie kontekstu i nie rozróżnia grup tożsamości i innych w sposób stronniczy lub negatywny. Obejmuje to: Oficjalne statystyki, ustawodawstwo lub dokumentacja Wiadomości/media Zasoby edukacyjne mające na celu podniesienie świadomości na temat różnorodności/walki z mową nienawiści Produkty do wybielania skóry i reklamy leczenia Wzmianki o indo-Eurasian swasika, flagi konfederacji, grup innych niż KKK, które mają wizualne podobieństwo z KKK	Black people should not be killed by police or mistreated just because of their skin color.
Poziom 2	Zawartość zawierająca pozytywną charakterystykę lub ochronę grup tożsamości, które wyzwalają pozytywną reakcję emocjonalną. Obejmuje to: Slurs napisane w pełni w dokumentach badawczych, słownikach lub mediach z bezpośrednimi cytatami Instrukcje osoby mówiącej, która należy do grupy tożsamości bez zamiaru kierowania tej samej grupy tożsamości Przekląć słowa, wulgaryzmy i słowne obelgi, które nie są celem grupy tożsamości Ogólna mowa nienawiści przeznaczona dla niezidentyfikowanych osób/grup bez określania grupy tożsamości Intencja użytkownika dotycząca tworzenia listy zablokowanych obraźliwych terminów Reprezentacje nazistowskich Niemiec, Hitlera, flagi konfederacji i symboliki Ku Klux Klanu w filmach, grach wideo, kostiumach, zabawkach, reenactments lub online slangu	I hate you.
Poziom 3	Zawartość zawierająca uprzedzone, osądalne, stereotypowe charakteryzowanie lub negatywne nastroje. Obejmuje to: Opinia oparta na stereotypach lub negatywnych nastrojach Wyraża uprzedzone, osądzone lub opiniowane poglądy Ujemne lub pozytywne porównania różniące się między grupami tożsamości i innymi. Wzmianki w fikcyjnych światach Dyskryminacja ze względu na zatrudnienie w miejscach pracy Historyczne fakty i artefakty związane z nazistowskimi Niemcami, flagą Konfederacji podczas wojny domowej USA lub Ku Klux Klanu	I don't like [identity group] because they are all so aggressive. They attacked us over and over again for no reason at all.
Level 4	Zawartość zawierająca bezpośrednie zniewagi motywowane tonacją słowną, negatywne komentarze i oszukiwy rasowe używane jako opisy ukierunkowane na grupy tożsamości z zamiarem zranienia osób na podstawie ich atrybutów. Obejmuje to: Odwołania używane do celu wyścigu, koloru skóry Promowanie unikania unikania i izolacji społecznej Pozorowanie i imitowanie atrybutów grup tożsamości	All [identity group] are ugly.
Poziom 5	Treść zawierająca dehumanizację lub odstępstwo od osób lub grup, które dodatkowo negatywną tonację poprzez dehumanizację, przemoc, zaprzeczenie wydarzeń, zastraszanie lub zastraszanie zachowań. Obejmuje to: Teksty, które odmawiają historycznych, dobrze udokumentowanych i brutalnych wydarzeń, takich jak Holokaust Teksty, które opisują osoby lub grupy jako fizycznie lub psychicznie gorsze w oparciu o członkostwo w grupie tożsamości Teksty, które kwestiują, zaprzeczają lub poniżają istnienie grupy tożsamości Wymuszanie żądanych/oczekiwanych atrybutów Eugenics i "poprawa rasowa" teorie, które są celem grup tożsamości Nowoczesne towary zawierające nazistowskie, flagi konfederacji lub symbole KKK	The [real world event] is a fraud. What we've discovered is that sources have been lying about the number of victims. Here is proof.
Poziom 6	Zawartość oparta na negatywnym nastroju i mowy nienawiści w grupach tożsamości. Odwołując się do cech grup, które odróżniają grupę tożsamości i inne osoby oraz odwołując się do podjęcia działań w odniesieniu do grup tożsamości na podstawie ich atrybutów. Może to obejmować: Propaganda mowy nienawiści, która może być postrzegana jako bezpośrednie zagrożenie lub wezwanie do przemocy wobec grupy tożsamości Zapalające, obraźliwe i wulgarne przemówienie z nienawiści Teksty, które rzekomo twierdzą, że wyższość jednej grupy nad tymi, którzy mają atrybuty grup tożsamości w celu uzasadnienia dyskryminacji, segregacji lub wykluczenia Teksty opisujące radość dotyczące brutalnego wydarzenia, które skierowane do grupy tożsamości	Send [identity group] back to the gas chambers.
Poziom 7	Treści oparte na negatywnych nastrojach, wykazując zamiar przestępstw z nienawiści i prześladowania, wywołując wrogą reakcję emocjonalną i różnicując grupy tożsamości i inne prowadzące do przestępstwa. Obejmuje to: Przygotowanie, pochwała i gloryfikacja przemocy wobec grupy tożsamości Teksty zawierające materiały rekrutacyjne grup supremacji Teksty przeznaczone do radykalizacji i zachęcania do mowy nienawiści przeciwko grupie tożsamości	Millions of [identity group] were wiped out because they were the inferior race. Murdering them continues to be right and honorable because…

Poziomy nasilenia seksualnego

Poziom ważności	Opis	Przykładowy tekst
Poziom 0	Treści zawierające terminy związane z seksem używane w ogólnym sensie, które są nieszkodliwe dla wszystkich odbiorców docelowych, w tym dla dzieci. Wzmianki o relacjach rodzinnych Zawartość nieszkodliwa dla wszystkich odbiorców docelowych, w tym elementów podrzędnych	The sports bra and yoga pants were too tight for comfort.
Poziom 1	Zawartość zawierająca ogólnie używane terminy powiązane seksualnie, ale może uzyskać inne znaczenie na podstawie kontekstu. Obejmuje to: Oficjalne statystyki i dokumentacja tematów związanych z seksem Wiadomości/media Terminy anatomiczne, anatomia seksualna i leczenie Zasoby edukacyjne dotyczące seksu, odnowy biologicznej seksualnej, świadomości itp. Wzmianki o płci biologicznej lub opisach reprodukcji seksualnej Teksty, które opisują romantyczne relacje w kategoriach niegraficznych	Fewer young adults are having sex than in previous generations.
Poziom 2	Zawartość zawierająca terminy związane z seksem w fikcyjnych lub rzeczywistych doświadczeniach, które nie są niezwykle graficzne. Obejmuje to: Wzmianki o tekstach literackich/artystycznych, filmach, rzeźbach itp., które zawierają ograniczone brudne rozmowy lub krótkie niejednoznaczne sceny nagości Osobiste doświadczenia związane z seksem w ogóle, problemy seksualne i traumy, dzielenie się mechanizmami radzenia sobie z mechanizmami i zasobami w celu rozwiązania takich problemów Intencja użytkownika dotycząca tworzenia listy zablokowanych zawartości seksualnej Wzmianki o aktach seksualnych i nagości z lekkim rdzeniem	My husband and I introduced a vibrator to our sex life and it has really made a difference.
Poziom 3	Treści z terminami powiązanymi seksualnie w przypadkach, które zawierają niektóre treści graficzne, opinie wyrażające stronniczy, uprzedzony, osądzony lub opinii na temat kwestii związanych z seksem. Obejmuje to: Osobiste doświadczenia seksualne lub osobiste z niektórymi treściami graficznymi	We made out for a while, and he started to feel me up. I felt a bulge in his pants.
Level 4	Treści opisujące fantazje seksualne, profesjonalny przemysł seksualny i reklamy oraz seksualizowaną reprodukcję zwierząt. Obejmuje to: Fantazje o seksie różnych typów, w tym wyobrażanie sobie prawdziwej lub fikcyjnej nagości Profesjonalny przemysł seksualny bez opisów scen seksualnych Reklamy prezerwatywy, smarów, zabawek erotycznych, odzieży itp. Opisy reprodukcji seksualnej między zwierzętami lub postaciami przypominającymi zwierzęta z zawartością graficzną Wzmianki o aktach seksualnych i nagości z miękkim rdzeniem	I got into BDSM because I had some friends into the lifestyle and it piqued my interest. I like using silk, scarves, collars, and bondage…
Poziom 5	Treści opisujące erotyczne pokazy lub doświadczenia jako osobiste doświadczenie, BDSM z wyraźną zgodą i erotyczne historie i strony internetowe. Obejmuje to: Wzmianki o masażach seksualnych, erotycznych lub tantrycznych, klubach striptizowych, erotycznych pokazach jako doświadczenia osobistego (a nie jako profesjonalnej usługi) Osobiste środowiska i opisy związane z atrybutami i praktykami BDSM w ogóle lub w sytuacjach z wyraźną zawartością praktyki BDSM Wzmianki o niekomercyjnych treści erotycznych związanych z pragnieniem seksualnym lub przyjemnością	We both climaxed at the same time.
Poziom 6	Treść opisująca prośbę o usługi handlowe seksualne, zawierająca szczegółowe opisy aktywności seksualnej, brutalnego wykorzystywania seksualnego i gwałtu oraz niekonseksualnych wymian władzy, nadużyć i voyeurism. Obejmuje to: Wzmianki o stymulacji narządów płciowych z rękami lub innymi przedmiotami, masturbacją itp. Fetysz lub surowa zawartość obejmująca płyny ciała, sytuacje kontroli seksualnej lub działania BDSM bez wyraźnej zgody Teksty opisujące przemoc seksualną, napaść seksualną, gwałt lub nadużycia w szczegółach graficznych Teksty, które przypisywać pozytywne cechy napaść seksualną Teksty, które szukają lub dostarczają instrukcji wykonania napaści seksualnej Akty szantażu i gróźb ujawniających niekonsekwowane obrazy seksualne lub filmy wcześniej nagrane	I love forced sex, it's so much hotter.
Poziom 7	Treści wykorzystywane do promowania, wspierania, gloryfikacji ekstremalnych form zniewolenia seksualnego. Zawartość skrajna lub nielegalna. Obejmuje to: Seks ze zwierzętami, zwłokami itp. Pedofilia Szukanie lub dostarczanie instrukcji dotyczących pielęgnacji dzieci Jawne lub potencjalne odwołania do kazirodztwa Rekrutacja handlu ludźmi do handlu ludźmi	I was abused as a child by my uncle and I liked it. Nowadays, I make money by producing child pornography with my neighbor’s 6 year old son.

Poziom nasilenia przemocy

Poziom ważności	Opis	Przykładowy tekst
Poziom 0	Treści, które zawierają działania bez przemocy lub terminy związane z przemocą używane w ogólnym sensie, które są nieszkodliwe dla wszystkich odbiorców docelowych, w tym dla dzieci. Obejmuje to: Typowe obiekty, gdy nie są używane jako broń Pistolety do zabawek, nierealistyczne lub udawane pistolety Wzmianki o linach, gdy nie są używane jako ose	According to our child and parent testers, here are the best long-range soakers for soft blasters for toddlers suitable for epic water battles.
Poziom 1	Treści zawierające terminy lub akty związane z przemocą używane w ogólnym sensie, ale mogą uzyskać inne znaczenie na podstawie kontekstu. Obejmuje to: Podzestawy tekstów, które zawierają opisy aktów przemocy, gdzie kontekstyzacja pełnego tekstu nie ma brutalnej intencji Oficjalne statystyki i dokumentacja dotycząca broni, broni, przemocy domowej, wojny, wojska itp. Zasoby edukacyjne związane z przemocą Wiadomości/media Terminy i treści medyczne Specyfikacje techniczne polowania lub fotografowania Praktyka bojowa Antyterrorystycy i symbole terrorystyczne niezwiązane z ISIS/Al-Kaidą	Carnivores such as lions and tigers are prone to killing one another. Death occurs at the paws, claws, jaws, or tusks that might fatally gore one another during fights.
Poziom 2	Treści zawierające terminy lub akty związane z przemocą w fikcyjnych lub rzeczywistych doświadczeniach, które nie są niezwykle graficzne i bez gloryfikacji lub poparcia malintent. Obejmuje to: Po pierwsze, druga i trzecia osoba narracja w grach wideo, teksty literackie/ artystyczne, które przedstawiają brutalne lub graficzne sceny Porady i zalecenia dotyczące gier Osobiste doświadczenia, w których osoba opisuje, jak były narażone na jakąś przemoc Wzmianki o linach używanych jako noose bez przedmiotów ludzkich obecnych lub niezwiązanych z ose Intencją użytkownika jest utworzenie listy zablokowanych z brutalną zawartością	Physical punishment is a way to correct bad behavior and doesn’t cause harm to children.
Poziom 3	Treści z terminami lub aktami związanymi z przemocą w przypadkach, które zawierają pewne treści graficzne, opinie wyrażające stronniczość, uprzedzone, osądzone lub opiniowane poglądy na temat przemocy. Obejmuje to: Zezwolenie na okrucieństwo dla niektórych zwierząt Teksty twierdzące pozytywny wpływ niektórych rodzajów przemocy	Some people just need to be slapped.
Level 4	Treść opisująca nieuzasadnione uzasadnienie, dlaczego ofiary są fizycznie nadużywane, bezpodstawne przypisywanie pozytywnych cech nadużyć, groźby brutalnych aktów i fantazji związanych z tym, jak skrzywdzić inną osobę i średni gore. Obejmuje to: Teksty, które stawiają ofiarę na winę lub przedstawiają sprawców w pozytywnym świetle Graficzne opisy przemocy i śmierci ze średnim gore Raport z sekcji zwłok, dochodzenie kryminalistyczne, przestępstwo lub miejsce śmierci Obiekty mięsa i drobiu oraz religijne ofiary zwierząt Odniesienia do historycznych lub ostatnich ludobójstw i znanych wydarzeń strzelanin z masowymi ofiarami bez poparcia lub gloryfikacji Odniesienia do wydarzeń terrorystycznych i brutalnych ekstremistycznych bez poparcia lub gloryfikacji	Victims of abuse deserve to be hit. They push and push until they get what they deserve.
Poziom 5	Treści mające na celu dalszą przemoc, dostarczając bezpośrednie instrukcje dotyczące szkodzenia konkretnym osobom lub grupom. Obejmuje to: Teksty, które podżegają do przemocy fizycznej wobec docelowych osób/grup Instrukcje dotyczące sposobu spowodowania przemocy fizycznej wobec osób fizycznych lub nadużyć wobec zwierząt Teksty szukające porady na temat wykonywania brutalnych aktów na zwierzętach, osobach lub grupach Zastraszanie i zastraszanie	Go to another state or another city and kill any stranger; for example, shoot them with a silencer gun. Since you have not any connection with him, you will not get caught.
Poziom 6	Treść opisująca grupy ekstremistyczne i organizacje terrorystyczne, masowe zabójstwa i wyraźne szkody fizyczne w wysokim gore oraz promowanie terroryzmu i jego propagandy. Obejmuje to: Oficjalne materiały propagandowe terrorystyczne lub ekstremistycznej i brutalnej ideologii w Internecie Podżeganie do podjęcia brutalnych działań	We must kill them all. God wills it, and society will be better for it.
Poziom 7	Treści używane do opisywania, pochwały, wspierania, promowania, popierania, gloryfikacji skrajnych form przemocy. Treści, które wspierają organizacje terrorystyczne i radykalizują, instruują lub trenują. Obejmuje to: Praca przymusowa, w tym dzieci, służba domowa lub leczenie Online terrorysta i brutalne materiały propagandowe ekstremistycznych, które gloryfikują zabójstwa w ramach działalności terrorystycznej i pomocy oferuje organizacjom terrorystycznym lub przyczynom Teksty, które szukają instrukcji dotyczących przynależności do grup terrorystycznych i brutalnych ekstremistów na temat sposobu rekrutacji, wpływów i szkolenia ludzi w kierunku sprawy Nielegalne nękanie zachowań, takich jak prześladowanie lub niechciany nadzór Teksty, które planują i koordynują ataki na osoby lub grupy ludzi Teksty, które popierają, gloryfikują lub dostarczają instrukcji dotyczących kanibalizmu	Let's call and threaten to explode the hospital during the weekend. I've got the explosives ready, and will have them installed tonight.

Poziomy ważności samookaleczenia

Poziom ważności	Opis	Przykładowy tekst
Poziom 0 — bezpieczny	Zawartość zawierająca terminy związane z samookaleczeniami używane w ogólnym sensie, które są nieszkodliwe dla wszystkich odbiorców docelowych, w tym dla dzieci. Obejmuje to: Wzmianki o tkankach tłuszczowej, wskaźnik masy tłuszczowej według wieku i płci w kontekstach związanych z zdrowiem	I appreciate your hard work, but you don't need to keep killing yourself over this project.
Poziom 1	Zawartość zawierająca terminy związane z samookaleczeniami używane w ogólnym sensie, ale może uzyskać inne znaczenie na podstawie kontekstu. Obejmuje to: Oficjalne statystyki i dokumentacja na temat nieuśmiernej samoobrażeń (NSSI), samobójstwa itp. Zasoby edukacyjne związane z samookaleczeniami Wiadomości/media Terminy i treści medyczne Akcje, które opisują przypadkowe samookaleczenia, porady dotyczące pierwszej pomocy itp.	Binging and purging may be a warning sign for people with a history of extreme weight loss.
Poziom 2	Zawartość zawierająca terminy lub akty związane z samookaleczeniami w fikcyjnych lub rzeczywistych środowiskach, które nie są niezwykle graficzne. Obejmuje to: Teksty literackie/artystyczne, filmy itp. przedstawiające postacie kreślące lub popełniające samobójstwo, angażowanie się w samookaleczenia lub nieuporządkowane jedzenie bez gloryfikacji lub poparcia Teksty, w których akty samookaleczenia lub samobójstwo są przedstawiane z niskim gore Intencją użytkownika jest utworzenie listy zablokowanych terminów samookaleczenia	Oedipus stabbed his eyes in despair.
Poziom 3	Treści z terminami lub aktami związanymi z samookaleczeniami w przypadkach zawierających niektóre treści graficzne, opinie wyrażające stronniczość, uprzedzone, osądzone lub opinii na temat samookaleczenia. Obejmuje to: Osobiste doświadczenia związane z samookaleczeniami, takie jak prośba o pomoc przed skrzywdzeniem siebie lub popełnieniem samobójstwa	I'm really struggling with self-loathing and thoughts of self-harm to relieve my distress after my friend took his own life last month. Please can someone give me any useful advice?
Level 4	Treści, które drwią z ofiar lub ocalałych z samobójstwa lub samookaleczenia, bezpodstawne przypisywanie pozytywnych cech do samookaleczenia, fantazji lub życzeń samookaleczenia i zawiera jawnie graficzne treści z udziałem śmierci, sekcji zwłok, zbrodni lub miejsca śmierci. Obejmuje to: Samourażenie przedstawione jako rozwiązanie problemu, emocjonalnego niepokoju, ucieczki od bólu / agonii Teksty, w których samookaleczenia lub samobójstwa zawierają średni gore i opisy narzędzi, takich jak nóż, pistolet itp.	It's hilarious when [identity group] kill themselves.
Poziom 5	Treści mające na celu dalszą promocję samookaleczenia, zapewniając bezpośrednie instrukcje dotyczące wykonywania samookaleczenia lub zastraszania ofiary. Obejmuje to: Teksty, które szukają porad lub zaleceń dotyczących wykonywania działań samookaleczenia z wyjątkiem samobójstw Teksty, które opisują osobistą przeszłość i obecne doświadczenia samookaleczenia, które zawierają wyraźne szczegóły Zastraszanie, zastraszanie i naciskanie, które podżega i promuje działania samookaleczenia	Go kill yourself, you are worthless.
Poziom 6	Zawartość opisująca szczegółowe i wyraźne instrukcje dotyczące sposobu popełnienia samobójstwa. Obejmuje to: Teksty, które instruują, jak napisać pożegnanie się z rodziną	Here is a quick guide to do-it-yourself suicide. One method is asphyxia suicide by inhaling helium inside a plastic bag.
Poziom 7	Treści używane do poparcia i gloryfikacji samobójstwa lub innych poważnych aktów samookaleczenia. Obejmuje to: Samodzielna dekapitacja Płonące żywcem	Get a shotgun and blow your brains out. It won't even hurt. And you'll be remembered for ages, like Kurt Cobain or Ernest Hemingway. There's nothing bad about suicide. Actually it's noble.

Zawartość obrazu

Ostrzeżenie

Ostrzeżenie

Karta Definicje ważności w tym dokumencie zawiera przykłady szkodliwej zawartości, która może być niepokojąca dla niektórych czytelników.

Definicje ważności

Poziomy ważności nienawiści i sprawiedliwości

Poziom ważności	Opis	Przykład obrazu
Safe	Zawartość jest bezpieczna, ale może zawierać obrazy związane z nienawiścią i sprawiedliwością bez tonacji ani neutralnych nastrojów w sposób niedyskryminacyjny w następujących kontekstach lub podobnych do następujących: Dziennikarski Historyczne Medyczne Informacje prawne Wykształcenie Geograficzny	Flagi niefederatowe, np. flagi krajów lub państw, które zawierają krzyże Obraz flagi Jack Unii Wielkiej Brytanii Przedstawienie emancypacji zniewolonych ludzi w USA na zdjęciach historycznych
Niski	Zawartość zawierająca pozytywne tonacje, fałszywie dodatnie tonacje lub negatywne, stronnicze tonacje różniące się od innych grup tożsamości. Ta zawartość ma na celu wyzwolenie odpowiedzi emocjonalnej. Obejmuje to: Ochrona Symbolizm nazistowski, flaga konfederacji, symbolika Ku Klux Klanu Stereotypy Dyskryminacja ze względu na zatrudnienie	Reprezentacje ruchu "No Hate Speech" Reprezentacje przestarzałych kandydatów do pracy, takich jak kandydaci niepełnosprawni w ustawieniach wywiadów
Śred.	Zawartość zawierająca negatywne działania sentymentu w stosunku do grup tożsamości i innych, które prowadzą do promowania działań w stosunku do grup tożsamości i sentymentów wyższości. Obejmuje to: Obraza, izolacja, szyderstwo Flaga nazistowska, flaga konfederacji i odmiany i towary LGBTQIA+	Obrazy, które promują unikanie społeczne [grup tożsamości] Imagery, które przedstawia teorię poprawy rasowej i eugeniki
Wys.	Zawartość zawierająca negatywne uczucia i mowę nienawiści wobec grup tożsamości prowadzących do generowania mowy nienawiści lub przestępstw z nienawiści. Obejmuje to: Rasizm Ataki na LGBTQIA+ Wyłączanie Dyskryminacja ze względu na płeć Glorified nazistowski symbolizm, flaga Konfederacji, symbolika Ku Klux Klan Flaga brutalnej konfederacji	Antysemickie obrazy obrazów przedstawiające "Południowy Krzyż", który zawiera niebieski saltire (ukośny krzyż) z przynależnością do oczywistej przemocy (np. broni w wyświetlaczu/użyciu)

Poziomy nasilenia seksualnego

Poziom ważności	Opis	Przykład obrazu
Safe	Zawartość jest bezpieczna, ale zawiera obrazy związane z seksem używane w ogólnym sensie. Obejmuje to: Relacje rodzinne i romantyczne Nagość nieseksualnych Odzież Typowe obiekty Nieseksualnych pozy lub aktywności Krycie zwierząt Wellness seksualna	Reprezentacje przytulania lub tworzenia nieseksualnych reprezentacji fizycznych reprezentujących fizyczny pokaz miłości, takich jak całowanie bez języka i bez nagości
Niski	Zawartość zawierająca zachowania lub akty sugestywne seksualnie. Obejmuje to: Środowiska osobiste Modelowanie mody Nagość w sztuce Sztuka ciała Ekran racy	Przedstawianie osób
Śred.	Treści zawierające treści komercyjne i amatorskie erotyczne i/lub pornograficzne bez wizualnej penetracji i nagich lub półnagich uczestników zaangażowanych w sceny seksualne mające być podniecenie seksualne. Obejmuje to: Modelowanie seksualne Miękka nagość w sztuce Praca seksualna lub sklepy Zaciemniana aktywność seksualna Scena produkcji porno Taniec po biegunie	Obrazy stosunku, które mogą być częściowo okludium, ale nadal wyraźnie obecne na obrazie
Wys.	Treść zawierająca wyraźne szczegółowe przedstawienie narządów seksualnych i aktów seksualnych, w tym nielegalnych aktów. Obejmuje to: Amatorski soft-core i hard-core pornografii Nakłanianie seksualne Podglądaczy Seks w sztuce BDSM bez zgody lub gwałtu Wykorzystywanie seksualne dzieci i wykorzystywanie seksualne Pielęgnacja dzieci Kazirodztwo	Obrazy zaręczyn w działaniach seksualnych ze zwierzętami lub zwłokami

Poziom nasilenia przemocy

Poziom ważności	Opis	Przykład obrazu
Safe	Zawartość jest bezpieczna, ale zawiera obrazy związane z przemocą używane w ogólnym sensie. Obejmuje to: Spanie lub układanie pozy Typowe obiekty Aktywność niezwiązana z przemocą Liny nie jako ose Narzędzia w bloku używane w kuchni/szyciu Rany, blizny i leczenie chirurgiczne Sport myśliwski i strzelecki Zabawka i udawanie broni Praktyka bojowa Uszkodzenie obiektu i wandalizm Symbolika terrorystyczna oznaczona marką	Przedstawianie nierealistycznej broni i narzędzi ostrze
Niski	Zawartość zawierająca obrazy i akty związane z przemocą w prawdziwym świecie lub fikcyjnych kontekstach z niskim gore. Obejmuje to: Broń, broń i narzędzia ostrze w wyświetlaczu i w użyciu Nierealistyczne zwłoki Nierealna przemoc Animowana broń Lekkie urazy i doświadczenie osobiste Liny jako noose Śmierć w ustawieniach historycznych, edukacyjnych lub zabawnych Nierealistyczne symboliki terrorystyczne Walki byków	Obrazy flag ISIS/Al-Kaidy
Śred.	Treści zawierające umiarkowaną przemoc graficzną i akty przemocy mające na celu zidentyfikowanie celu. Obejmuje to: Autopsja Miejsce zbrodni lub śmierci Śmierć zwierząt (naturalna lub polowana), ofiara zwierząt, nadużycie zwierząt Zniewolenia Ludobójstwo i masowe zabójstwa w historycznych, edukacyjnych ustawieniach Rzeźnia Przemoc domowa i fizyczne wykorzystywanie Znęcanie się Broń i broń w użyciu przeciwko celowi	Przedstawienie użycia siły i przymusu do agresywnego zdominowania lub zastraszania osoby
Wys.	Zawartość zawierająca wyraźne szczegółowe przedstawienie przemocy i aktów przemocy w wysokim gore. Obejmuje to: Graficzne obrażenia i śmierć Rozczłonkowanie, dekapitacja, płonąca żywa Dekompozycja zwłok Terroryzm, grupy terrorystyczne i flagi Praca przymusowa i służebność, przymusowa procedura medyczna Stalking Zwłoki w terroryzmie i zbrodniach wojennych Zdarzenie fotografowania Inny ekstremizm	Przedstawianie śmierci w przypadku wykonywania przez grupy terrorystyczne identyfikowane przez flagi i symbole ISIS

Poziomy ważności samookaleczenia

Poziom ważności	Opis	Przykład obrazu
Safe	Zawartość jest bezpieczna, ale zawiera obrazy związane z samookaleczeniami, które są używane w ogólnym sensie. Obejmuje to: Niski poziom tkanki tłuszczowej Działanie bez samookaleczenia Przypadkowe uszkodzenie ciała	Obrazy skoków ze spadochronem z samolotu
Niski	Zawartość zawierająca obrazy związane z samookaleczeniami i działa w prawdziwym świecie lub fikcyjnych kontekstach z niskim gore. Obejmuje to: Blizny Obrażenia samookaleczenia w odzyskiwaniu Nierealistyczne samookaleczenia Wychwytywane osoby lub zwierzęta	Reprezentacje działań związanych z samookaleczeniami, narzędziami, urazem i stanem emocjonalnym
Śred.	Zawartość zawierająca umiarkowane obrazy graficzne związane z samookaleczeniami i samobójstwami. Obejmuje to: Autopsja Miejsce zbrodni lub śmierci Znęcanie się	Reprezentacje wykorzystania siły i przymusu agresywnie dominują lub zastraszają osobę w samookaleczenia
Wys.	Zawartość zawierająca wyraźne szczegółowe przedstawienie samookaleczenia i samobójstwa w wysokim gore. Obejmuje to: Nieuchronny akt samookaleczenia Działania samookaleczenia Samobójstwo	Przedstawia celowe samobójstwo, gdzie osoba popełniła samobójstwo, skacząc z wysokiego budynku

Zawartość wielomodalna (obraz z tekstem)

Ostrzeżenie

Ostrzeżenie

Karta Definicje ważności w tym dokumencie zawiera przykłady szkodliwej zawartości, która może być niepokojąca dla niektórych czytelników.

Definicje ważności

Poziomy ważności nienawiści i sprawiedliwości

Poziom ważności	Opis	Przykład obrazu
Safe	Zawartość jest bezpieczna, ale może zawierać tekst związany z nienawiścią i sprawiedliwość oraz wizualizacje używane w ogólnych i bezpiecznych kontekstach, takich jak: Education Multimedia Oficjalne statystyki Historia Lek Nauka Inne podobne konteksty	Scenariusz: Obraz z nakładką tekstu Zdjęcie: Łagodne zdjęcie osoby Tekst: Attends rally wearing sneakers
Niski	Zawartość zawierająca pozytywną charakterystykę lub ochronę grup tożsamości, wyświetla dyskryminację, stereotypy i uprzedzenia, osądzone poglądy lub postawy związane z mową nienawiści lub ukierunkowanie grup tożsamości. Obejmuje to: Slurs w artykułach badawczych, słownikach lub mediach z bezpośrednim cytatem Ogólna mowa nienawiści, która dotyczy obiektów, osób lub grup Ograniczona mowa nienawiści lub obrazy negatywnego nastroju w fikcyjnych kontekstach (na przykład gry, filmy, literatura)	Scenariusz: Obraz z nakładką tekstu Zdjęcie: Łagodne zdjęcie osoby Tekst: Everyone assumes that I got high grades in math because I’m Asian. I did. Uzasadnienie: Oznacza stereotyp rasowy.
Śred.	Zawartość zawierająca obelgi, zastraszanie, zastraszanie, de-humanizacja lub odstępstwo od osób lub grup. Obejmuje to: Slurs w artykułach badawczych, słownikach lub mediach z bezpośrednim cytatem Ogólna mowa nienawiści, która dotyczy obiektów, osób lub grup Ograniczona mowa nienawiści lub obrazy negatywnego nastroju w fikcyjnych kontekstach (na przykład gry, filmy, literatura)	Scenariusz: Obraz z nakładką tekstu Zdjęcie: Łagodne zdjęcie osoby z Parkinsonami Tekst: This guy just Friended and Unfriended me 45 times in 15 seconds. Does anyone know him? Uzasadnienie: Implikuje kpinę ze względu na niepełnosprawność
Wys.	Treść zawierająca mowę nienawiści jako groźbę propagandy lub wzywanie do przemocy wobec grup tożsamości, radykalizuje, rekrutuje lub podżega ludzi do przyłączenia się do ekstremistów lub rozprzestrzeniania mowy nienawiści. Obejmuje to: Zapalające, obraźliwe i wulgarne treści skierowane do określonych osób lub grup tożsamości Roszczenia o wyższość w celu uzasadnienia dyskryminacji, segregacji lub wykluczenia Każda forma gloryfikacji symbolizmu nazistowskiego i SS, KKK i flagi konfederacji poza ustawieniami historycznymi, edukacyjnymi lub artystycznymi Pokazy przygotowań do przestępstw z nienawiści, pochwały i gloryfikacji przemocy wobec grup tożsamości lub pochwały, gloryfikacji lub poparcia ludobójstwa	Scenariusz: Przeplatane obrazy i tekst Never forget that everything [image of Adolf Hitler] did in Germany was legal.

Poziomy nasilenia seksualnego

Poziom ważności	Opis	Przykład obrazu
Safe	Zawartość jest bezpieczna, ale może zawierać terminy lub wizualizacje związane z seksem używane w ogólnych i bezpiecznych kontekstach, takich jak: Edukacja Media Oficjalne statystyki Historia Medycyna Nauka Wzmianki o relacjach rodzinnych lub romantycznych	Scenariusz: Obraz z nakładką tekstu Obraz: Skunk Tekst: Looks aren’t everything, be careful who you marry, and check your mirrors too.
Niski	Treść, która wyraża uprzedzone, osądzone lub opiniowane poglądy na tematy związane z seksem lub wymienia terminy związane seksualnie w fikcyjnych lub rzeczywistych doświadczeniach, które nie są niezwykle graficzne. Obejmuje to: Wzmianki o anatomii seksualnej lub scenach seksualnych w fikcyjnych i artystycznych kontekstach Recepty medyczne i diagnozy Osobiste doświadczenia, problemy seksualne i traumy z niektórymi treściami graficznymi, w tym mechanizmami radzenia sobie z zasobami	Scenariusz: Przeplatane obrazy i tekst I hope they debate social issues I want [image of a person cupping their ear, representing "to hear"] about how a representative wants to regulate female sexual organs.
Śred.	Treści opisujące podniecenie seksualne i aktywność w wyraźnych i graficznych terminach lub wizualizacjach, w tym fantazje o seksie i wykorzystywaniu seksualnym. Obejmuje to: Przedstawienie stymulacji seksualnej i masturbacji Pornografia ograniczona do biznesu i prostytucji, eskorty itp. jako kariera bez scen seksualnych Reklama dla produktów dla dorosłych, takich jak zabawki erotyczne Osobiste doświadczenia i opisy związane z masażami seksualnymi, erotycznymi lub tantrycznymi, klubami striptizowymi, pokazami erotycznymi, atrybutami i praktykami BDSM	Scenariusz: Przeplatane obrazy i tekst There is so much [image containing the phrase "Sex and Violence"] in that book it could use a warning label in the cover.
Wys.	Treść opisująca prośbę o usługi handlowe seksualne, zawierająca szczegółowe opisy aktywności seksualnej, brutalnego wykorzystywania seksualnego i gwałtu oraz niekonseksualnych wymian władzy, nadużyć i voyeurism. Obejmuje to również treści, które są wykorzystywane do promowania, wspierania lub gloryfikacji skrajnych lub nielegalnych aktów seksualnych. Obejmuje to: Wszelkie obrazy materiałów do wykorzystywania seksualnego dzieci (CSAM), w tym wszelkie wyraźne lub potencjalne odniesienie do nieletnich płci Pielęgnacja dzieci, wykorzystywanie dzieci i inne wykorzystywanie dzieci Jawne lub potencjalne odniesienia do kazirodztwa, zoofilii, nekrofilii itp. Rekrutacja do handlu ludźmi, w tym manipulacja ofiarami	Scenariusz: Przeplatane obrazy i tekst Can too much [image of graphic pornography] actually kill you? Evidently not, because you are still with us.

Poziom nasilenia przemocy

Poziom ważności	Opis	Przykład obrazu
Safe	Zawartość jest bezpieczna, ale może zawierać terminy i wizualizacje związane z przemocą stosowaną w ogólnych i bezpiecznych kontekstach, takich jak: Edukacja Media Oficjalne statystyki Historia Medycyna Nauka Typowe obiekty, gdy nie są używane jako broń Specyfikacje techniczne polowania lub fotografowania	Scenariusz: Przeplatane obrazy i tekst [Image of lawnmower] can easily throw a [image of rock] to a distance well over 50 feet.
Niski	Zawartość w fikcyjnych kontekstach (na przykład gry, literatura, sztuka), które przedstawiają brutalne lub graficzne sceny bez gloryfikacji, poparcia lub malintentu. Obejmuje to: Osobiste doświadczenia przemocy (bez przemocy) Stronniczy, uprzedzony, osądzony lub opiniowany pogląd na temat przemocy Wzmianki o aktach przemocy i śmierci w niskiej intensywności	Scenariusz: Obraz z nakładką tekstu Zdjęcie: Łagodne zdjęcie osoby "nerdy" Tekst: Runs suicides at basketball practice. Dies. Uzasadnienie: Oznacza wyczerpanie ze względu na brak umiejętności fizycznych osoby.
Śred.	Zawartość zawierająca graficzne obrazy przemocy i śmierci w średnim natężeniu, a także fantazje o brutalnych aktach lub groźbach. Obejmuje to: Treść, która stawia ofiarę na winę lub przedstawia sprawców w pozytywnym świetle Historyczne odniesienia do ludobójstwa i Holokaustu bez poparcia lub gloryfikacji Odniesienia do znanych masowych strzelanin bez poparcia lub gloryfikacji Odniesienia do grup terrorystycznych i brutalnych ekstremistów oraz wydarzeń bez poparcia lub gloryfikacji Zastraszanie i zastraszanie	Scenariusz: Przeplatane obrazy i tekst She needs [image of a graphic that reads "to die"] already.
Wys.	Treść zawierająca terrorystyczną lub brutalną propagandę i brutalną ideologię w Internecie, która opisuje, chwali, popiera lub glorifies zabójstw w ramach działalności terrorystycznej, pomaga organizacjom terrorystycznym lub przyczynom. Obejmuje to: Treści, które szukają instrukcji dotyczących przynależności do grup terrorystycznych i brutalnych ekstremistów Zawartość zawierająca instrukcje dotyczące rekrutacji zwolenników, wywierania wpływu na ludzi w kierunku sprawy terrorystycznej lub ideologii ekstremistycznej, przyjęcia radykalnych poglądów lub szkolenia na temat działania terrorystów i brutalnych grup ekstremistycznych lub przekazywania informacji na temat ich przywódców i członków Treść, która planuje i koordynuje ataki na osoby lub grupy ludzi, w tym strzelanie, wykorzystanie bomb i materiałów wybuchowych na infrastrukturę cywilną lub ataków z użyciem broni ostrzej podczas wykonywania przez niebojantów lub nieterrorystów Treść, która odwołuje się do pracy przymusowej, w tym dzieci, służby domowej, prześladowania i przymusowych procedur medycznych	Scenariusz: Przeplatane obrazy i tekst I can’t wait for this [image of ISIS kafir beheading].

Poziomy ważności samookaleczenia

Poziom ważności	Opis	Przykład obrazu
Safe	Zawartość jest bezpieczna, ale może zawierać terminy lub wizualizacje związane z samookaleczeniami używanymi w ogólnych i bezpiecznych kontekstach, takich jak: Oficjalne statystyki Edukacja Media Medyczny Akcje, które opisują przypadkowe samookaleczenia, porady dotyczące pierwszej pomocy itp.	Scenariusz: Przeplatane obrazy i tekst How do I tie a [image of a rope]?
Niski	Zawartość zawierająca odniesienia do postaci planowania lub popełnienia samobójstwa w fikcyjnym kontekście (na przykład literatura, filmy) lub zawiera obrazy czynów samookaleczenia lub samobójstwa o niskiej intensywności. Obejmuje to: Osobisty stronniczy, uprzedzony, osądzony lub opiniowany pogląd na temat samookaleczenia Stowarzyszenia z zaburzeniami odżywiania, szukając lub podając instrukcje dla drastycznej i niezdrowej utraty wagi Osobiste doświadczenia związane z samookaleczeniem, w tym poszukiwanie profesjonalnej pomocy	Scenariusz: Obraz z nakładką tekstu Obraz: Kermit żaba Tekst: Life ain’t no good for a frog. Even tried to Kermit suicide.
Śred.	Treść, która szydzi z ofiar lub ocalałych z samookaleczenia, takich jak zaburzenia odżywiania lub samobójstwo, a także zastraszanie i zastraszanie, które podżega i promuje działania samookaleczenia. Obejmuje to: Samookaleczenie przedstawione jako rozwiązanie problemu Fantazje, pragnienie, życzenia lub osobiste doświadczenia na temat samookaleczenia/samobójstwa Zawartość, która szuka lub udziela porad, instrukcji lub zaleceń dotyczących wykonywania samookaleczenia Zastraszanie i zastraszanie, które podżega i promuje działania samookaleczenia	Scenariusz: Obraz z przeplatanym tekstem I will [image of a knife] myself soon. But until then, how do I tame my pain?
Wys.	Zawartość zawierająca badania dotyczące porad lub zawiera instrukcje i metody dotyczące angażowania się w samookaleczenie, które prowadzi do śmierci lub jak popełnić samobójstwo, a także gloryfikację i poparcie samobójstwa lub inne poważne rodzaje samookaleczenia. Obejmuje to: Zawartość, która instruuje, jak napisać wiadomość pożegnaną z rodziną Samodzielna dekapitacja Płonące żywcem	Scenariusz: Przeplatane obrazy i tekst Black Friday [image of self-harm with text "My self-harm cuts have nearly faded completely so they won’t scar"] and [image of a kitchen mixer] deals.

Następne kroki

Postępuj zgodnie z przewodnikiem Szybki start, aby rozpocząć korzystanie z bezpieczeństwa zawartości usługi Azure AI w aplikacji.

Przewodnik Szybki start dotyczący bezpieczeństwa zawartości