Kategorie škod v zabezpečení obsahu Azure AI

Tato příručka popisuje všechny kategorie škod a hodnocení, které Azure AI Content Safety používá k označení obsahu. Text i obsah obrázku používají stejnou sadu příznaků.

Kategorie škod

Bezpečnost obsahu rozpozná čtyři různé kategorie problematického obsahu.

Kategorie	Popis	Termín rozhraní API
Nenávist a nestrannost	Škody související s nenávistí a nestranností odkazují na veškerý obsah, který napadá nebo používá nediskriminační jazyk s odkazem na osobu nebo skupinu identit na základě určitých atributů těchto skupin. To zahrnuje, ale není omezeno na: Rasa, etnická příslušnost, státní příslušnost Skupiny a výrazy genderové identity Sexuální orientace Náboženství Osobní vzhled a velikost těla Stav postižení Obtěžování a bullying	Hate
Sexuální	Sexuální popis jazyka související s anatomickými orgány a pohlavními orgány, romantickými vztahy a sexuálními činy, působí v erotických nebo laskavých termínech, včetně těch, které jsou znázorněny jako útok nebo vynucený sexuální násilí proti willu člověka.   To zahrnuje, ale není omezeno na: Vulgární obsah Prostituce Nahota a pornografie Zneužití Zneužívání dětí, zneužívání dětí, výmaz dětí	Sexual
Násilí	Násilí popisuje jazyk související s fyzickými činy, které mají ublížit, poškodit, poškodit nebo zabít někoho nebo něco; popisuje zbraně, zbraně a související entity. To zahrnuje, ale není omezené na: Zbraně Bullying and zastrašující Teroristická a násilná teroristická hrozba Sledování	Violence
Sebepoškozování	Sebepoškozování popisuje jazyk související s fyzickými akcemi, jejichž účelem je úmyslně ublížit, poškodit, poškodit tělo nebo zabít sebe. To zahrnuje, ale není omezené na: Poruchy stravování Bullying and zastrašující	SelfHarm

Klasifikaci lze označit více popisky. Když například ukázka textu prochází modelem moderování textu, může být klasifikována jako sexuální obsah i násilí.

Úrovně závažnosti

Každá kategorie škod, na které se služba vztahuje, má také hodnocení na úrovni závažnosti. Úroveň závažnosti je určena k označení závažnosti důsledků zobrazení obsahu označeného příznakem.

Text: Aktuální verze textového modelu podporuje úplné měřítko závažnosti 0–7. Klasifikátor rozpozná mezi všemi závažnostmi v tomto měřítku. Pokud uživatel určí, může vrátit závažnosti v oříznuté škále 0, 2, 4 a 6; každá ze dvou sousedních úrovní se mapuje na jednu úroveň.

• [0,1] ->0
• [2,3] ->2
• [4,5] ->4
• [6,7] ->6

Obrázek: Aktuální verze modelu image podporuje oříznutou verzi plné závažnosti 0–7. Klasifikátor vrátí pouze závažnosti 0, 2, 4 a 6.

• 0
• 2
• 4
• 6

Obrázek s textem: Aktuální verze multimodálního modelu podporuje úplné měřítko závažnosti 0–7. Klasifikátor rozpozná mezi všemi závažnostmi v tomto měřítku. Pokud uživatel určí, může vrátit závažnosti v oříznuté škále 0, 2, 4 a 6; každá ze dvou sousedních úrovní se mapuje na jednu úroveň.

• [0,1] ->0
• [2,3] ->2
• [4,5] ->4
• [6,7] ->6

Textový obsah

Upozorňující

Upozorňující

Karta Definice závažnosti v tomto dokumentu obsahuje příklady škodlivého obsahu, který může být pro některé čtenáře rušivý.

Definice závažnosti

Úrovně závažnosti nenávisti a nestrannosti

Úroveň závažnosti	Popis	Příklad textu
Úroveň 0	Obsah, který obsahuje výrazy související s nenávistí a nestranností, které se používají v obecném smyslu a jsou vhodné pro všechny cílové skupiny, včetně dětí. Sem patří: Obecný, pejorativní jazyk vyjadřující nelibost vůči skupinám identit Obecné zmínky o atributech skupiny identit, jako je rasa, etnika, náboženství atd. v historických, geografických, lékařských a jiných podobných kontextech bez mínění Obecné výrazy, které nemají rasové podtóny urážlivého záměru mimo kontext	I hate cats.
Úroveň 1	Obsah, který obsahuje výrazy související s nenávistí a nestranností, které se používají v obecném smyslu, ale mohou získat jiný význam na základě kontextu a nerozlišuje mezi skupinami identit a ostatními zkreslenými nebo negativními způsoby. Sem patří: Úřední statistika, právní předpisy nebo dokumentace Pokrytí zpráv a médií Vzdělávací zdroje určené ke zvýšení povědomí o rozmanitosti/řešení nenávisti Produkty na bělení kůže a léčebné reklamy Zmínky o Indo-Eurasian swastika, příznak confederate, non-KKK skupiny, které mají vizuální podobnost s KKK	Black people should not be killed by police or mistreated just because of their skin color.
Úroveň 2	Obsah, který obsahuje pozitivní charakterizaci nebo ochranu skupin identit, které aktivují uspokojivou emocionální reakci. Sem patří: Slurs napsané plně ve výzkumných dokumentech, slovníkech nebo médiích s přímými uvozovkami Příkazy mluvčího, který patří do skupiny identit bez záměru cílit na stejnou skupinu identit Prokletí slova, vulgární výrazy a slovní urážky, které necílí na skupinu identit Obecná nenávistná řeč, která cílí na neidentifikované jednotlivce nebo skupiny bez cílení na skupinu identit Záměr uživatele vytvořit seznam blokovaných urážlivých výrazů Reprezentace německa, Hitlera, konfederačního vlajky a symbolismu Ku Klux Klanu ve filmech, videohrách, kostýmech, hračkách, reenactmentech nebo online slangu	I hate you.
Úroveň 3	Obsah, který obsahuje předsudek, úsudek, stereotypní charakterizaci nebo negativní mínění. Sem patří: Stanovisko založené na stereotypu nebo negativním mínění Vyjadřuje dotčená, soudná nebo názorná stanoviska Záporná nebo kladná porovnání se liší mezi skupinami identit a ostatními. Zmínky ve fiktivních světech Diskriminace zaměstnání v pracovních příležitostech Historická fakta a artefakty související s Německem, vlajkou Confederate během občanské války USA nebo Ku Ku Klux Klan	I don't like [identity group] because they are all so aggressive. They attacked us over and over again for no reason at all.
Level 4	Obsah, který obsahuje přímé slovní urážky motivované míněním, negativní komentáře a rasové slury používané jako popisy zaměřené na skupiny identit se záměrem poškodit jednotlivce na základě jejich atributů. Sem patří: Odkazy používané k cíli na rasu, barvu kůže Propagace sociální vyhýbací a izolace Napodobování a imitování atributů skupin identit	All [identity group] are ugly.
Úroveň 5	Obsah, který obsahuje odlidnění nebo odchylku jednotlivců nebo skupin, které dále záporně zabarvení prostřednictvím odlidnění, násilí, odepření událostí, bullyingu nebo zastrašování chování. Sem patří: Texty, které zamítnou historické, dobře zdokumentované a násilné události, jako je Například Husaš Texty, které popisují jednotlivce nebo skupiny jako fyzicky nebo mentálně horší na základě členství ve skupině identit Texty, které se ptaly, odepřít nebo ponižovat existenci skupiny identit Vynucení požadovaných/očekávaných atributů Eugenická a rasová zlepšení teorie, které cílí na skupiny identit Moderní zboží, které obsahuje, vlajku konfederátu nebo symboly KKK	The [real world event] is a fraud. What we've discovered is that sources have been lying about the number of victims. Here is proof.
Úroveň 6	Obsah založený na negativním mínění a nenávisti vůči skupinám identit. Odkazem na charakteristiky skupin, které rozlišují skupinu identit a další uživatele, a odvolání k provedení akcí vůči skupinám identit na základě jejich atributů. Může to zahrnovat: Nenávistná identita, která může být považována za přímou hrozbu nebo výzvu k násilí vůči skupině identit Urážlivé, urážlivé a vulgární nenávistné projevy Texty, které údajně tvrdí nadřazenost jedné skupiny nad těmi, které mají atributy skupin identit k odůvodnění diskriminace, oddělení nebo vyloučení Texty popisující radost z násilné události, která cílí na skupinu identit	Send [identity group] back to the gas chambers.
Úroveň 7	Obsah založený na negativním mínění, zobrazení záměru nenávisti a stalkingu, aktivace nepřátelské emocionální reakce a odlišení skupin identit a dalších, které vedou k trestné činnosti. Sem patří: Příprava, chvála a glorifikace násilí proti skupině identit Texty, které obsahují materiály k náborovým materiálům pro supremacistní skupiny Texty určené k radikalizaci a podpoře nenávisti vůči skupině identit	Millions of [identity group] were wiped out because they were the inferior race. Murdering them continues to be right and honorable because…

Úrovně sexuální závažnosti

Úroveň závažnosti	Popis	Příklad textu
Úroveň 0	Obsah, který obsahuje sexuálně související termíny používané obecně, které jsou neškodné pro všechny cílové skupiny, včetně dětí. Zmínky o rodinných vztazích Obsah, který je neškodný pro všechny cílové skupiny, včetně dětí	The sports bra and yoga pants were too tight for comfort.
Úroveň 1	Obsah, který obsahuje sexuálně související termíny používané v obecném smyslu, ale může získat jiný význam na základě kontextu. To zahrnuje: Oficiální statistiky a dokumentace k tématům souvisejícím se sexem Pokrytí zpráv a médií Anatomické termíny, sexuální anatomie a lékařská léčba Vzdělávací zdroje o sexu, sexuální wellness, povědomí atd. Zmínky o biologickém pohlaví nebo popisu sexuálního reprodukci Texty, které popisují romantické vztahy v jiných než grafických termínech	Fewer young adults are having sex than in previous generations.
Úroveň 2	Obsah, který obsahuje sexuálně související termíny ve fiktivních nebo skutečných prostředích, které nejsou extrémně grafické. To zahrnuje: Zmínky o literárních/uměleckých textech, filmech, sochách atd. obsahující omezené špinavé řeči nebo krátké ne explicitní nahoty scény Osobní zkušenosti související se sexem obecně, sexuálními problémy a traumaty, sdílení mechanismů vyrovnávání a zdrojů pro řešení takových problémů Záměr uživatele vytvořit seznam blokovaných pro sexuální obsah Zmínky o sexuálních činech a nahotě s lehkým jádrem	My husband and I introduced a vibrator to our sex life and it has really made a difference.
Úroveň 3	Obsah se sexuálními termíny v případech, které obsahují nějaký grafický obsah, názory vyjadřující předsudky, dotčeny, úsudek nebo názory na problémy související se sexem. To zahrnuje: Osobní minulost nebo prezentace sexuálních zážitků s určitým grafickým obsahem	We made out for a while, and he started to feel me up. I felt a bulge in his pants.
Level 4	Obsah popisující sexuální fantazie, profesionální sex průmysl a reklamy a sexuální reprodukci zvířat. To zahrnuje: Fantazie sexu různých typů, včetně představ skutečné nebo fiktivní nahoty Profesionální sex průmysl bez popisu sexuální scény Reklamy na kondomy, maziva, sexuální hračky, oblečení atd.. Popis sexuálního reprodukci mezi zvířaty nebo znaky podobné zvířatům s určitým grafickým obsahem Zmínky o sexuálních činech a nahotě s měkkým jádrem	I got into BDSM because I had some friends into the lifestyle and it piqued my interest. I like using silk, scarves, collars, and bondage…
Úroveň 5	Obsah popisující erotické show nebo zážitky jako osobní zkušenosti, BDSM s jasným souhlasem, a erotické příběhy a weby. To zahrnuje: Zmínky o sexuální, erotické nebo tantrické masáži, strip kluby, erotické představení jako osobní zkušenosti (ne jako profesionální služby) Osobní zkušenosti a popisy související s atributy a postupy BDSM v obecných nebo situacích s jasným obsahem BDSM Zmínky o neobchodní erotické obsah související se sexuální přáním nebo potěšením	We both climaxed at the same time.
Úroveň 6	Obsah popisující vyžádání sexuálních komerčních služeb obsahující podrobné popisy sexuální aktivity, násilného sexuálního zneužívání a znásilnění a nekonenzuální výměny moci, zneužívání a voyeurismu. To zahrnuje: Zmínky o stimulaci genitálních orgánů rukou nebo jinými předměty, masturbace atd. Fetiš nebo hrubý obsah zahrnující tělesné tekutiny, situace kontroly pohlaví nebo činnosti BDSM bez jasného souhlasu Texty, které popisují sexuální násilí, sexuální napadení, znásilnění nebo zneužívání v grafických podrobnostech Texty, které připisují pozitivní vlastnosti sexuálnímu útoku Texty, které hledají nebo poskytují pokyny k provedení sexuálního útoku Činy vydírání a hrozby k odhalení nekonsentovaných sexuálních obrázků nebo videí, které byly dříve zaznamenány	I love forced sex, it's so much hotter.
Úroveň 7	Obsah používaný k propagaci, schválení, glorifie extrémní formy sexuálního zoslavnění. Obsah, který je extrémní nebo nelegální. To zahrnuje: Sex se zvířaty, mrtvolami atd. Pedofilie Vyhledání nebo poskytnutí pokynů k úpravě dětí Explicitní nebo potenciální odkazy na incest Nábor lidí s obchodováním s pohlavím	I was abused as a child by my uncle and I liked it. Nowadays, I make money by producing child pornography with my neighbor’s 6 year old son.

Úrovně závažnosti násilí

Úroveň závažnosti	Popis	Příklad textu
Úroveň 0	Obsah obsahující nenásilné akce nebo termíny související s násilím používané v obecném smyslu, které jsou neškodné pro všechny cílové skupiny, včetně dětí. Sem patří: Běžné objekty, pokud se nepoužívají jako zbraně Toy guns, non-realističtí nebo předstírat zbraně Zmínky o lanech, pokud se nepoužívají jako noose	According to our child and parent testers, here are the best long-range soakers for soft blasters for toddlers suitable for epic water battles.
Úroveň 1	Obsah, který obsahuje výrazy související s násilím nebo činy používané v obecném smyslu, ale mohou získat jiný význam na základě kontextu. Sem patří: Podmnožina textů, které obsahují popisy násilného činu, kde kontextová analýza celého textu nemá násilné záměry Oficiální statistiky a dokumentace ke zbraním, zbraním, domácím násilí, bojům, armádě atd. Vzdělávací zdroje související s násilím Pokrytí zpráv a médií Lékařské termíny a obsah Technické specifikace proaktivního lovu nebo střelného sportu a zbraní Bojová praxe Protiteroristické a teroristická symboly nesouvisející s ORGANIZACÍ/Al-Káidou	Carnivores such as lions and tigers are prone to killing one another. Death occurs at the paws, claws, jaws, or tusks that might fatally gore one another during fights.
Úroveň 2	Obsah, který obsahuje výrazy související s násilím nebo činy ve fiktivním nebo skutečném prostředí, které nejsou extrémně grafické a bez glorifikace nebo doporučení malintentu. Sem patří: První, druhá a třetí osoba mluvený komentář ve videohrách, literární/umělecké texty, které znázorňují násilné nebo grafické scény Tipy a doporučení pro hry Osobní zkušenosti, ve kterých jednotlivec popisuje, jak byli vystaveni určitému typu násilí Zmínky o lanách, pokud se používají jako noose bez lidských subjektů, které jsou přítomny nebo nesouvisejí s noose Záměrem uživatele je vytvořit seznam blokovaných s násilnickým obsahem.	Physical punishment is a way to correct bad behavior and doesn’t cause harm to children.
Úroveň 3	Obsah s výrazy nebo činy souvisejícími s násilím v případech, které obsahují nějaký grafický obsah, názory vyjadřující předsudky, dotčeny, úsudky nebo názory na násilí. Sem patří: Povolení krutosti u některých zvířat Texty, které tvrdí pozitivní dopad některých typů násilí	Some people just need to be slapped.
Level 4	Obsah popisující neuzemněné důvody, proč jsou oběti fyzicky zneužívané, nepodložení pozitivních vlastností zneužití, hrozby násilné činy a fantazie týkající se toho, jak poškodit jinou osobu a střední gore. Sem patří: Texty, které vystavily oběť vina nebo znázorňují pachatele pozitivním způsobem Grafické popisy násilí a smrti se střední gore Zpráva o automatickém vyšetřování, forenzní vyšetřování, místo činu nebo smrti Masná a drůbeží zařízení a náboženská oběť zvířat Odkazy na historické nebo nedávné amplitudy a známé střelecké události s hromadnými oběťmi bez doporučení nebo glorifikace Odkazy na teroristických a násilnických událostí bez doporučení nebo glorifikace	Victims of abuse deserve to be hit. They push and push until they get what they deserve.
Úroveň 5	Obsah zaměřený na další násilí, který poskytuje přímé pokyny k poškození konkrétních jednotlivců nebo skupin. Sem patří: Texty, které vynutily fyzické násilí proti cílovým jednotlivcům nebo skupinám Pokyny k tomu, jak způsobit fyzické násilí jednotlivcům nebo zneužívání zvířat Texty, které hledají rady o tom, jak provádět násilné činy na zvířatech, jednotlivcůch nebo skupinách Bullying and zastrašující	Go to another state or another city and kill any stranger; for example, shoot them with a silencer gun. Since you have not any connection with him, you will not get caught.
Úroveň 6	Obsah popisující teroristické skupiny a teroristické organizace, hromadné vraždy a explicitní fyzické škody ve vysoké gore a propagaci terorismu a její pornografie. Sem patří: Oficiální teroristické nebo propagační materiály a násilná hierarchie na internetu Vyvolání násilného činu	We must kill them all. God wills it, and society will be better for it.
Úroveň 7	Obsah používaný k popisu, pochvalu, podpoře, podpoře, podpoře, podpoře, podpoře, glorifii extrémních forem násilí. Obsah, který podporuje teroristické organizace a radikalizuje, dává pokyn nebo vlaky. Sem patří: Nucená práce včetně dětí, domácí služebnosti nebo lékařské léčby On-line teroristických a násilnických propagačních materiálů, které glorififikují vraždy v rámci teroristických aktivit a podpory nabídek teroristickým organizacím nebo příčinám Texty, které hledají pokyny týkající se spojení s teroristickými a násilnémi skupinami pro nábor, vliv a trénování lidí k příčině Nelegální obtěžující chování, jako je zastarání nebo nežádoucí dohled Texty, které plánují a koordinují útoky na jednotlivce nebo skupiny lidí Texty, které podporují, glorifii nebo poskytují pokyny k kanibalismu	Let's call and threaten to explode the hospital during the weekend. I've got the explosives ready, and will have them installed tonight.

Úrovně závažnosti sebepoškozování

Úroveň závažnosti	Popis	Příklad textu
Úroveň 0 – bezpečný	Obsah, který obsahuje termíny související se sebepoškozováním, které se používají v obecném smyslu, které jsou neškodné pro všechny cílové skupiny, včetně dětí. Sem patří: Zmínky o tělesném tuku, ukazatelích indexu hmotnosti tuku podle věku a pohlaví v kontextu souvisejících se zdravím	I appreciate your hard work, but you don't need to keep killing yourself over this project.
Úroveň 1	Obsah, který obsahuje termíny související se sebepoškozováním, které se používají v obecném smyslu, ale mohou získat jiný význam na základě kontextu. Sem patří: Oficiální statistiky a dokumentace k nesuiciální samozraní (NSSI), sebevraždě atd. Vzdělávací zdroje související se sebepoškozováním Pokrytí zpráv a médií Lékařské termíny a obsah Akce, které popisují náhodné sebepoškozování, tipy na první pomoc atd.	Binging and purging may be a warning sign for people with a history of extreme weight loss.
Úroveň 2	Obsah, který obsahuje pojmy související se sebepoškozováním nebo činy ve fiktivním nebo skutečném prostředí, které nejsou extrémně grafické. Sem patří: Literatura/umělecké texty, filmy atd. znázorňující postavy vykreslující nebo spáchané sebevraždy, zapojení do sebepoškozování nebo neuspořádané stravování bez glorifikace nebo doporučení Texty, ve kterých se sebepoškozování nebo sebevražda zobrazuje s nízkými gore Záměrem uživatele je vytvořit seznamy blokovaných podmínek sebepoškozování.	Oedipus stabbed his eyes in despair.
Úroveň 3	Obsah s pojmy souvisejícími se sebepoškozováním nebo činy v případech, které obsahují určitý grafický obsah, názory vyjadřující předsudky, dotčeny, úsudky nebo názory na sebepoškozování. Sem patří: Osobní zkušenosti související se sebepoškozováním, jako je například žádost o pomoc, než se ublíží sobě nebo spáchá sebevraždu	I'm really struggling with self-loathing and thoughts of self-harm to relieve my distress after my friend took his own life last month. Please can someone give me any useful advice?
Level 4	Obsah, který napodobuje oběti nebo přeživší sebevraždy nebo sebepoškozování, neodůvodněný přisuzování pozitivních vlastností k sebepoškozování, fantazii nebo přání sebepoškozování a obsahuje explicitně grafický obsah zahrnující smrt, autopsy, zločin nebo scénu smrti. Sem patří: Sebepoškozování prezentované jako řešení problému, emocionálního utrpení, úniku od bolesti/agony Texty, kde sebepoškozování nebo sebevražda obsahuje střední gore a popisy nástrojů, jako je nůž, pistole atd.	It's hilarious when [identity group] kill themselves.
Úroveň 5	Obsah zaměřený na další propagaci sebepoškozování, poskytování přímých pokynů k výkonu sebepoškozování nebo býčí oběti. Sem patří: Texty, které hledají rady nebo doporučení týkající se toho, jak provádět činy sebepoškozování s výjimkou sebevraždy Texty, které popisují osobní minulost a současné zkušenosti se sebepoškozováním, které obsahují explicitní podrobnosti Bullying, zastrašování a podtlačování, které vyvolává a podporuje činy sebepoškozování	Go kill yourself, you are worthless.
Úroveň 6	Obsah popisující podrobné a explicitní instrukce o tom, jak spáchat sebevraždu. Sem patří: Texty, které dávají pokyn, jak napsat zprávu o rozloučení vaší rodině	Here is a quick guide to do-it-yourself suicide. One method is asphyxia suicide by inhaling helium inside a plastic bag.
Úroveň 7	Obsah používaný ke schválení a glorifii sebevraždy nebo jinému závažnému činu sebepoškozování. Sem patří: Samokapaci Hořící naživu	Get a shotgun and blow your brains out. It won't even hurt. And you'll be remembered for ages, like Kurt Cobain or Ernest Hemingway. There's nothing bad about suicide. Actually it's noble.

Obsah obrázku

Upozorňující

Upozorňující

Karta Definice závažnosti v tomto dokumentu obsahuje příklady škodlivého obsahu, který může být pro některé čtenáře rušivý.

Definice závažnosti

Úrovně závažnosti nenávisti a nestrannosti

Úroveň závažnosti	Popis	Příklad obrázku
Safe	Obsah je bezpečný, ale může obsahovat obrázky související s nenávistí a nestranností bez mínění nebo neutrálních mínění v nediskriminačních nediskriminacích způsobech v následujících kontextech nebo podobných: Novinářský Historický ceník Zdravotní Právní informace Vzdělání Geografický	Nefederační vlajky, např. vlajky zemí nebo států, které mají křížky Obrázek vlajky Unie Jacka Velké Británie Znázornění emancipace zoslavených lidí v USA na historických fotografiích
Nízká	Obsah, který obsahuje buď pozitivní mínění, falešně pozitivní mínění nebo negativní, zkreslené mínění, které se liší od ostatních skupin identit. Tento obsah je určený k aktivaci emocionální odpovědi. Sem patří: Ochrana Symbolismus, konfederační vlajka, symbolismus Ku Klux Klan Stereotypní opakování Diskriminace v zaměstnání	Reprezentace hnutí "No Hate Speech" Reprezentace zastaralých uchazečů o zaměstnání, jako jsou kandidáti s postižením v nastavení pohovoru
Střední	Obsah, který obsahuje akci negativního mínění vůči skupinám identit a dalším osobám, které vedou k povýšení akce proti skupinám identit a míněním nadřazenosti. Sem patří: Urážka, izolace, napodobení Nácková vlajka, konfederační vlajka a varianty a zboží	Imagery, které podporují sociální předcházení [skupinám identit] Imagery, která znázorňuje teorii rasového zlepšení a eugenii
Vysoká	Obsah, který obsahuje negativní mínění a projevy nenávisti vůči skupinám identit, které vedou ke generování řeči nebo nenávisti. Sem patří: Rasismus Útoky na KOMUNITQIA+ Zakázání Diskriminace na základě pohlaví Glorified Nazi symbolism, Confederate flag, Ku Ku Klux Klan symbolism Příznak násilného konfederátu	Snímky typu "Jižní kříž", který znázorňuje modrý solí (diagonální kříž) se sdružováním zjevného násilí (např. zbraně v displeji/použití)

Úrovně sexuální závažnosti

Úroveň závažnosti	Popis	Příklad obrázku
Safe	Obsah je bezpečný, ale obsahuje sexuálně související obrázky používané v obecném smyslu. Sem patří: Rodinné a romantické vztahy Ne-sexuální nahota Clothing Běžné objekty Ne sexuální pozice nebo aktivita Živočišná rohož Sexuální wellness	Reprezentace huggingu nebo vytváření non-sexuální fyzické kontaktní reprezentace znázorňující fyzické zobrazení lásky, jako je líbání bez jazyka a bez nahoty
Nízká	Obsah, který obsahuje sexuální sugestivní chování nebo činy. Sem patří: Osobní prostředí Módní modelování Nahota v uměleckém díla Základní obrázek Racy display	Znázornění lidí
Střední	Obsah, který obsahuje komerční a amatérský erotický a/nebo pornografický obsah bez vizuální fotografické penetrace a nahá nebo nahá nahá účastníci zapojené do sexuálních scén, které mají být sexuálně probuzující. Sem patří: Sexuální modelování Měkká nahota v uměleckém díla Sex pracovní příležitosti nebo obchody Nejasná sexuální aktivita Porno produkce backstage Tančící pole	Znázornění pohlavního styku, které mohou být částečně odlehlé, ale stále jasně přítomné na obrázku
Vysoká	Obsah, který obsahuje explicitní podrobné znázornění sexuálních orgánů a sexuálních činů, včetně nelegálních činů. Sem patří: Amatér soft-core a hard-core pornografie Sexuální výzvy Voyeurismus Sex v kresbě BDSM bez souhlasu nebo znásilnění Sexuální zneužívání a zneužívání dětí Výmaz dětí Incest	Znázornění zapojení do sexuálních aktivit se zvířaty nebo mrtvolami

Úrovně závažnosti násilí

Úroveň závažnosti	Popis	Příklad obrázku
Safe	Obsah je bezpečný, ale obsahuje obrázky související s násilím, které se používají obecně. Sem patří: Pozice ve spánku nebo pokládání Běžné objekty Nenásilná aktivita Lana ne jako noose Nástroje s ostřím používané v kuchyni/šití Rány, jizvy a chirurgické ošetření Lov a střelba sport Toy a předstírat zbraně Bojová praxe Poškození objektů a vandalismus Neoznamovaný teroristický symbolismus	Znázornění nerealistických zbraní a ostří nástrojů
Nízká	Obsah, který obsahuje obrázky související s násilím a působí ve skutečném světě nebo fiktivní kontexty s nízkými gore. Sem patří: Zbraně, zbraně a nástroje s ostřím v displeji a používané Nerealistické mrtvoly Nerealistické násilí Animované zbraně Lehké zranění a osobní zkušenosti Lana jako noose Smrt v historickém, vzdělávacím nebo funerárním nastavení Nerealistický teroristický symbolismus Býčí zápasy	Znázornění příznakůLUŠ/al-Qaeda
Střední	Obsah, který obsahuje středně závažné grafické násilí a násilné činy zaměřené na identifikovaný cíl. Sem patří: Pitva Místo činu nebo smrti Smrt zvířat (přírodní nebo lovná), oběť zvířat, zneužívání zvířat Zotročení Vraždy a hromadné vraždy v historických, vzdělávacích nastaveních Jatky Domácí násilí a fyzické zneužívání Šikana Zbraně a zbraně používané proti cíli	Znázornění použití síly a vynucení k agresivnímu dominování nebo zastrašení jednotlivce
Vysoká	Obsah, který obsahuje explicitní podrobné znázornění násilí a násilné činy ve vysoké gore. Sem patří: Grafické zranění a smrt Rozčlenit, dekapitace, hořící naživu Rozklad mrtvoly Terorismus, teroristická skupina a vlajky Vynucená práce a servírnost, vynucená lékařská procedura Sledování Mrtvola v terorismu a válečné trestné činnosti Událost střelby Jiný problémový	Znázornění smrti při provedení teroristických skupin identifikovatelných příznakem a symboly

Úrovně závažnosti sebepoškozování

Úroveň závažnosti	Popis	Příklad obrázku
Safe	Obsah je bezpečný, ale obsahuje obrázky související s vlastním poškozením, které se používají v obecném smyslu. Sem patří: Nízký tuk v těle Akt bez sebeškodí Náhodné zranění těla	Znázornění skoku s padákem z letadla
Nízká	Obsah, který obsahuje obrázky související se sebepoškozováním a působí ve skutečném světě nebo fiktivních kontextech s nízkými gore. Sem patří: Jizvy Zranění sebepoškozování při zotavení Nerealistické sebepoškozování Vymýcené jednotlivce nebo zvířata	Reprezentace činů, nástrojů, zranění a emocionálního stavu souvisejících se sebepoškozováním
Střední	Obsah, který obsahuje moderované grafické obrázky týkající se sebepoškozování a sebevraždy Sem patří: Pitva Místo činu nebo smrti Šikana	Reprezentace použití síly a vynucení k agresivnímu dominování nebo zastrašení jednotlivce do sebepoškozování
Vysoká	Obsah, který obsahuje explicitní podrobné znázornění sebepoškozování a sebevraždy ve vysoké gore. Sem patří: Bezprostřední sebepoškozování činu Sebeškodné činy Sebevražda	Znázornění úmyslné sebevraždy, kdy osoba spáchá sebevraždu skokem z vysoké budovy

Multimodální obsah (obrázek s textem)

Upozorňující

Upozorňující

Karta Definice závažnosti v tomto dokumentu obsahuje příklady škodlivého obsahu, který může být pro některé čtenáře rušivý.

Definice závažnosti

Úrovně závažnosti nenávisti a nestrannosti

Úroveň závažnosti	Popis	Příklad obrázku
Safe	Obsah je bezpečný, ale může obsahovat text a vizuály související s nenávistí a nestranností, které se používají v obecných a bezpečných kontextech, například: Vzdělávání Média Oficiální statistika Historie Léčivo Věda Další podobné kontexty	Scénář: Obrázek s překryvným textem Obrázek: Neškodná fotka osoby Text: "Účast na rally nosí tenisky"
Nízká	Obsah, který obsahuje pozitivní charakterizaci nebo ochranu skupin identit, zobrazuje diskriminaci, stereotypy a předsudky, úsudek, názory nebo postoje týkající se nenávisti řeči nebo cílení skupin identit. To zahrnuje: Slurs in research paper, dictionaries, or media with a direct quote Obecná nenávistná řeč, která cílí na objekty, jednotlivce nebo skupiny Omezená nenávistná řeč nebo znázornění negativního mínění v fiktivních kontextech (například hry, filmy, literatura)	Scénář: Obrázek s překryvným textem Obrázek: Neškodná fotka osoby Text: "Všichni předpokládají, že mám vysoké známky v matematice, protože jsem asijské. Udělal jsem to." Odůvodnění: Implikuje rasový stereotyp.
Střední	Obsah, který obsahuje urážky, bullying, zastrašování, de-humanizaci nebo odchylku jednotlivců nebo skupin. To zahrnuje: Slurs in research paper, dictionaries, or media with a direct quote Obecná nenávistná řeč, která cílí na objekty, jednotlivce nebo skupiny Omezená nenávistná řeč nebo znázornění negativního mínění v fiktivních kontextech (například hry, filmy, literatura)	Scénář: Obrázek s překryvným textem Obrázek: Neškodná fotografie osoby s Focs Text: "Tenhle chlápek jen Přítel a Nepohodili mě 45krát za 15 sekund. Zná ho někdo?" Odůvodnění: Implikuje napodobení kvůli postižení
Vysoká	Obsah, který obsahuje nenávistnou řeč jako hrozbu nebo vyzývá k násilí proti skupinám Identity, radikalizuje, rekrutuje nebo inkasuje lidi, aby se připojili k nenávistným snahám nebo šířili nenávistnou řeč. To zahrnuje: Incendiární, urážlivý a vulgární obsah, který cílí na konkrétní jednotlivce nebo skupiny identit Nároky na nadřazenost k odůvodnění diskriminace, oddělení nebo vyloučení Jakákoli forma glorifikace symbolismu a SS symbolismu, KKK a konfederačního vlajky mimo historické, vzdělávací nebo umělecké nastavení Zobrazení přípravy zločinu nenávisti, pochválit a glorifikace násilí proti skupinám identit, nebo že chvála, glorifie nebo podporuje genomii	Scénář: Obrázek a text prokládání "Nikdy nezapomeňte, že všechno [obraz Hitlera] udělal v Německu právní."

Úrovně sexuální závažnosti

Úroveň závažnosti	Popis	Příklad obrázku
Safe	Obsah je bezpečný, ale může obsahovat sexuálně související termíny nebo vizuály používané v obecných a bezpečných kontextech, jako jsou: Vzdělávání Média Oficiální statistika Historie Lékařství Věda Zmínky o rodině nebo romantických vztazích	Scénář: Obrázek s překryvným textem Obrázek: Skunk Text: "Vypadá to, že není všechno, buďte opatrní, kdo si vezmete, a zkontrolujte také zrcadla."
Nízká	Obsah, který vyjadřuje předsudky, úsudek nebo názorné názory na sexuálně související témata nebo zmínky o sexuálně souvisejících termínech ve fiktivních nebo skutečných zkušenostech, které nejsou extrémně grafické. To zahrnuje: Zmínky o sexuální anatomii nebo sex scénách ve fiktivních a uměleckých kontextech Lékařské předpisy a diagnostika Osobní zkušenosti, sexuální problémy a traumaty s určitým grafickým obsahem, včetně mechanismů vyrovnávání a prostředků	Scénář: Obrázek a text prokládání "Doufám, že diskutují o sociálních otázkách, chci [obraz osoby, která čílí ucho, představující "slyšet"] o tom, jak zástupce chce regulovat ženské sexuální orgány."
Střední	Obsah, který popisuje sexuální vzrušení a aktivitu ve explicitních a grafických pojmech nebo vizuálech, včetně fantazí o sexu a sexuálním zneužívání. To zahrnuje: Znázornění sexuální stimulace a masturbace Pornografie omezená na obchod a prostituci, eskort atd. jako kariéry bez sexuální scény Inzerování pro dospělé produkty, jako jsou sexuální hračky Osobní zkušenosti a popisy týkající se sexuální, erotické nebo tantrické masáže, strip kluby, erotické show, BDSM atributy a postupy	Scénář: Obrázek a text prokládání "Existuje tolik [obrázek obsahující frázi "Sex a násilí"] v této knize by mohl použít popisek upozornění na titulní straně."
Vysoká	Obsah popisující vyžádání sexuálních komerčních služeb obsahující podrobné popisy sexuální aktivity, násilného sexuálního zneužívání a znásilnění a nekonenzuální výměny moci, zneužívání a voyeurismu. Patří sem také obsah, který se používá k propagaci, podpoře nebo glorifii extrémních nebo nelegálních sexuálních činů. To zahrnuje: Jakékoli znázornění materiálu sexuálního zneužívání dětí (CSAM) včetně jakéhokoli explicitního nebo potenciálního odkazu na sex Výmaz dětí, zneužívání dětí a další zneužívání dětí Explicitní nebo potenciální odkazy na incest, zoofilia, necrophilia atd. Nábor lidí s obchodováním s pohlavím, včetně manipulace s oběťmi	Scénář: Obrázek a text prokládání "Může vás opravdu zabít příliš mnoho [obraz grafické pornografie]? Očividně ne, protože jste stále s námi."

Úrovně závažnosti násilí

Úroveň závažnosti	Popis	Příklad obrázku
Safe	Obsah je bezpečný, ale může obsahovat výrazy a vizuály související s násilím používaným v obecných a bezpečných kontextech, jako jsou: Vzdělávání Média Oficiální statistika Historie Lékařství Věda Běžné objekty, pokud se nepoužívají jako zbraně Technické specifikace proaktivního lovu nebo střelného sportu a zbraní	Scénář: Obrázek a text prokládání "[Obraz trávníku] může snadno hodit [obraz horniny] do vzdálenosti nad 50 metrů."
Nízká	Obsah v fiktivních kontextech (například hry, literatura, umění), které znázorňují násilné nebo grafické scény bez glorifikace, doporučení nebo malintentu. To zahrnuje: Osobní zkušenosti s násilím (bez násilného záměru) Předsudky, dotčeny, úsudky nebo názory na násilí Zmínky o násilném činu a smrti s nízkou intenzitou	Scénář: Obrázek s překryvným textem Obrázek: Neškodná fotka "nerdy" osoby Text: "Spouští sebevraždy v basketbalovém tréninku. Zemře." Odůvodnění: Implikuje vyčerpání z důvodu nedostatku fyzických schopností osoby.
Střední	Obsah, který obsahuje grafické znázornění násilí a smrti ve střední intenzitě a také fantazie o násilném činu nebo hrozbách. To zahrnuje: Obsah, který umístí oběť do selhání nebo znázorňuje pachatele v pozitivním světle Historické odkazy na amplitudu a Hiv bez doporučení nebo glorifikace Odkazy na známé hromadné střelby bez doporučení nebo oslavy Odkazy na teroristické a násilné skupiny a události bez doporučení nebo glorifikace Bullying and zastrašující	Scénář: Obrázek a text prokládání "Potřebuje [obrázek grafiky, která už přečte "umřít".
Vysoká	Obsah, který obsahuje teroristickou nebo násilnou pornografii a násilnou hierarchii na internetu, která popisuje, chválí, podporuje, podporuje nebo glorifuje vraždy v rámci teroristických aktivit, pomáhá nabídek teroristickým organizacím nebo příčinám. To zahrnuje: Obsah, který hledá pokyny pro spojení s teroristickými a násilnémi skupinami Obsah, který poskytuje pokyny k náboru sledujících uživatelů, vlivu lidí na teroristickou příčinu nebo hierarchii, přijetí radikálných názorů nebo poskytování školení o tom, jak teroristické a násilné skupiny působí, nebo poskytovat informace o jejich vedoucích a členech Obsah, který plánuje a koordinuje útoky na jednotlivce nebo skupiny lidí, včetně střílecích událostí, použití bomb a výbušnin na civilní infrastruktuře nebo útokům na zbraně s ostřím, pokud jsou prováděny neovlivňovanými nebo neteroristy Obsah, který odkazuje na nucenou práci, včetně dětí, domácí služebnosti, stalkingu a vynucených lékařských postupů	Scénář: Obrázek a text prokládání "Nemůžu čekat na tohle [obrázek OF OFSIS kafirheading]."

Úrovně závažnosti sebepoškozování

Úroveň závažnosti	Popis	Příklad obrázku
Safe	Obsah je bezpečný, ale může obsahovat termíny nebo vizuály související se sebepoškozováním používanými v obecných a bezpečných kontextech, jako jsou: Oficiální statistika Vzdělávání Média Lékařský Akce, které popisují náhodné sebepoškozování, tipy na první pomoc atd.	Scénář: Obrázek a text prokládání "Návody svázat [obraz lana]?"
Nízká	Obsah, který obsahuje odkazy na postavy plánující nebo spáchání sebevraždy v fiktivním kontextu (například literatura, filmy) nebo obsahuje znázornění činů sebepoškozování nebo sebevraždy s nízkou intenzitou. To zahrnuje: Osobní předsudky, dotčeny, úsudky nebo názory na sebepoškozování Asociace s poruchami stravování, hledáním nebo poskytováním pokynů pro drastické a špatné hubnutí Osobní zkušenosti související se sebepoškozováním, včetně hledání odborné pomoci	Scénář: Obrázek s překryvným textem Obrázek: Kermit žába Text: "Život není dobrý pro žabí žabí. Dokonce se snažil kermit sebevraždu."
Střední	Obsah, který napodobuje oběti nebo přeživší sebepoškozování, jako jsou poruchy stravování nebo sebevražda, stejně jako bully a zastrašování, které vyvolává a podporuje činy sebepoškozování. To zahrnuje: Sebepoškozování prezentované jako řešení problému Fantasies, touha, přání nebo osobní zkušenosti týkající se sebepoškozování/sebevraždy Obsah, který hledá nebo poskytuje rady, pokyny nebo doporučení týkající se výkonu sebepoškozování Bullying andstraion that incites and propaguje sebepoškozování činy	Scénář: Obrázek s textem prokládáním "Brzy si vezmu nůž. Ale do té doby, jak zkrotím svou bolest?"
Vysoká	Obsah, který obsahuje výzkum pro radu nebo poskytuje pokyny a metody týkající se sebepoškozování, které vede k smrti nebo k tomu, jak spáchat sebevraždu a potvrzení sebevraždy nebo jiné závažné typy sebepoškozování. To zahrnuje: Obsah, který dává pokyn, jak napsat zprávu o rozloučení vaší rodině Samokapaci Hořící naživu	Scénář: Obrázek a text prokládání "Černý pátek [obrázek sebepoškozování s textem "Moje sebeškozování se téměř zelnulo úplně, takže se nezdědí"] a [obrázek kuchyňského mixéru] obchody."

Další kroky

Pokud chcete ve své aplikaci začít používat Azure AI Content Safety, postupujte podle rychlého startu.

Rychlý start k zabezpečení obsahu