Ártalomkategóriák az Azure AI-tartalom Széf ty-ban

Ez az útmutató az Azure AI Content Széf ty által a tartalom megjelölésére használt összes kárkategóriát és minősítést ismerteti. A szöveg- és képtartalmak is ugyanazt a jelölőkészletet használják.

Kárkategóriák

A tartalom Széf ty a kifogásolható tartalom négy különböző kategóriáját ismeri fel.

Kategória	Leírás
Gyűlölet és méltányosság	A gyűlöletkel és méltányossággal kapcsolatos sérelmek minden olyan tartalomra vonatkoznak, amely pejoratív vagy diszkriminatív nyelvet használ, és e csoportok bizonyos megkülönböztető tulajdonságain alapuló személyre vagy identitáscsoportra hivatkozik, beleértve, de nem kizárólagosan a faji, etnikai, nemzetiségi, nemi identitás és kifejezés, szexuális orientáció, vallás, bevándorlási státusz, képességállapot, személyes megjelenés és testméret alapján. A méltányosság annak biztosításával foglalkozik, hogy az AI-rendszerek méltányosan kezeljék az emberek minden csoportját anélkül, hogy hozzájárultak a meglévő társadalmi viszonossághoz. A gyűlöletbeszédhez hasonlóan a méltányossághoz kapcsolódó ártalmak az identitáscsoportok eltérő kezelésén alapulnak.
Szexuális	A szexuális leírások az anatómiai szervekhez és nemi szervekhez, romantikus kapcsolatokhoz, erotikus vagy szeretetteljes kifejezésekben ábrázolt cselekedetekhez, terhességhez, fizikai szexuális aktusokhoz kapcsolódnak, beleértve azokat is, amelyeket testi sértésként vagy erőszakos cselekményként ábrázolnak az ember akarata ellen, prostitúció, pornográfia és visszaélés.
Erőszak	Az erőszak azt a nyelvet írja le, amely olyan fizikai műveletekhez kapcsolódik, amelyek célja, hogy fájdalmat, sérülést, kárt okoznak vagy megöljenek valakit vagy valamit; fegyvereket, fegyvereket és kapcsolódó entitásokat, például gyártásokat, szövetségeket, jogszabályokat stb. ír le.
Önkárosítás	Az önkárosítás olyan fizikai műveletekhez kapcsolódó nyelvet ír le, amelyek célja, hogy szándékosan megsérüljenek, megsérüljenek, megsérüljenek a testeik, vagy megöljék önmagukat.

A besorolás többcímkés is lehet. Ha például egy szövegminta végighalad a szövegmoderálási modellen, az szexuális tartalomként és erőszakként is besorolható.

Súlyossági szintek

A szolgáltatás által alkalmazott összes kárkategória súlyossági szintű minősítéssel is rendelkezik. A súlyossági szint a megjelölt tartalom megjelenítésének következményeinek súlyosságát jelzi.

Szöveg: A szövegmodell jelenlegi verziója támogatja a teljes 0–7 súlyossági skálát. Az osztályozó az összes súlyosság között észleli ezt a skálát. Ha a felhasználó megadja, a 0, a 2, a 4 és a 6 levágott skálán is visszaadhatja a súlyosságokat; minden két szomszédos szint egyetlen szintre van leképezve.

• [0,1] -> 0
• [2,3] -> 2
• [4,5] -> 4
• [6,7] -> 6

Kép: A képmodell jelenlegi verziója támogatja a teljes 0–7 súlyosságú skálázás levágott verzióját. Az osztályozó csak a 0, 2, 4 és 6 súlyosságot adja vissza; minden két szomszédos szint egyetlen szintre van leképezve.

• [0,1] -> 0
• [2,3] -> 2
• [4,5] -> 4
• [6,7] -> 6

Szöveges tartalom

Figyelmeztetés

Figyelmeztetés

A dokumentum Súlyosságdefiníciók lapja olyan káros tartalmakat tartalmaz, amelyek egyes olvasók számára zavaróak lehetnek.

Súlyossági definíciók

A gyűlölet és a méltányosság súlyossági szintjei

Súlyossági szint	Leírás	Példaszöveg
0. szint	Az általános értelemben használt gyűlöletkel és méltányossággal kapcsolatos kifejezéseket tartalmazó tartalom, amely minden célközönség számára megfelelő, beleértve a gyermekeket is. Ide tartoznak az alábbiak: Általános, pejoratív nyelv, amely nem tetszik az identitáscsoportoknak Az identitáscsoport attribútumainak általános említései, mint például a faj, az etnikum, a vallás stb. a történelmi, földrajzi, orvosi és egyéb hasonló összefüggésekben, hangulat nélkül Általános kifejezések, amelyek a környezeten kívül nem rendelkeznek a sértő szándék faji alátoniával	"I hate cats."
1. szint	Az általános értelemben használt gyűlöletkel és méltányossággal kapcsolatos kifejezéseket tartalmazó tartalom, de a kontextus alapján eltérő jelentéssel rendelkezhet, és nem tesz különbséget az identitáscsoportok és mások között elfogult vagy negatív módon. Ide tartoznak az alábbiak: Hivatalos statisztikák, jogszabályok vagy dokumentáció Hírek/médialefedettség Oktatási források, amelyek célja a sokszínűség tudatosítása/a gyűlöletbeszéd kezelése Bőrfehérítő termékek és kezelési hirdetések Említések az indo-eurázsiai horogkeresztről, a konföderációs zászlóról, a KKK-val vizuálisan hasonló nem KKK-csoportokról	"Black people should not be killed by police or mistreated just because of their skin color."
2. szint	A kedvező érzelmi választ kiváltó identitáscsoportok pozitív karakterizálását vagy védelmét tartalmazó tartalom. Ide tartoznak az alábbiak: A zsilipek teljes egészében a kutatási dokumentumokban, szótárakban vagy médiában jelennek meg közvetlen idézőjelekkel Egy identitáscsoporthoz tartozó beszélő nyilatkozatai anélkül, hogy ugyanazt az identitáscsoportot célozták meg Átok szavak, trágárság és verbális sértések, amelyek nem célozzák meg az identitáscsoportot Általános gyűlöletbeszéd, amely azonosítatlan személyeket/csoportokat céloz meg identitáscsoport megcélzása nélkül Felhasználói szándék a sértő kifejezések blokklistájának létrehozására A náci Németország, Hitler, a konföderációs zászló és a Ku Klux Klan szimbolizmus ábrázolása filmekben, videojátékokban, jelmezekben, játékokban, újrajátszásokban vagy online szlengben	"I hate you."
3-as szint	Előítéletes, ítélőképességű, sztereotip karakterizálást vagy negatív hangulatot tartalmazó tartalom. Ide tartoznak az alábbiak: Sztereotipizáláson vagy negatív véleményen alapuló vélemény Előítéletes, ítélkezési vagy véleménynyilvánítási nézeteket fejez ki Negatív vagy pozitív összehasonlítások az identitáscsoportok és mások között. Említések fiktív világokban Foglalkoztatás hátrányos megkülönböztetése álláshirdetésekben A náci Németországhoz, a konföderáció zászlójához kapcsolódó történelmi tények és tárgyak az USA polgárháborúja során, vagy a Ku Klux Klan	"I don't like [identity group] because they are all so aggressive. They attacked us over and over again for no reason at all."
4. szint	Olyan tartalom, amely közvetlen verbális hangulati indíttatású sértegetéseket, negatív megjegyzéseket és faji zsilipeket tartalmaz, amelyek identitáscsoportokat céloznak meg azzal a szándékkal, hogy az egyéneket bántsák az attribútumaik alapján. Ide tartoznak az alábbiak: Az ember fajának, bőrszínének megcélzására használt hivatkozások A társadalmi elkerülés és az elszigeteltség előmozdítása Identitáscsoportok attribútumainak szimulálása és utánzása	"All [identity group] are ugly."
5. szint	Olyan tartalom, amely olyan egyének vagy csoportok dehumanizálását vagy eltérését tartalmazza, amelyek az embertelenítés, az erőszak, az események tagadása, a terrorizálás vagy a megfélemlítés viselkedése révén tovább erősítő negatív hangulatot keltenek. Ide tartoznak az alábbiak: Olyan történelmi, jól dokumentált és erőszakos eseményeket tagadó szövegek, mint a holokauszt Az egyéneket vagy csoportokat egy identitáscsoport tagsága alapján fizikailag vagy mentálisan rosszabbnak leíró szövegek Identitáscsoport létezését megkérdőjelező, tagadó vagy megtévesztést okozó szövegek A kívánt/várt attribútumok érvényesítése Identitáscsoportokat célzó eugenika és "faji fejlődés" elméletek Modern áru, amely nácit, konföderációs zászlót vagy KKK-szimbólumokat tartalmaz	"The [real world event] is a fraud. What we've discovered is that sources have been lying about the number of victims. Here is proof."
6. szint	Az identitáscsoportok felé irányuló negatív véleményen és gyűlöletbeszéden alapuló tartalom. Olyan csoportjellemzőkre hivatkozva, amelyek megkülönböztetik az identitáscsoportot és másokat, és arra kérik a felhasználókat, hogy az attribútumaik alapján lépjenek fel az identitáscsoportok ellen. Ilyenek lehetnek a következők: Gyűlöletbeszéd-propagandát, amely közvetlen fenyegetésnek tekinthető, vagy egy identitáscsoport felé irányuló erőszak felhívása Gyújtó, sértő és vulgáris gyűlöletbeszéd Olyan szövegek, amelyek állítólag egy csoport fölényét követelik meg az identitáscsoportok attribútumaival szemben, hogy igazolják a hátrányos megkülönböztetést, a szegregációt vagy a kirekesztést Az identitáscsoportot megcélzó erőszakos esemény örömét leíró szövegek	"Send [identity group] back to the gas chambers."
7. szint	A negatív véleményen alapuló tartalom, a gyűlölet-bűncselekmény és a zaklatás szándékának megjelenítése, ellenséges érzelmi válasz aktiválása, valamint identitáscsoportok és más bűncselekményekhez vezető személyek megkülönböztetése. Ide tartoznak az alábbiak: Gyűlölet-bűncselekmények előkészítése, dicsérete és dicsőítése erőszak egy identitáscsoport Felsőbbrendű csoportok felvételi anyagát tartalmazó szövegek Az identitáscsoport elleni gyűlöletbeszéd radikalizálására és ösztönzésére szánt szövegek	"Millions of [identity group] were wiped out because they were the inferior race. Murdering them continues to be right and honorable because…"

Szexuális súlyossági szintek

Súlyossági szint	Leírás	Példaszöveg
0. szint	Olyan tartalom, amely általános értelemben szexuálisan összefüggő kifejezéseket tartalmaz, amely ártalmatlan minden célközönség számára, beleértve a gyermekeket is. Említések a családi kapcsolatokról Minden célközönség számára ártalmatlan tartalom, beleértve a gyermekeket is	"The sports bra and yoga pants were too tight for comfort."
1. szint	Olyan tartalom, amely általános értelemben használt szexuális vonatkozású kifejezéseket tartalmaz, de a kontextus alapján eltérő jelentést kaphat. Ez a következőket foglalja magában: Hivatalos statisztikák és dokumentáció a szexhez kapcsolódó témakörökről Hírek/médialefedettség Anatómiai kifejezések, szexuális anatómia és orvosi kezelés Oktatási források a szexről, a szexuális wellnessről, a tudatosságról stb. Említések a biológiai nemről vagy a szexuális reprodukció leírásáról Romantikus kapcsolatokat nem grafikusan leíró szövegek	"Fewer young adults are having sex than in previous generations."
2. szint	Olyan tartalom, amely szexuálisan összefüggő kifejezéseket tartalmaz olyan fiktív vagy valós élményekben, amelyek nem rendkívül grafikusak. Ez a következőket foglalja magában: Irodalmi/művészi szövegek, filmek, szobrok stb. említései, amelyek korlátozott piszkos beszédet vagy rövid, nem explicit meztelenségi jeleneteket tartalmaznak A szexhez kapcsolódó személyes élmények, szexuális problémák és traumák, a megküzdési mechanizmusok megosztása és az ilyen problémák kezelésére szolgáló erőforrások megosztása A felhasználói szándék, hogy szexuális tartalomhoz hozzon létre egy tiltólistát Említések a szexuális aktusokról és a meztelenségről világos maggal	"The first time I had sex, I found it painful."
3-as szint	Szexuális vonatkozású tartalmak olyan esetekben, amelyek valamilyen grafikus tartalmat, elfogult, előítéletes, ítélőképességű vagy véleményen lévő véleményt fogalmaznak meg a nemi kérdésekkel kapcsolatban. Ez a következőket foglalja magában: Személyes múlt vagy jelen szexuális élmények néhány grafikus tartalommal	"We made out for a while, and he started to feel me up. I felt a bulge in his pants."
4. szint	A szexuális fantáziákat, a professzionális szexipart és reklámokat, valamint a szexuális állatok reprodukcióját leíró tartalom. Ez a következőket foglalja magában: Különböző típusú nemi fantáziák, beleértve a valós vagy fiktív meztelenség képét Professzionális szexipar a szexjelenetek leírása nélkül Reklámok óvszerekhez, kenőanyagokhoz, szex játékokhoz, ruházathoz stb. Állatok vagy állatszerű karakterek közötti szexuális reprodukció leírása valamilyen grafikus tartalommal Említések a szexuális aktusok és meztelenség lágy maggal	"I got into BDSM because I had some friends into the lifestyle and it piqued my interest. I like using silk, scarves, collars, and bondage…"
5. szint	Az erotikus műsorokat vagy élményeket személyes élményként leíró tartalom, a BDSM egyértelmű hozzájárulással, valamint erotikus történetek és webhelyek. Ez a következőket foglalja magában: Megemlíti a szexuális, erotikus vagy tantrikus masszázsok, csík klubok, erotikus mutatja, mint személyes tapasztalat (nem szakmai szolgáltatás) A BDSM-attribútumokkal és gyakorlatokkal kapcsolatos személyes élmények és leírások általában vagy a BDSM gyakorlatának egyértelmű tartalmával rendelkező helyzetekben Említések a szexuális vágyhoz vagy élvezethez kapcsolódó nem kereskedelmi erotikus tartalmakról	"We both climaxed at the same time."
6. szint	A szexuális kereskedelmi szolgáltatások igénybevételét leíró tartalom, amely részletes leírást tartalmaz a szexuális tevékenységről, az erőszakos szexuális erőszakról és a nem-konszenzuális hatalomcserékről, a visszaélésekről és a voyeurizmusról. Ez a következőket foglalja magában: Megemlíti a nemi szervek ingerlésének a kezét vagy más tárgyakat, maszturbációt stb. Bétis vagy nyers tartalom, amely testi folyadékokat, szexkontroll-helyzeteket vagy BDSM-tevékenységeket foglal magában egyértelmű hozzájárulás nélkül Olyan szövegek, amelyek grafikus részletekben írják le a szexuális erőszakot, a szexuális erőszakot, a nemi erőszakot vagy a visszaélést Olyan szövegek, amelyek pozitív tulajdonságokat tulajdonítanak a szexuális zaklatásnak Olyan szövegek, amelyek szexuális erőszak végrehajtására vonatkozó utasításokat keresnek vagy adnak meg Zsarolás és fenyegetés a korábban rögzített nem hitelesített szexuális képek vagy videók felfedésére	"I love forced sex, it's so much hotter."
7. szint	A szexuális rabszolgaság szélsőséges formáinak népszerűsítésére, támogatására, dicsőítésére használt tartalom. Szélsőséges vagy illegális tartalom. Ez a következőket foglalja magában: Szex állatokkal, holttestekkel stb. Pedofília Gyermekápolással kapcsolatos utasítások keresése vagy megadása Explicit vagy lehetséges hivatkozás a vérfertőzésre Emberkereskedelem toborzása	"I was abused as a child by my uncle and I liked it. Nowadays, I make money by producing child pornography with my neighbor’s 6 year old son."

Az erőszak súlyossági szintjei

Súlyossági szint	Leírás	Példaszöveg
0. szint	Olyan tartalom, amely általános értelemben nem erőszakos cselekedeteket vagy erőszakkal kapcsolatos kifejezéseket tartalmaz, amelyek minden célközönség számára ártalmatlanok, beleértve a gyermekeket is. Ide tartoznak az alábbiak: Gyakori tárgyak, ha nem fegyverként használják Toy guns, non-realisztikus vagy színlelt fegyverek Kötelek említése, ha nem zsinórként használják	"According to our child and parent testers, here are the best long-range soakers for soft blasters for toddlers suitable for epic water battles."
1. szint	Olyan tartalom, amely erőszakkal kapcsolatos kifejezéseket vagy általános értelemben használt cselekményeket tartalmaz, de a kontextus alapján más jelentéssel is rendelkezhet. Ide tartoznak az alábbiak: Az erőszakos cselekmények leírását tartalmazó szövegek részhalmazai, amelyekben a teljes szöveg kontextusba kerülése nem rendelkezik erőszakos szándékkal Hivatalos statisztikák és dokumentáció fegyverekről, fegyverekről, családon belüli erőszakról, hadviselésről, hadseregről stb. Az erőszakkal kapcsolatos oktatási források Hírek/médialefedettség Orvosi feltételek és tartalom Vadászati vagy lövészeti sport és fegyver technikai specifikációk Harci gyakorlat Terrorizmus elleni és az ISIS-hez/al-Kaidához nem kapcsolódó terrorista szimbólumok	"Carnivores such as lions and tigers are prone to killing one another. Death occurs at the paws, claws, jaws, or tusks that might fatally gore one another during fights."
2. szint	Olyan tartalom, amely erőszakkal kapcsolatos kifejezéseket vagy cselekményeket tartalmaz olyan fiktív vagy valós élményekben, amelyek nem rendkívül grafikusak, és nem dicsőítik vagy támogatják a malintentet. Ide tartoznak az alábbiak: Első, második és harmadik személy elbeszélése videojátékokban, irodalmi/művészi szövegekben, amelyek erőszakos vagy grafikus jeleneteket ábrázolnak Játéktippek és javaslatok Személyes élmények, amelyekben az egyén leírja, hogyan voltak kitéve valamilyen erőszaknak Kötelek említése, ha emberi alanyok nélkül használják, vagy nem kapcsolódnak a zsinórhoz A felhasználói szándék egy erőszakos tartalommal rendelkező tiltólista létrehozása	"She wishes she could have killed her whole family."
3-as szint	Erőszakkal kapcsolatos kifejezésekkel vagy cselekményekkel kapcsolatos tartalom olyan esetekben, amelyek valamilyen grafikus tartalmat, elfogult, előítéletes, ítélőképességű vagy véleményen alapuló nézeteket fogalmaznak meg az erőszakról. Ide tartoznak az alábbiak: Állatkínzás engedélyezése Bizonyos típusú erőszak pozitív hatását jelölő szövegek	"Some people just need to be slapped."
4. szint	Olyan tartalom, amely megalapozatlan indokokat ír le arra vonatkozóan, hogy miért bántalmazzák fizikailag az áldozatokat, a bántalmazók pozitív tulajdonságainak megalapozatlan megnevezése, erőszakos cselekmények fenyegetései és fantáziák arról, hogy hogyan árthat egy másik személynek, és közepes gore. Ide tartoznak az alábbiak: Olyan szövegek, amelyek az áldozatot hibáztatják, vagy az elkövetőket pozitív fényben ábrázolják Az erőszak és a halál grafikus leírása közepes gore-val Boncolási jelentés, törvényszéki vizsgálat, bűncselekmény vagy halál helyszíne Hús- és baromfilétesítmények, valamint vallási állatáldozat Hivatkozások történelmi vagy közelmúltbeli népirtásokra és ismert lövöldözésekre, amelyekben tömegmészárlás történt jóváhagyás vagy dicsőítés nélkül Hivatkozás terrorista és erőszakos szélsőséges eseményekre jóváhagyás vagy dicsőítés nélkül	"Victims of abuse deserve to be hit. They push and push until they get what they deserve."
5. szint	A további erőszakra irányuló tartalom, amely közvetlen útmutatást ad arra vonatkozóan, hogyan árthat egyes személyeknek vagy csoportoknak. Ide tartoznak az alábbiak: Olyan szövegek, amelyek fizikai erőszakot indítanak a megcélzott személyek/csoportok ellen Utasítások az egyének fizikai erőszakjának vagy az állatokkal való visszaélésnek a előidézésére Az állatok, egyének vagy csoportok erőszakos cselekedeteinek végrehajtására vonatkozó tanácsokat kérő szövegek Bullying and intimidation	"Go to another state or another city and kill any stranger; for example, shoot them with a silencer gun. Since you have not any connection with him, you will not get caught."
6. szint	A szélsőséges csoportokat és terrorista szervezeteket, a tömeggyilkosságokat és a nyílt fizikai károkat leíró tartalmak, valamint a terrorizmus és propagandájának előmozdítása. Ide tartoznak az alábbiak: Hivatalos terrorista vagy szélsőséges propagandaanyagok és erőszakos ideológia az interneten Erőszakos fellépésre való felbujtás	"We must kill them all. God wills it, and society will be better for it."
7. szint	Az erőszak szélsőséges formáinak leírására, dicséretére, támogatására, előmozdítására, támogatására, dicsőítésére használt tartalom. Olyan tartalom, amely támogatja a terrorista szervezeteket, radikalizálja, utasítja vagy vonatozza. Ide tartoznak az alábbiak: Kényszermunka, beleértve a gyermekeket, a házi szolgaságot vagy az orvosi kezelést Online terrorista és erőszakos szélsőséges propaganda anyagok, amelyek dicsőíti gyilkosságok részeként terrorista tevékenység és segélyajánlatok terrorista szervezetek vagy okok Azok a szövegek, amelyek útmutatást kérnek a terrorista és erőszakos szélsőséges csoportokkal való kapcsolatról arról, hogyan toborozhatnak, befolyásolhatnak és taníthatnak be embereket az ügy felé Illegális zaklatási viselkedések, például zaklatás vagy nemkívánatos megfigyelés Személyek vagy személyek csoportjai elleni támadásokat tervező és koordináló szövegek Olyan szövegek, amelyek támogatják, dicsőítik vagy útmutatást adnak a kannibalizmushoz	"Let's call and threaten to explode the hospital during the weekend. I've got the explosives ready, and will have them installed tonight."

Önkárosítás súlyossági szintjei

Súlyossági szint	Leírás	Példaszöveg
0. szint – Széf	Olyan tartalom, amely általános értelemben használ önkárosítással kapcsolatos kifejezéseket, amelyek minden célközönség számára ártalmatlanok, beleértve a gyermekeket is. Ide tartoznak az alábbiak: Említések a testzsírról, a zsír tömegindex mutatóiról kor és nem szerint az egészséghez kapcsolódó összefüggésekben	"I appreciate your hard work, but you don't need to keep killing yourself over this project."
1. szint	Olyan tartalom, amely általános értelemben használt önkárosítással kapcsolatos kifejezéseket tartalmaz, de a kontextus alapján más jelentéssel is rendelkezhet. Ide tartoznak az alábbiak: Hivatalos statisztikák és dokumentáció a nem öngyilkos önsértésről (NSSI), öngyilkosságról stb. Önkárosításhoz kapcsolódó oktatási források Hírek/médialefedettség Orvosi feltételek és tartalom A véletlen önkárosítást, elsősegélynyújtási tippeket stb. leíró műveletek.	"Binging and purging may be a warning sign for people with a history of extreme weight loss."
2. szint	Olyan tartalom, amely önkárosítással kapcsolatos kifejezéseket vagy cselekedeteket tartalmaz olyan fiktív vagy valós élményekben, amelyek nem rendkívül grafikusak. Ide tartoznak az alábbiak: Irodalmi/művészi szövegek, filmek stb., amely az öngyilkosságot ábrázoló vagy elkövető karaktereket ábrázolja, önkárosítást okoz, vagy megdicsőítés vagy jóváhagyás nélkül rendezetlen étkezést Olyan szövegek, ahol az önkárosítás vagy az öngyilkosság alacsony gore-val van ábrázolva A felhasználói szándék az önkárosítási feltételek blokklistáinak létrehozása	"Oedipus stabbed his eyes in despair."
3-as szint	Önkárosítással kapcsolatos kifejezésekkel vagy cselekményekkel kapcsolatos tartalmak olyan esetekben, amelyek valamilyen grafikus tartalmat, elfogult, előítéletes, ítélkező vagy véleményen alapuló nézetet fogalmaznak meg az önsértésről. Ide tartoznak az alábbiak: Az önkárosítással kapcsolatos személyes élmények, például segítségkérés, mielőtt ártanának maguknak vagy öngyilkosságot követnek el	"I'm really struggling with self-loathing and thoughts of self-harm to relieve my distress after my friend took his own life last month. Please can someone give me any useful advice?"
4. szint	Olyan tartalom, amely az öngyilkosság vagy az önsértés áldozatait vagy túlélőit gúnyolja, az önsértés, a fantáziák vagy az önsértés vágyainak pozitív tulajdonságainak megalapozatlan megnevezése, és kifejezetten grafikus tartalmakat tartalmaz, beleértve a halált, a boncolást, a bűncselekményt vagy a halál helyszínét. Ide tartoznak az alábbiak: Az önsértés megoldásként jelenik meg egy problémára, érzelmi szorongásra, a fájdalomtól/kíntól való menekülésre Olyan szövegek, ahol az önkárosítás vagy az öngyilkosság közepes gore-t és olyan eszközök leírását tartalmazza, mint a kés, a pisztoly stb.	"It's hilarious when [identity group] kill themselves."
5. szint	Az önkárosítás további előmozdítását célzó tartalom, amely közvetlen útmutatást nyújt az önkárosítás vagy az áldozat bántalmazásának végrehajtásához. Ide tartoznak az alábbiak: Olyan szövegek, amelyek tanácsot vagy javaslatokat keresnek az önsértő cselekedetek végrehajtására, kivéve az öngyilkosságot Az önkárosítás személyes múltját és jelenét leíró szövegek, amelyek explicit részleteket tartalmaznak Bullying, megfélemlítés, és nyomást, hogy uszít és elősegíti az önsértő cselekmény	"Go kill yourself, you are worthless."
6. szint	Az öngyilkosság elkövetésére vonatkozó részletes és explicit utasításokat leíró tartalom. Ide tartoznak az alábbiak: Olyan szövegek, amelyek arra utasítják, hogyan írjon búcsúüzenetet a családjának	"Here is a quick guide to do-it-yourself suicide. One method is asphyxia suicide by inhaling helium inside a plastic bag."
7. szint	Az öngyilkosság vagy más súlyos önsértő cselekedetek támogatásához és dicsőítéséhez használt tartalom. Ide tartoznak az alábbiak: Önálló lefejezés Élve égő	"Get a shotgun and blow your brains out. It won't even hurt. And you'll be remembered for ages, like Kurt Cobain or Ernest Hemingway. There's nothing bad about suicide. Actually it's noble."

Kép tartalma

Figyelmeztetés

Figyelmeztetés

A dokumentum Súlyosságdefiníciók lapja olyan káros tartalmakat tartalmaz, amelyek egyes olvasók számára zavaróak lehetnek.

Súlyossági definíciók

A gyűlölet és a méltányosság súlyossági szintjei

Súlyossági szint	Leírás	Példa képre
0. szint – Széf	A tartalom biztonságos, de tartalmazhat gyűlölettel és méltányossággal kapcsolatos képeket, amelyek nem tartalmaznak hangulatot vagy semleges hangulatot a megkülönböztetéstől mentes, nem sértő módon a következő kontextusokban vagy hasonlókban: Újságírói Előzmények Orvosi Jogi információk Oktatási Földrajzi	Nem konföderációs jelzők, például kereszteket tartalmazó országok vagy államok lobogói Nagy-Britannia Union Jack zászlajának képe Az USA-ban rabszolgasorba oltott emberek emancipációjának ábrázolása történelmi fotókon
2. szint – Alacsony	Olyan tartalom, amely pozitív véleményeket, hamis pozitív véleményeket vagy negatív, torzított hangulatokat tartalmaz, amelyek megkülönböztetik az identitáscsoportokat másoktól. Ez a tartalom érzelmi reakciót vált ki. Ide tartoznak az alábbiak: Védelem Náci szimbolizmus, a konföderációs zászló, Ku Klux Klan szimbolizmus Sztereotipizálás Foglalkoztatási megkülönböztetés	A "No Hate Speech" mozgalom ábrázolásai a deprioritizált állásjelöltek, például a fogyatékkal élő jelöltek az interjú beállításaiban
4. szint – Közepes	Olyan tartalom, amely negatív hangulati műveletet tartalmaz az identitáscsoportok és más személyek felé, amelyek az identitáscsoportok és a felsőbbrendűség érzései elleni fellépés előmozdításához vezetnek. Ide tartoznak az alábbiak: Sértegetés, elkülönítés, gúnyolás Náci zászló, konföderációs zászló és LMBTQIA+ változatok és áruk	Képek, amelyek elősegítik az [identitáscsoportok] társadalmi elkerülését] A faji fejlődés elméletét és az eugenikát ábrázoló képek
6. szint – Magas	Olyan tartalom, amely negatív hangulatot és gyűlöletbeszédet tartalmaz az identitáscsoportok felé, amelyek gyűlöletbeszéd-generáláshoz vagy gyűlölet-bűncselekményekhez vezetnek. Ide tartoznak az alábbiak: Rasszizmus LMBTQIA+ támadások Disablism Nemi alapú megkülönböztetés Dicsőített náci szimbolizmus, konföderációs zászló, Ku Klux Klan szimbolizmus Erőszakos konföderációs zászló	Antiszemita kép a "Déli keresztet" ábrázoló kép, amely egy kék sóst (átlós keresztet) ábrázol nyilvánvaló erőszakkal (pl. fegyverek a kijelzőn/használatban)

Szexuális súlyossági szintek

Súlyossági szint	Leírás	Példa képre
0. szint – Széf	A tartalom biztonságos, de általános értelemben használt, szexuálisan kapcsolódó képeket tartalmaz. Ide tartoznak az alábbiak: Családi és romantikus kapcsolatok Nem szexuális meztelenség Clothing Gyakori objektumok Nem szexuális póz vagy tevékenység Állati párzás Szexuális wellness	Az ölelés vagy a nem szexuális fizikai érintkezés ábrázolása a szeretet fizikai megjelenítését ábrázolja, például a csók nyelv nélkül és meztelenség nélkül
2. szint – Alacsony	Szexuálisan szuggesztív viselkedést vagy cselekményt tartalmazó tartalom. Ide tartoznak az alábbiak: Személyes élmények Divatmodellezés Meztelenség az ábrán Body art Racy display	Személyek ábrázolása
4. szint – Közepes	Tartalom, amely kereskedelmi és amatőr erotikus és/vagy pornográf tartalmat tartalmaz vizuális fényképes behatolás nélkül, valamint meztelen vagy félkendős résztvevőket, akik szexuálisan izgatónak szánt szexuális jelenetekben vesznek részt. Ide tartoznak az alábbiak: Szexuális modellezés Puha meztelenség az ábrán Szexfeladatok vagy üzletek Elhomályosított szexuális tevékenység Pornó termelési backstage Rúdtánc	Részlegesen elzárt, de a képen továbbra is jól látható közösülés ábrázolása
6. szint – Magas	Olyan tartalom, amely kifejezetten részletes ábrázolásokat tartalmaz a nemi szervekről és a szexuális aktusról, beleértve az illegális cselekedeteket is. Ide tartoznak az alábbiak: Amatőr soft-core és hard-core pornográfia Szexuális megszólítás Kukkolás Szex a műalkotásban BDSM hozzájárulás vagy nemi erőszak nélkül Gyermek szexuális kizsákmányolása és bántalmazása Gyermekápolás Vérfertőzés	Az állatokkal vagy holttestekkel folytatott szexuális tevékenységekben való részvétel ábrázolása

Az erőszak súlyossági szintjei

Súlyossági szint	Leírás	Példa képre
0. szint – Széf	A tartalom biztonságos, de általános értelemben erőszakkal kapcsolatos képeket tartalmaz. Ide tartoznak az alábbiak: Alvó vagy fekvő póz Gyakori objektumok Erőszakmentes tevékenység A kötelek nem zsinórként A konyhában/varrásban használt pengeeszközök Sebek, hegek és sebészeti kezelés Vadászati és lövészeti sport Toy és színlelje a fegyvereket Harci gyakorlat Objektumkárok és vandalizmus Nem márkás terrorista szimbolizmus	Nem valósághű fegyverek és pengeeszközök ábrázolása
2. szint – Alacsony	Olyan tartalom, amely erőszakkal kapcsolatos képeket tartalmaz, és valós vagy fiktív kontextusban, alacsony gore-val jár el. Ide tartoznak az alábbiak: Fegyverek, fegyverek és pengeeszközök a kijelzőn és használatban Nem reális holttest Nem reális erőszak Animált fegyverek Könnyű sérülés és személyes élmény Kötelek, mint egy csomó Halál történelmi, oktatási vagy tréfás környezetben Nem reális terrorista szimbolizmus Bikaviadal	ISIS/al-Qaeda jelölők ábrázolása
4. szint – Közepes	Olyan tartalom, amely mérsékelt grafikus erőszakot és erőszakos cselekményt tartalmaz egy azonosított cél érdekében. Ide tartoznak az alábbiak: Boncolás Bűncselekmény vagy halál helyszíne Állathalál (természetes vagy vadászott), állatáldozat, állatbántalmazás Rabszolgasorba Népirtás és tömeggyilkosságok történelmi, oktatási környezetben Vágóhíd Családon belüli erőszak és fizikai bántalmazás Megfélemlítés Fegyverek és fegyverek a célpontok ellen	Az egyén agresszív uralására vagy megfélemlítésére való kényszerítés és erőszak alkalmazásának ábrázolása
6. szint – Magas	Olyan tartalom, amely kifejezetten részletes ábrázolásokat tartalmaz az erőszakról és az erőszakos cselekményekről a magas góréban. Ide tartoznak az alábbiak: Grafikus sérülések és halál Feldarabolás, lefejezés, élve égő Holttest felbontása Terrorizmus, terrorista csoportok és zászlók Kényszermunka és szolgaság, kényszerített orvosi eljárás Cserkésző Holttest a terrorizmusban és a háborús bűncselekményekben Forgatási esemény Egyéb szélsőségesség	Halál ábrázolása, ha az ISIS-zászlók és szimbólumok által azonosítható terrorista csoportok hajtják végre

Önkárosítás súlyossági szintjei

Súlyossági szint	Leírás	Példa képre
0. szint – Széf	A tartalom biztonságos, de általános értelemben használt önkárosítással kapcsolatos képeket tartalmaz. Ide tartoznak az alábbiak: Alacsony testzsír Nem önkárosítási cselekmény Véletlen testsérülés	A repülőből kiugró ejtőernyővel való ugrás ábrázolása
2. szint – Alacsony	Olyan tartalom, amely önkárosítással kapcsolatos képeket tartalmaz, és valós vagy fiktív környezetekben, alacsony gore-val működik. Ide tartoznak az alábbiak: Hegek Önkárosítás a helyreállítás során Nem reális önkárosítás Elbocsátott egyének vagy állatok	Az önkárosítással kapcsolatos cselekedetek, eszközök, sérülés és érzelmi állapot ábrázolása
4. szint – Közepes	Az önkárosítással és öngyilkosságtal kapcsolatos mérsékelt grafikus képeket tartalmazó tartalom. Ide tartoznak az alábbiak: Boncolás Bűncselekmény vagy halál helyszíne Megfélemlítés	Az egyén önkárosításra való agresszív uralmának és megfélemlítésének kényszerítésének ábrázolása
6. szint – Magas	Olyan tartalom, amely kifejezetten részletes ábrázolásokat tartalmaz az önkárosításról és az öngyilkosságról a magas góréban. Ide tartoznak az alábbiak: Közelgő önkárosítási cselekmény Önsértő cselekedetek Öngyilkosság	Szándékos öngyilkosság ábrázolása, ahol egy személy öngyilkosságot követett el egy magas épületről való leugrással

Következő lépések

Az Azure AI Content Széf ty alkalmazásbeli használatának megkezdéséhez kövessen egy rövid útmutatót.

Tartalom Széf ty rövid útmutató