Kategorie szkód w usłudze Azure AI Content Sejf ty

W tym przewodniku opisano wszystkie kategorie szkód i klasyfikacje używane przez zawartość sztucznej inteligencji platformy Azure Sejf ty do flagowania zawartości. Zarówno tekst, jak i zawartość obrazu używają tego samego zestawu flag.

Kategorie szkód

Zawartość Sejf ty rozpoznaje cztery odrębne kategorie niepożądanej zawartości.

Kategoria	opis
Nienawiść i sprawiedliwość	Szkody związane z nienawiścią i sprawiedliwością odnoszą się do wszelkich treści, które atakują lub używają języka pejoratywnego lub dyskryminującego w odniesieniu do osoby lub grupy tożsamości w oparciu o pewne atrybuty wyróżniające tych grup, w tym rasę, pochodzenie etniczne, narodowość, tożsamość płci i wyrażenie, orientację seksualną, orientację seksualną, religię, status imigracyjny, status zdolności, wygląd osobisty i rozmiar ciała. Sprawiedliwość dotyczy zapewnienia, że systemy sztucznej inteligencji traktują wszystkie grupy ludzi sprawiedliwie bez przyczyniania się do istniejących nierówności społecznych. Podobnie jak w przypadku mowy nienawiści, szkody związane z sprawiedliwością zależą od różnego traktowania grup tożsamości.
Seksualne	Język opisów seksualnych związanych z anatomicznymi narządami i genitaliami, romantycznymi relacjami, aktami przedstawionymi w kategoriach erotycznych lub pieszczotliwych, ciąży, fizycznych aktów seksualnych, w tym tych przedstawianych jako napaść lub wymuszony akt przemocy seksualnej przeciwko woli, prostytucji, pornografii i nadużyć.
Przemocy	Przemoc opisuje język związany z działaniami fizycznymi mającymi na celu zranienie, uszkodzenie, uszkodzenie lub zabicie kogoś lub coś; opisuje broń, broń i powiązane jednostki, takie jak produkcje, stowarzyszenia, ustawodawstwo itd.
Samookaleczenia	Samookaleczenia opisuje język związany z działaniami fizycznymi, które mają celowo zaszkodzić, zranić, uszkodzić ciało lub zabić siebie.

Klasyfikacja może być oznaczona wieloma etykietami. Na przykład gdy przykładowy tekst przechodzi przez model moderowania tekstu, może zostać sklasyfikowany jako zawartość seksualna i przemoc.

Poziomy ważności

Każda kategoria szkody, która ma zastosowanie, ma również klasyfikację poziomu ważności. Poziom ważności ma wskazywać ważność konsekwencji pokazywania oflagowanych zawartości.

Tekst: bieżąca wersja modelu tekstu obsługuje pełną skalę ważności od 0 do 7. Klasyfikator wykrywa wszystkie ważności w tej skali. Jeśli użytkownik określi, może zwrócić ważność w przyciętej skali 0, 2, 4 i 6; każdy z dwóch sąsiednich poziomów jest mapowany na jeden poziom.

• [0,1] -> 0
• [2,3] -> 2
• [4,5] -> 4
• [6,7] -> 6

Obraz: Bieżąca wersja modelu obrazu obsługuje przyciętą wersję pełnej skali ważności od 0 do 7. Klasyfikator zwraca tylko ważności 0, 2, 4 i 6; każdy z dwóch sąsiednich poziomów jest mapowany na jeden poziom.

• [0,1] -> 0
• [2,3] -> 2
• [4,5] -> 4
• [6,7] -> 6

Zawartość tekstowa

Ostrzeżenie

Ostrzeżenie

Karta Definicje ważności w tym dokumencie zawiera przykłady szkodliwej zawartości, która może być niepokojąca dla niektórych czytelników.

Definicje ważności

Poziomy ważności nienawiści i sprawiedliwości

Poziom ważności	Opis	Przykładowy tekst
Poziom 0	Zawartość zawierająca terminy związane z nienawiścią i sprawiedliwością używane w ogólnym sensie i jest odpowiednia dla wszystkich odbiorców docelowych, w tym dla dzieci. Obejmuje to: Ogólny, pejoracyjny język wyrażający niechęć do grup tożsamości Ogólne wzmianki o atrybutach grupy tożsamości, takich jak rasa, pochodzenie etniczne, religia itp. w historycznych, geograficznych, medycznych i innych podobnych kontekstach bez sentymentu Ogólne terminy, które nie mają rasowych podtonów obraźliwych intencji poza kontekstem	"I hate cats."
Poziom 1	Zawartość zawierająca terminy związane z nienawiścią i sprawiedliwością używane w ogólnym sensie, ale może uzyskać inne znaczenie na podstawie kontekstu i nie rozróżnia grup tożsamości i innych w sposób stronniczy lub negatywny. Obejmuje to: Oficjalne statystyki, ustawodawstwo lub dokumentacja Wiadomości/media Zasoby edukacyjne mające na celu podniesienie świadomości na temat różnorodności/walki z mową nienawiści Produkty do wybielania skóry i reklamy leczenia Wzmianki o indo-Eurasian swasika, flagi konfederacji, grup innych niż KKK, które mają wizualne podobieństwo z KKK	"Black people should not be killed by police or mistreated just because of their skin color."
Poziom 2	Zawartość zawierająca pozytywną charakterystykę lub ochronę grup tożsamości, które wyzwalają pozytywną reakcję emocjonalną. Obejmuje to: Slurs napisane w pełni w dokumentach badawczych, słownikach lub mediach z bezpośrednimi cytatami Instrukcje osoby mówiącej, która należy do grupy tożsamości bez zamiaru kierowania tej samej grupy tożsamości Przekląć słowa, wulgaryzmy i słowne obelgi, które nie są celem grupy tożsamości Ogólna mowa nienawiści przeznaczona dla niezidentyfikowanych osób/grup bez określania grupy tożsamości Intencja użytkownika dotycząca tworzenia listy zablokowanych obraźliwych terminów Reprezentacje nazistowskich Niemiec, Hitlera, flagi konfederacji i symboliki Ku Klux Klanu w filmach, grach wideo, kostiumach, zabawkach, reenactments lub online slangu	"I hate you."
Poziom 3	Zawartość zawierająca uprzedzone, osądalne, stereotypowe charakteryzowanie lub negatywne nastroje. Obejmuje to: Opinia oparta na stereotypach lub negatywnych nastrojach Wyraża uprzedzone, osądzone lub opiniowane poglądy Ujemne lub pozytywne porównania różniące się między grupami tożsamości i innymi. Wzmianki w fikcyjnych światach Dyskryminacja ze względu na zatrudnienie w miejscach pracy Historyczne fakty i artefakty związane z nazistowskimi Niemcami, flagą Konfederacji podczas wojny domowej USA lub Ku Klux Klanu	"I don't like [identity group] because they are all so aggressive. They attacked us over and over again for no reason at all."
Level 4	Zawartość zawierająca bezpośrednie zniewagi motywowane tonacją słowną, negatywne komentarze i oszukiwy rasowe używane jako opisy ukierunkowane na grupy tożsamości z zamiarem zranienia osób na podstawie ich atrybutów. Obejmuje to: Odwołania używane do celu wyścigu, koloru skóry Promowanie unikania unikania i izolacji społecznej Pozorowanie i imitowanie atrybutów grup tożsamości	"All [identity group] are ugly."
Poziom 5	Treść zawierająca dehumanizację lub odstępstwo od osób lub grup, które dodatkowo negatywną tonację poprzez dehumanizację, przemoc, zaprzeczenie wydarzeń, zastraszanie lub zastraszanie zachowań. Obejmuje to: Teksty, które odmawiają historycznych, dobrze udokumentowanych i brutalnych wydarzeń, takich jak Holokaust Teksty, które opisują osoby lub grupy jako fizycznie lub psychicznie gorsze w oparciu o członkostwo w grupie tożsamości Teksty, które kwestiują, zaprzeczają lub poniżają istnienie grupy tożsamości Wymuszanie żądanych/oczekiwanych atrybutów Eugenics i "poprawa rasowa" teorie, które są celem grup tożsamości Nowoczesne towary zawierające nazistowskie, flagi konfederacji lub symbole KKK	"The [real world event] is a fraud. What we've discovered is that sources have been lying about the number of victims. Here is proof."
Poziom 6	Zawartość oparta na negatywnym nastroju i mowy nienawiści w grupach tożsamości. Odwołując się do cech grup, które odróżniają grupę tożsamości i inne osoby oraz odwołując się do podjęcia działań w odniesieniu do grup tożsamości na podstawie ich atrybutów. Może to obejmować: Propaganda mowy nienawiści, która może być postrzegana jako bezpośrednie zagrożenie lub wezwanie do przemocy wobec grupy tożsamości Zapalające, obraźliwe i wulgarne przemówienie z nienawiści Teksty, które rzekomo twierdzą, że wyższość jednej grupy nad tymi, którzy mają atrybuty grup tożsamości w celu uzasadnienia dyskryminacji, segregacji lub wykluczenia Teksty opisujące radość dotyczące brutalnego wydarzenia, które skierowane do grupy tożsamości	"Send [identity group] back to the gas chambers."
Poziom 7	Treści oparte na negatywnych nastrojach, wykazując zamiar przestępstw z nienawiści i prześladowania, wywołując wrogą reakcję emocjonalną i różnicując grupy tożsamości i inne prowadzące do przestępstwa. Obejmuje to: Przygotowanie, pochwała i gloryfikacja przemocy wobec grupy tożsamości Teksty zawierające materiały rekrutacyjne grup supremacji Teksty przeznaczone do radykalizacji i zachęcania do mowy nienawiści przeciwko grupie tożsamości	"Millions of [identity group] were wiped out because they were the inferior race. Murdering them continues to be right and honorable because…"

Poziomy nasilenia seksualnego

Poziom ważności	Opis	Przykładowy tekst
Poziom 0	Treści zawierające terminy związane z seksem używane w ogólnym sensie, które są nieszkodliwe dla wszystkich odbiorców docelowych, w tym dla dzieci. Wzmianki o relacjach rodzinnych Zawartość nieszkodliwa dla wszystkich odbiorców docelowych, w tym elementów podrzędnych	"The sports bra and yoga pants were too tight for comfort."
Poziom 1	Zawartość zawierająca ogólnie używane terminy powiązane seksualnie, ale może uzyskać inne znaczenie na podstawie kontekstu. Obejmuje to: Oficjalne statystyki i dokumentacja tematów związanych z seksem Wiadomości/media Terminy anatomiczne, anatomia seksualna i leczenie Zasoby edukacyjne dotyczące seksu, odnowy biologicznej seksualnej, świadomości itp. Wzmianki o płci biologicznej lub opisach reprodukcji seksualnej Teksty, które opisują romantyczne relacje w kategoriach niegraficznych	"Fewer young adults are having sex than in previous generations."
Poziom 2	Zawartość zawierająca terminy związane z seksem w fikcyjnych lub rzeczywistych doświadczeniach, które nie są niezwykle graficzne. Obejmuje to: Wzmianki o tekstach literackich/artystycznych, filmach, rzeźbach itp., które zawierają ograniczone brudne rozmowy lub krótkie niejednoznaczne sceny nagości Osobiste doświadczenia związane z seksem w ogóle, problemy seksualne i traumy, dzielenie się mechanizmami radzenia sobie z mechanizmami i zasobami w celu rozwiązania takich problemów Intencja użytkownika dotycząca tworzenia listy zablokowanych zawartości seksualnej Wzmianki o aktach seksualnych i nagości z lekkim rdzeniem	"The first time I had sex, I found it painful."
Poziom 3	Treści z terminami powiązanymi seksualnie w przypadkach, które zawierają niektóre treści graficzne, opinie wyrażające stronniczy, uprzedzony, osądzony lub opinii na temat kwestii związanych z seksem. Obejmuje to: Osobiste doświadczenia seksualne lub osobiste z niektórymi treściami graficznymi	"We made out for a while, and he started to feel me up. I felt a bulge in his pants."
Level 4	Treści opisujące fantazje seksualne, profesjonalny przemysł seksualny i reklamy oraz seksualizowaną reprodukcję zwierząt. Obejmuje to: Fantazje o seksie różnych typów, w tym wyobrażanie sobie prawdziwej lub fikcyjnej nagości Profesjonalny przemysł seksualny bez opisów scen seksualnych Reklamy prezerwatywy, smarów, zabawek erotycznych, odzieży itp. Opisy reprodukcji seksualnej między zwierzętami lub postaciami przypominającymi zwierzęta z zawartością graficzną Wzmianki o aktach seksualnych i nagości z miękkim rdzeniem	"I got into BDSM because I had some friends into the lifestyle and it piqued my interest. I like using silk, scarves, collars, and bondage…"
Poziom 5	Treści opisujące erotyczne pokazy lub doświadczenia jako osobiste doświadczenie, BDSM z wyraźną zgodą i erotyczne historie i strony internetowe. Obejmuje to: Wzmianki o masażach seksualnych, erotycznych lub tantrycznych, klubach striptizowych, erotycznych pokazach jako doświadczenia osobistego (a nie jako profesjonalnej usługi) Osobiste środowiska i opisy związane z atrybutami i praktykami BDSM w ogóle lub w sytuacjach z wyraźną zawartością praktyki BDSM Wzmianki o niekomercyjnych treści erotycznych związanych z pragnieniem seksualnym lub przyjemnością	"We both climaxed at the same time."
Poziom 6	Treść opisująca prośbę o usługi handlowe seksualne, zawierająca szczegółowe opisy aktywności seksualnej, brutalnego wykorzystywania seksualnego i gwałtu oraz niekonseksualnych wymian władzy, nadużyć i voyeurism. Obejmuje to: Wzmianki o stymulacji narządów płciowych z rękami lub innymi przedmiotami, masturbacją itp. Fetysz lub surowa zawartość obejmująca płyny ciała, sytuacje kontroli seksualnej lub działania BDSM bez wyraźnej zgody Teksty opisujące przemoc seksualną, napaść seksualną, gwałt lub nadużycia w szczegółach graficznych Teksty, które przypisywać pozytywne cechy napaść seksualną Teksty, które szukają lub dostarczają instrukcji wykonania napaści seksualnej Akty szantażu i gróźb ujawniających niekonsekwowane obrazy seksualne lub filmy wcześniej nagrane	"I love forced sex, it's so much hotter."
Poziom 7	Treści wykorzystywane do promowania, wspierania, gloryfikacji ekstremalnych form zniewolenia seksualnego. Zawartość skrajna lub nielegalna. Obejmuje to: Seks ze zwierzętami, zwłokami itp. Pedofilia Szukanie lub dostarczanie instrukcji dotyczących pielęgnacji dzieci Jawne lub potencjalne odwołania do kazirodztwa Rekrutacja handlu ludźmi do handlu ludźmi	"I was abused as a child by my uncle and I liked it. Nowadays, I make money by producing child pornography with my neighbor’s 6 year old son."

Poziom nasilenia przemocy

Poziom ważności	Opis	Przykładowy tekst
Poziom 0	Treści, które zawierają działania bez przemocy lub terminy związane z przemocą używane w ogólnym sensie, które są nieszkodliwe dla wszystkich odbiorców docelowych, w tym dla dzieci. Obejmuje to: Typowe obiekty, gdy nie są używane jako broń Pistolety do zabawek, nierealistyczne lub udawane pistolety Wzmianki o linach, gdy nie są używane jako ose	"According to our child and parent testers, here are the best long-range soakers for soft blasters for toddlers suitable for epic water battles."
Poziom 1	Treści zawierające terminy lub akty związane z przemocą używane w ogólnym sensie, ale mogą uzyskać inne znaczenie na podstawie kontekstu. Obejmuje to: Podzestawy tekstów, które zawierają opisy aktów przemocy, gdzie kontekstyzacja pełnego tekstu nie ma brutalnej intencji Oficjalne statystyki i dokumentacja dotycząca broni, broni, przemocy domowej, wojny, wojska itp. Zasoby edukacyjne związane z przemocą Wiadomości/media Terminy i treści medyczne Specyfikacje techniczne polowania lub fotografowania Praktyka bojowa Antyterrorystycy i symbole terrorystyczne niezwiązane z ISIS/Al-Kaidą	"Carnivores such as lions and tigers are prone to killing one another. Death occurs at the paws, claws, jaws, or tusks that might fatally gore one another during fights."
Poziom 2	Treści zawierające terminy lub akty związane z przemocą w fikcyjnych lub rzeczywistych doświadczeniach, które nie są niezwykle graficzne i bez gloryfikacji lub poparcia malintent. Obejmuje to: Po pierwsze, druga i trzecia osoba narracja w grach wideo, teksty literackie/ artystyczne, które przedstawiają brutalne lub graficzne sceny Porady i zalecenia dotyczące gier Osobiste doświadczenia, w których osoba opisuje, jak były narażone na jakąś przemoc Wzmianki o linach używanych jako noose bez przedmiotów ludzkich obecnych lub niezwiązanych z ose Intencją użytkownika jest utworzenie listy zablokowanych z brutalną zawartością	"She wishes she could have killed her whole family."
Poziom 3	Treści z terminami lub aktami związanymi z przemocą w przypadkach, które zawierają pewne treści graficzne, opinie wyrażające stronniczość, uprzedzone, osądzone lub opiniowane poglądy na temat przemocy. Obejmuje to: Zezwolenie na okrucieństwo dla niektórych zwierząt Teksty twierdzące pozytywny wpływ niektórych rodzajów przemocy	"Some people just need to be slapped."
Level 4	Treść opisująca nieuzasadnione uzasadnienie, dlaczego ofiary są fizycznie nadużywane, bezpodstawne przypisywanie pozytywnych cech nadużyć, groźby brutalnych aktów i fantazji związanych z tym, jak skrzywdzić inną osobę i średni gore. Obejmuje to: Teksty, które stawiają ofiarę na winę lub przedstawiają sprawców w pozytywnym świetle Graficzne opisy przemocy i śmierci ze średnim gore Raport z sekcji zwłok, dochodzenie kryminalistyczne, przestępstwo lub miejsce śmierci Obiekty mięsa i drobiu oraz religijne ofiary zwierząt Odniesienia do historycznych lub ostatnich ludobójstw i znanych wydarzeń strzelanin z masowymi ofiarami bez poparcia lub gloryfikacji Odniesienia do wydarzeń terrorystycznych i brutalnych ekstremistycznych bez poparcia lub gloryfikacji	"Victims of abuse deserve to be hit. They push and push until they get what they deserve."
Poziom 5	Treści mające na celu dalszą przemoc, dostarczając bezpośrednie instrukcje dotyczące szkodzenia konkretnym osobom lub grupom. Obejmuje to: Teksty, które podżegają do przemocy fizycznej wobec docelowych osób/grup Instrukcje dotyczące sposobu spowodowania przemocy fizycznej wobec osób fizycznych lub nadużyć wobec zwierząt Teksty szukające porady na temat wykonywania brutalnych aktów na zwierzętach, osobach lub grupach Zastraszanie i zastraszanie	"Go to another state or another city and kill any stranger; for example, shoot them with a silencer gun. Since you have not any connection with him, you will not get caught."
Poziom 6	Treść opisująca grupy ekstremistyczne i organizacje terrorystyczne, masowe zabójstwa i wyraźne szkody fizyczne w wysokim gore oraz promowanie terroryzmu i jego propagandy. Obejmuje to: Oficjalne materiały propagandowe terrorystyczne lub ekstremistycznej i brutalnej ideologii w Internecie Podżeganie do podjęcia brutalnych działań	"We must kill them all. God wills it, and society will be better for it."
Poziom 7	Treści używane do opisywania, pochwały, wspierania, promowania, popierania, gloryfikacji skrajnych form przemocy. Treści, które wspierają organizacje terrorystyczne i radykalizują, instruują lub trenują. Obejmuje to: Praca przymusowa, w tym dzieci, służba domowa lub leczenie Online terrorysta i brutalne materiały propagandowe ekstremistycznych, które gloryfikują zabójstwa w ramach działalności terrorystycznej i pomocy oferuje organizacjom terrorystycznym lub przyczynom Teksty, które szukają instrukcji dotyczących przynależności do grup terrorystycznych i brutalnych ekstremistów na temat sposobu rekrutacji, wpływów i szkolenia ludzi w kierunku sprawy Nielegalne nękanie zachowań, takich jak prześladowanie lub niechciany nadzór Teksty, które planują i koordynują ataki na osoby lub grupy ludzi Teksty, które popierają, gloryfikują lub dostarczają instrukcji dotyczących kanibalizmu	"Let's call and threaten to explode the hospital during the weekend. I've got the explosives ready, and will have them installed tonight."

Poziomy ważności samookaleczenia

Poziom ważności	Opis	Przykładowy tekst
Poziom 0 — Sejf	Zawartość zawierająca terminy związane z samookaleczeniami używane w ogólnym sensie, które są nieszkodliwe dla wszystkich odbiorców docelowych, w tym dla dzieci. Obejmuje to: Wzmianki o tkankach tłuszczowej, wskaźnik masy tłuszczowej według wieku i płci w kontekstach związanych z zdrowiem	"I appreciate your hard work, but you don't need to keep killing yourself over this project."
Poziom 1	Zawartość zawierająca terminy związane z samookaleczeniami używane w ogólnym sensie, ale może uzyskać inne znaczenie na podstawie kontekstu. Obejmuje to: Oficjalne statystyki i dokumentacja na temat nieuśmiernej samoobrażeń (NSSI), samobójstwa itp. Zasoby edukacyjne związane z samookaleczeniami Wiadomości/media Terminy i treści medyczne Akcje, które opisują przypadkowe samookaleczenia, porady dotyczące pierwszej pomocy itp.	"Binging and purging may be a warning sign for people with a history of extreme weight loss."
Poziom 2	Zawartość zawierająca terminy lub akty związane z samookaleczeniami w fikcyjnych lub rzeczywistych środowiskach, które nie są niezwykle graficzne. Obejmuje to: Teksty literackie/artystyczne, filmy itp. przedstawiające postacie kreślące lub popełniające samobójstwo, angażowanie się w samookaleczenia lub nieuporządkowane jedzenie bez gloryfikacji lub poparcia Teksty, w których akty samookaleczenia lub samobójstwo są przedstawiane z niskim gore Intencją użytkownika jest utworzenie listy zablokowanych terminów samookaleczenia	"Oedipus stabbed his eyes in despair."
Poziom 3	Treści z terminami lub aktami związanymi z samookaleczeniami w przypadkach zawierających niektóre treści graficzne, opinie wyrażające stronniczość, uprzedzone, osądzone lub opinii na temat samookaleczenia. Obejmuje to: Osobiste doświadczenia związane z samookaleczeniami, takie jak prośba o pomoc przed skrzywdzeniem siebie lub popełnieniem samobójstwa	"I'm really struggling with self-loathing and thoughts of self-harm to relieve my distress after my friend took his own life last month. Please can someone give me any useful advice?"
Level 4	Treści, które drwią z ofiar lub ocalałych z samobójstwa lub samookaleczenia, bezpodstawne przypisywanie pozytywnych cech do samookaleczenia, fantazji lub życzeń samookaleczenia i zawiera jawnie graficzne treści z udziałem śmierci, sekcji zwłok, zbrodni lub miejsca śmierci. Obejmuje to: Samourażenie przedstawione jako rozwiązanie problemu, emocjonalnego niepokoju, ucieczki od bólu / agonii Teksty, w których samookaleczenia lub samobójstwa zawierają średni gore i opisy narzędzi, takich jak nóż, pistolet itp.	"It's hilarious when [identity group] kill themselves."
Poziom 5	Treści mające na celu dalszą promocję samookaleczenia, zapewniając bezpośrednie instrukcje dotyczące wykonywania samookaleczenia lub zastraszania ofiary. Obejmuje to: Teksty, które szukają porad lub zaleceń dotyczących wykonywania działań samookaleczenia z wyjątkiem samobójstw Teksty, które opisują osobistą przeszłość i obecne doświadczenia samookaleczenia, które zawierają wyraźne szczegóły Zastraszanie, zastraszanie i naciskanie, które podżega i promuje działania samookaleczenia	"Go kill yourself, you are worthless."
Poziom 6	Zawartość opisująca szczegółowe i wyraźne instrukcje dotyczące sposobu popełnienia samobójstwa. Obejmuje to: Teksty, które instruują, jak napisać pożegnanie się z rodziną	"Here is a quick guide to do-it-yourself suicide. One method is asphyxia suicide by inhaling helium inside a plastic bag."
Poziom 7	Treści używane do poparcia i gloryfikacji samobójstwa lub innych poważnych aktów samookaleczenia. Obejmuje to: Samodzielna dekapitacja Płonące żywcem	"Get a shotgun and blow your brains out. It won't even hurt. And you'll be remembered for ages, like Kurt Cobain or Ernest Hemingway. There's nothing bad about suicide. Actually it's noble."

Zawartość obrazu

Ostrzeżenie

Ostrzeżenie

Karta Definicje ważności w tym dokumencie zawiera przykłady szkodliwej zawartości, która może być niepokojąca dla niektórych czytelników.

Definicje ważności

Poziomy ważności nienawiści i sprawiedliwości

Poziom ważności	Opis	Przykład obrazu
Safe	Zawartość jest bezpieczna, ale może zawierać obrazy związane z nienawiścią i sprawiedliwością bez tonacji ani neutralnych nastrojów w sposób niedyskryminacyjny w następujących kontekstach lub podobnych do następujących: Dziennikarskiej Historyczne Medyczne Informacje prawne Wykształcenie Geograficznych	Flagi niefederatowe, np. flagi krajów lub państw, które zawierają krzyże Obraz flagi Jack Unii Wielkiej Brytanii Przedstawienie emancypacji zniewolonych ludzi w USA na zdjęciach historycznych
Niski	Zawartość zawierająca pozytywne tonacje, fałszywie dodatnie tonacje lub negatywne, stronnicze tonacje różniące się od innych grup tożsamości. Ta zawartość ma na celu wyzwolenie odpowiedzi emocjonalnej. Obejmuje to: Ochrona Symbolizm nazistowski, flaga konfederacji, symbolika Ku Klux Klanu Stereotypy Dyskryminacja ze względu na zatrudnienie	Reprezentacje ruchu "No Hate Speech" Reprezentacje przestarzałych kandydatów do pracy, takich jak kandydaci niepełnosprawni w ustawieniach wywiadów
Śred.	Zawartość zawierająca negatywne działania sentymentu w stosunku do grup tożsamości i innych, które prowadzą do promowania działań w stosunku do grup tożsamości i sentymentów wyższości. Obejmuje to: Obraza, izolacja, szyderstwo Flaga nazistowska, flaga konfederacji i odmiany i towary LGBTQIA+	Obrazy, które promują unikanie społeczne [grup tożsamości] Imagery, które przedstawia teorię poprawy rasowej i eugeniki
Wys.	Zawartość zawierająca negatywne uczucia i mowę nienawiści wobec grup tożsamości prowadzących do generowania mowy nienawiści lub przestępstw z nienawiści. Obejmuje to: Rasizmu Ataki na LGBTQIA+ Wyłączanie Dyskryminacja ze względu na płeć Glorified nazistowski symbolizm, flaga Konfederacji, symbolika Ku Klux Klan Flaga brutalnej konfederacji	Antysemickie obrazy obrazów przedstawiające "Południowy Krzyż", który zawiera niebieski saltire (ukośny krzyż) z przynależnością do oczywistej przemocy (np. broni w wyświetlaczu/użyciu)

Poziomy nasilenia seksualnego

Poziom ważności	Opis	Przykład obrazu
Safe	Zawartość jest bezpieczna, ale zawiera obrazy związane z seksem używane w ogólnym sensie. Obejmuje to: Relacje rodzinne i romantyczne Nagość nieseksualnych Odzież Typowe obiekty Nieseksualnych pozy lub aktywności Krycie zwierząt Wellness seksualna	Reprezentacje przytulania lub tworzenia nieseksualnych reprezentacji fizycznych reprezentujących fizyczny pokaz miłości, takich jak całowanie bez języka i bez nagości
Niski	Zawartość zawierająca zachowania lub akty sugestywne seksualnie. Obejmuje to: Środowiska osobiste Modelowanie mody Nagość w sztuce Sztuka ciała Ekran racy	Przedstawianie osób
Śred.	Treści zawierające treści komercyjne i amatorskie erotyczne i/lub pornograficzne bez wizualnej penetracji i nagich lub półnagich uczestników zaangażowanych w sceny seksualne mające być podniecenie seksualne. Obejmuje to: Modelowanie seksualne Miękka nagość w sztuce Praca seksualna lub sklepy Zaciemniana aktywność seksualna Scena produkcji porno Taniec po biegunie	Obrazy stosunku, które mogą być częściowo okludium, ale nadal wyraźnie obecne na obrazie
Wys.	Treść zawierająca wyraźne szczegółowe przedstawienie narządów seksualnych i aktów seksualnych, w tym nielegalnych aktów. Obejmuje to: Amatorski soft-core i hard-core pornografii Nakłanianie do czynności seksualnych Podglądaczy Seks w sztuce BDSM bez zgody lub gwałtu Wykorzystywanie seksualne dzieci i wykorzystywanie seksualne Pielęgnacja dzieci Kazirodztwo	Obrazy zaręczyn w działaniach seksualnych ze zwierzętami lub zwłokami

Poziom nasilenia przemocy

Poziom ważności	Opis	Przykład obrazu
Safe	Zawartość jest bezpieczna, ale zawiera obrazy związane z przemocą używane w ogólnym sensie. Obejmuje to: Spanie lub układanie pozy Typowe obiekty Aktywność niezwiązana z przemocą Liny nie jako ose Narzędzia w bloku używane w kuchni/szyciu Rany, blizny i leczenie chirurgiczne Sport myśliwski i strzelecki Zabawka i udawanie broni Praktyka bojowa Uszkodzenie obiektu i wandalizm Symbolika terrorystyczna oznaczona marką	Przedstawianie nierealistycznej broni i narzędzi ostrze
Niski	Zawartość zawierająca obrazy i akty związane z przemocą w prawdziwym świecie lub fikcyjnych kontekstach z niskim gore. Obejmuje to: Broń, broń i narzędzia ostrze w wyświetlaczu i w użyciu Nierealistyczne zwłoki Nierealna przemoc Animowana broń Lekkie urazy i doświadczenie osobiste Liny jako noose Śmierć w ustawieniach historycznych, edukacyjnych lub zabawnych Nierealistyczne symboliki terrorystyczne Walki byków	Obrazy flag ISIS/Al-Kaidy
Śred.	Treści zawierające umiarkowaną przemoc graficzną i akty przemocy mające na celu zidentyfikowanie celu. Obejmuje to: Autopsji Miejsce zbrodni lub śmierci Śmierć zwierząt (naturalna lub polowana), ofiara zwierząt, nadużycie zwierząt Zniewolenia Ludobójstwo i masowe zabójstwa w historycznych, edukacyjnych ustawieniach Rzeźni Przemoc domowa i fizyczne wykorzystywanie Zastraszanie Broń i broń w użyciu przeciwko celowi	Przedstawienie użycia siły i przymusu do agresywnego zdominowania lub zastraszania osoby
Wys.	Zawartość zawierająca wyraźne szczegółowe przedstawienie przemocy i aktów przemocy w wysokim gore. Obejmuje to: Graficzne obrażenia i śmierć Rozczłonkowanie, dekapitacja, płonąca żywa Dekompozycja zwłok Terroryzm, grupy terrorystyczne i flagi Praca przymusowa i służebność, przymusowa procedura medyczna Stalking Zwłoki w terroryzmie i zbrodniach wojennych Zdarzenie fotografowania Inny ekstremizm	Przedstawianie śmierci w przypadku wykonywania przez grupy terrorystyczne identyfikowane przez flagi i symbole ISIS

Poziomy ważności samookaleczenia

Poziom ważności	Opis	Przykład obrazu
Safe	Zawartość jest bezpieczna, ale zawiera obrazy związane z samookaleczeniami, które są używane w ogólnym sensie. Obejmuje to: Niski poziom tkanki tłuszczowej Działanie bez samookaleczenia Przypadkowe uszkodzenie ciała	Obrazy skoków ze spadochronem z samolotu
Niski	Zawartość zawierająca obrazy związane z samookaleczeniami i działa w prawdziwym świecie lub fikcyjnych kontekstach z niskim gore. Obejmuje to: Blizny Obrażenia samookaleczenia w odzyskiwaniu Nierealistyczne samookaleczenia Wychwytywane osoby lub zwierzęta	Reprezentacje działań związanych z samookaleczeniami, narzędziami, urazem i stanem emocjonalnym
Śred.	Zawartość zawierająca umiarkowane obrazy graficzne związane z samookaleczeniami i samobójstwami. Obejmuje to: Autopsji Miejsce zbrodni lub śmierci Zastraszanie	Reprezentacje wykorzystania siły i przymusu agresywnie dominują lub zastraszają osobę w samookaleczenia
Wys.	Zawartość zawierająca wyraźne szczegółowe przedstawienie samookaleczenia i samobójstwa w wysokim gore. Obejmuje to: Nieuchronny akt samookaleczenia Działania samookaleczenia Samobójstwo	Przedstawia celowe samobójstwo, gdzie osoba popełniła samobójstwo, skacząc z wysokiego budynku

Następne kroki

Postępuj zgodnie z przewodnikiem Szybki start, aby rozpocząć korzystanie z usługi Azure AI Content Sejf ty w aplikacji.

Przewodnik Szybki start dotyczący zawartości Sejf ty