In deze handleiding worden alle schadecategorieën en beoordelingen beschreven die door Azure AI Content Safety worden gebruikt om inhoud te markeren. Zowel tekst- als afbeeldingsinhoud maken gebruik van dezelfde set vlaggen.
Categorieën schade
Inhoudsveiligheid herkent vier verschillende categorieën aantootgevende inhoud.
Categorie
Beschrijving
Haat en billijkheid
Haat- en eerlijkheidsgerelateerde schade verwijst naar inhoud die een pejoratieve of discriminerende taal aanvalt of gebruikt met verwijzing naar een persoon of identiteitsgroep op basis van bepaalde differentiërende kenmerken van deze groepen, waaronder maar niet beperkt tot ras, etniciteit, nationaliteit, geslachtsidentiteit en expressie, seksuele oriëntatie, religie, immigratiestatus, vaardigheidsstatus, persoonlijk uiterlijk en lichaamsgrootte.
Eerlijkheid houdt zich bezig met het garanderen dat AI-systemen alle groepen mensen rechtvaardig behandelen zonder bij te dragen aan bestaande maatschappelijke onzin. Net als bij haatspraak hangt eerlijkheidsgerelateerde schade af van de verschillende behandeling van identiteitsgroepen.
Seksuele
Seksueel beschrijft taal met betrekking tot anatomische organen en geslachtsdelen, romantische relaties, handelingen die worden weergegeven in erotische of genegenheidsvoorwaarden, zwangerschap, fysieke seksuele handelingen, waaronder die afgebeeld als een aanval of een gedwongen seksuele gewelddadige daad tegen wil, prostitutie, pornografie en misbruik.
Geweld
Geweld beschrijft taal met betrekking tot fysieke acties die bedoeld zijn om iemand of iets te kwetsen, verwonden, beschadigen of doden; beschrijft wapens, wapens en gerelateerde entiteiten, zoals vervaardigingen, verenigingen, wetgeving, enzovoort.
Zelfschade
Zelfbeschadiging beschrijft taal met betrekking tot fysieke acties die bedoeld zijn om opzettelijk pijn te doen, gewond te raken, het lichaam te beschadigen of zichzelf te doden.
Classificatie kan meerdere labels hebben. Wanneer een tekstvoorbeeld bijvoorbeeld het model voor tekstbeheer doorloopt, kan het worden geclassificeerd als seksuele inhoud en geweld.
Ernstniveaus
Elke schadecategorie die de service toepast, wordt ook geleverd met een classificatie op ernstniveau. Het ernstniveau is bedoeld om de ernst aan te geven van de gevolgen van het weergeven van de gemarkeerde inhoud.
Tekst: De huidige versie van het tekstmodel ondersteunt de volledige ernstschaal van 0-7. De classificatie detecteert tussen alle ernstpunten in deze schaal. Als de gebruiker opgeeft, kan de ernst worden geretourneerd in de ingekorte schaal van 0, 2, 4 en 6; elke twee aangrenzende niveaus worden toegewezen aan één niveau.
[0,1] -> 0
[2,3] -> 2
[4,5] -> 4
[6,7] -> 6
Afbeelding: De huidige versie van het afbeeldingsmodel ondersteunt de ingekorte versie van de volledige ernstschaal van 0-7. De classificatie retourneert alleen ernst 0, 2, 4 en 6; elke twee aangrenzende niveaus worden toegewezen aan één niveau.
Het tabblad Ernstdefinities in dit document bevat voorbeelden van schadelijke inhoud die voor sommige lezers kan storen.
Ernstniveaus haat en billijkheid
Ernstniveau
Beschrijving
Voorbeeldtekst
Niveau 0
Inhoud die haat- en billijkheidsgerelateerde termen bevat die in algemene zin worden gebruikt en geschikt is voor alle doelgroepen, inclusief kinderen. Dit zijn onder andere de nieuwe mogelijkheden:
Algemeen, pejoratieve taal die geen afkeer uitdrukt van identiteitsgroepen
Algemene vermeldingen van identiteitsgroepkenmerken, zoals ras, etniciteit, religie, enz. in historische, geografische, medische en andere soortgelijke contexten zonder gevoel
Algemene termen die geen rassenondertonen van aanstootgevende intentie buiten context hebben
"I hate cats."
Niveau 1
Inhoud met haat- en billijkheidsgerelateerde termen die in de algemene zin worden gebruikt, maar kan een andere betekenis krijgen op basis van context en maakt geen onderscheid tussen identiteitsgroepen en anderen op een vooroordelen of negatieve manier. Dit zijn onder andere de nieuwe mogelijkheden:
Officiële statistieken, wetgeving of documentatie
Nieuws/mediadekking
Educatieve middelen die zijn bedoeld om bewustzijn van diversiteit te vergroten/haatspraak aan te pakken
Huidwitte producten en behandelingsadvertenties
Vermeldingen van Indo-Eurasian swastika, de confederate vlag, niet-KKK-groepen die visuele gelijkenis hebben met KKK
"Black people should not be killed by police or mistreated just because of their skin color."
Niveau 2
Inhoud die positieve karakterisering of bescherming van de identiteitsgroepen bevat die een gunstige emotionele reactie activeren. Dit zijn onder andere de nieuwe mogelijkheden:
Slurs die volledig zijn gespeld in onderzoeksdocumenten, woordenlijsten of media met directe aanhalingstekens
Instructies van een spreker die deel uitmaakt van een identiteitsgroep zonder intentie om dezelfde identiteitsgroep te targeten
Vloekwoorden, grof taalgebruik en mondelinge beledigingen die geen doel hebben op een identiteitsgroep
Algemene haatspraak die gericht is op niet-geïdentificeerde individuen/groepen zonder een identiteitsgroep te richten
Gebruikersintentie voor het maken van een lijst met aanstootgevende termen
Vertegenwoordigingen van nazi-Duitsland, Hitler, de geconfedereerde vlag en Ku Klux Klan symbolisme in films, videogames, kostuums, speelgoed, reenactments of online slang
"I hate you."
Niveau 3
Inhoud die vooroordelen, beoordelingsvermogen, stereotiepe karakterisering of negatief gevoel bevat. Dit zijn onder andere de nieuwe mogelijkheden:
Mening gebaseerd op stereotypische of negatieve gevoelens
Geeft vooroordelen, oordeelsvermogen of meningsinzichten weer
Negatieve of positieve vergelijkingen verschillen tussen identiteitsgroepen en andere.
Vermeldingen in fictieve werelden
Werkgelegenheidsdiscriminatie in vacatures
Historische feiten en artefacten met betrekking tot nazi-Duitsland, de vlag van de Confederate tijdens de Amerikaanse Burgeroorlog, of de Ku Klux Klan
"I don't like [identity group] because they are all so aggressive. They attacked us over and over again for no reason at all."
Niveau 4
Inhoud die directe verbale gevoelsgestuurde beledigingen, negatieve opmerkingen en rassen slurs bevat die worden gebruikt als beschrijvingen die gericht zijn op identiteitsgroepen met de bedoeling personen te kwetsen op basis van hun kenmerken. Dit zijn onder andere de nieuwe mogelijkheden:
Verwijzingen die worden gebruikt om zich te richten op de race, huidkleur
Bevordering van sociale ontwijking en isolatie
Kenmerken van identiteitsgroepen simuleren en imiteren
"All [identity group] are ugly."
Niveau 5
Inhoud die ontmenselijking of afwijking van individuen of groepen bevat die een negatief gevoel verder uitbreiden door middel van ontmenselijking, geweld, ontkenning van gebeurtenissen, pesten of intimidatiegedrag. Dit zijn onder andere de nieuwe mogelijkheden:
Teksten die historische, goed gedocumenteerde en gewelddadige gebeurtenissen zoals de Herdenking weigeren
Teksten die individuen of groepen beschrijven als fysiek of mentaal inferieur op basis van lidmaatschap van een identiteitsgroep
Teksten die het bestaan van identiteitengroep vragen, weigeren of demean vormen
Afdwingen van gewenste/verwachte kenmerken
De theorieën van Den Knooppunten en 'rassenverbetering' die zich richten op identiteitsgroepen
Moderne koopwaar die nazi's, de geconfeseerde vlag of KKK-symbolen bevat
"The [real world event] is a fraud. What we've discovered is that sources have been lying about the number of victims. Here is proof."
Niveau 6
Inhoud op basis van negatief gevoel en haatspraak naar identiteitsgroepen. Door te verwijzen naar groepskenmerken die de identiteitsgroep en anderen onderscheiden en aantrekkelijk zijn om actie te ondernemen tegen identiteitsgroepen op basis van hun kenmerken. Dit kan het volgende omvatten:
Haatpropaganda die kan worden beschouwd als een directe bedreiging voor of een oproep tot geweld tegen een identiteitsgroep
Incendiary, aanstootgevende en vulgaire haatspraak
Teksten die zogenaamd de superioriteit van één groep claimen ten opzichte van degenen met de kenmerken van de identiteitsgroepen om discriminatie, scheiding of uitsluiting te rechtvaardigen
Teksten die vreugde beschrijven met betrekking tot een gewelddadig evenement dat gericht was op een identiteitsgroep
"Send [identity group] back to the gas chambers."
Niveau 7
Inhoud op basis van negatief gevoel, het weergeven van intenties van haatmisdaad en stalking, het activeren van een vijandige emotionele reactie en het onderscheiden van identiteitsgroepen en anderen die tot criminaliteit leiden. Dit zijn onder andere de nieuwe mogelijkheden:
Haat misdaadvoorbereiding, lof en verheerlijking van geweld tegen een identiteitsgroep
Teksten die het wervingsmateriaal van supremacistische groepen bevatten
Teksten die bedoeld zijn om haatspraak te radicaliseren en aan te moedigen tegen een identiteitsgroep
"Millions of [identity group] were wiped out because they were the inferior race. Murdering them continues to be right and honorable because…"
Niveaus van seksuele ernst
Ernstniveau
Beschrijving
Voorbeeldtekst
Niveau 0
Inhoud die seksueel gerelateerde termen bevat die in algemene zin worden gebruikt, die ongevaarlijk is voor alle doelgroepen, inclusief kinderen.
Vermeldingen van familierelaties
Inhoud die ongevaarlijk is voor alle doelgroepen, inclusief kinderen
"The sports bra and yoga pants were too tight for comfort."
Niveau 1
Inhoud met seksueel gerelateerde termen die in algemene zin worden gebruikt, maar kan een andere betekenis krijgen op basis van context. Dit omvat:
Officiële statistieken en documentatie over seksgerelateerde onderwerpen
Nieuws/mediadekking
Anatomische termen, seksuele anatomie en medische behandeling
Educatieve bronnen over seks, seksuele wellness, bewustzijn, enz.
Vermeldingen van biologisch geslacht of beschrijvingen van seksuele reproductie
Teksten die romantische relaties beschrijven in niet-grafische termen
"Fewer young adults are having sex than in previous generations."
Niveau 2
Inhoud die seksueel gerelateerde termen bevat in fictieve of echte ervaringen die niet extreem grafisch zijn. Dit omvat:
Vermeldingen van literaire/artistieke teksten, films, sculpturen, enz. die beperkte vuile praat of korte niet-expliciete naaktscènes bevatten
Persoonlijke ervaringen met betrekking tot seks in het algemeen, seksuele problemen en trauma's, delen van copingmechanismen en middelen om dergelijke problemen op te lossen
Gebruikersintentie voor het maken van een blokkeringslijst voor seksuele inhoud
Vermeldingen van seksuele handelingen en naaktheid met lichte kern
"The first time I had sex, I found it painful."
Niveau 3
Inhoud met seksueel gerelateerde termen in gevallen die enige grafische inhoud bevatten, meningen die vooroordelen, vooroordelen, beoordelings- of meningsweergaven over seksgerelateerde kwesties uitdrukken. Dit omvat:
Persoonlijke eerdere of huidige seksuele ervaringen met bepaalde grafische inhoud
"We made out for a while, and he started to feel me up. I felt a bulge in his pants."
Niveau 4
Inhoud met een beschrijving van seksuele fantasieën, professionele seksindustrie en advertenties, en seksuele reproductie van dieren. Dit omvat:
Fantasieën van seks van verschillende typen, waaronder het voorstellen van echte of fictieve naaktheid
Professionele seksindustrie zonder beschrijvingen van seksscènes
Advertenties voor condooms, smeermiddelen, seksspeeltjes, kleding, enz..
Beschrijvingen van seksuele reproductie tussen dieren of dierlijke tekens met een bepaalde grafische inhoud
Vermeldingen van seksuele handelingen en naaktheid met zachte kern
"I got into BDSM because I had some friends into the lifestyle and it piqued my interest. I like using silk, scarves, collars, and bondage…"
Niveau 5
Inhoud die erotische shows of ervaringen beschrijft als persoonlijke ervaring, BDSM met duidelijke toestemming en erotische verhalen en websites. Dit omvat:
Vermeldingen van seksuele, erotische of tantric massages, stripclubs, erotische shows als persoonlijke ervaring (niet als professionele service)
Persoonlijke ervaringen en beschrijvingen met betrekking tot BDSM-kenmerken en -procedures in het algemeen of situaties met duidelijke inhoud aan de BDSM-praktijk
Vermeldingen van niet-commerciële erotische inhoud met betrekking tot seksueel verlangen of plezier
"We both climaxed at the same time."
Niveau 6
Inhoud die het verzoek om seksuele commerciële diensten beschrijft, met gedetailleerde beschrijvingen van seksuele activiteiten, gewelddadig seksueel misbruik en verkrachting, en niet-consensuele machtsuitwisseling, misbruik en voyeurisme. Dit omvat:
Vermeldingen van stimulatie van geslachtsdelen met handen of andere objecten, masturbatie, enz.
Fetish of ruwe inhoud met lichamelijke vloeistoffen, situaties van sekscontrole of BDSM-activiteiten zonder duidelijke toestemming
Teksten die seksueel geweld, seksueel geweld, verkrachting of misbruik beschrijven in grafische details
Teksten die positieve kwaliteiten aan seksuele aanval toewijzen
Teksten die instructies zoeken of verstrekken om seksueel geweld uit te voeren
Handelingen van chantage en bedreigingen om onopgemerkte seksuele afbeeldingen of video's te onthullen die eerder zijn opgenomen
"I love forced sex, it's so much hotter."
Niveau 7
Inhoud die wordt gebruikt om extreme vormen van seksuele slaaf te promoten, goedkeuren, verheerlijken. Inhoud die extreem of illegaal is. Dit omvat:
Seks met dieren, lijken, enz.
Pedofilie
Op zoek naar of het verstrekken van instructies voor kinderverzorging
Expliciete of potentiële verwijzingen naar incest
Werving van mensenhandel
"I was abused as a child by my uncle and I liked it. Nowadays, I make money by producing child pornography with my neighbor’s 6 year old son."
Ernstniveaus van geweld
Ernstniveau
Beschrijving
Voorbeeldtekst
Niveau 0
Inhoud die niet-gewelddadige acties of geweldgerelateerde termen bevat die worden gebruikt in algemene zin die ongevaarlijk is voor alle doelgroepen, inclusief kinderen. Dit zijn onder andere de nieuwe mogelijkheden:
Gemeenschappelijke objecten wanneer ze niet worden gebruikt als wapens
Speelgoedgeweren, niet-realistisch of doen alsof geweren
Vermeldingen van touwen wanneer ze niet als een strop worden gebruikt
"According to our child and parent testers, here are the best long-range soakers for soft blasters for toddlers suitable for epic water battles."
Niveau 1
Inhoud die geweldgerelateerde termen of handelingen bevat die in algemene zin worden gebruikt, maar een andere betekenis kan krijgen op basis van context. Dit zijn onder andere de nieuwe mogelijkheden:
Subsets van teksten die beschrijvingen van gewelddadige handelingen bevatten, waarbij de contextualisatie van de volledige tekst geen gewelddadige intentie heeft
Officiële statistieken en documentatie over wapens, wapens, huiselijk geweld, oorlogsvoering, militaire, enz.
Educatieve bronnen met betrekking tot geweld
Nieuws/mediadekking
Medische termen en inhoud
Technische specificaties voor jacht of schietsport en wapens
Gevechtspraktijk
Terrorismebestrijding en terroristische symbolen die niet gerelateerd zijn aan ISIS/al-Qaida
"Carnivores such as lions and tigers are prone to killing one another. Death occurs at the paws, claws, jaws, or tusks that might fatally gore one another during fights."
Niveau 2
Inhoud die geweldgerelateerde termen of handelingen bevat in fictieve of echte ervaringen die niet extreem grafisch zijn en zonder verheerlijking of goedkeuring van pretentie. Dit zijn onder andere de nieuwe mogelijkheden:
Eerste, tweede en derde persoon gesproken tekst in videogames, literaire/artistieke teksten die gewelddadige of grafische scènes weergeven
Tips en aanbevelingen voor games
Persoonlijke ervaringen waarin een persoon beschrijft hoe ze werden blootgesteld aan een bepaald type geweld
Vermeldingen van touwen bij gebruik als een strop zonder menselijke onderwerpen aanwezig of niet gerelateerd aan de strop
Gebruikersintentie is het maken van een blokkeringslijst met gewelddadige inhoud
"She wishes she could have killed her whole family."
Niveau 3
Inhoud met aan geweld gerelateerde termen of handelingen in gevallen die enige grafische inhoud bevatten, meningen die vooroordelen, vooroordelen, beoordelings- of meningsbegrippen over geweld uitdrukken. Dit zijn onder andere de nieuwe mogelijkheden:
Wreedheid voor sommige dieren toestaan
Teksten die positieve gevolgen van sommige soorten geweld claimen
"Some people just need to be slapped."
Niveau 4
Inhoud met een beschrijving van niet-geaarde rationale waarom slachtoffers fysiek worden misbruikt, ongewrichte toeschrijving van positieve kwaliteiten van misbruikers, bedreigingen van gewelddadige handelingen en fantasieën met betrekking tot het beschadigen van een andere persoon, en medium gore. Dit zijn onder andere de nieuwe mogelijkheden:
Teksten die het slachtoffer in fout zetten of daders in een positief licht weergeven
Grafische beschrijvingen van geweld en dood met medium gore
Een autopsierapport, een forensisch onderzoek, misdaad of doodsplaats
Vlees- en pluimveefaciliteiten en religieuze dierenoffers
Verwijzingen naar historische of recente genociden en bekende schietgebeurtenissen met massalachtoffers zonder goedkeuring of verheerlijking
Verwijzingen naar terroristische en gewelddadige extremistische gebeurtenissen zonder goedkeuring of verheerlijking
"Victims of abuse deserve to be hit. They push and push until they get what they deserve."
Niveau 5
Inhoud die gericht is op verder geweld, met directe instructies over het beschadigen van specifieke personen of groepen. Dit zijn onder andere de nieuwe mogelijkheden:
Teksten die fysiek geweld aanzet tegen gerichte individuen/groepen
Instructies voor het veroorzaken van fysiek geweld aan individuen of misbruik van dieren
Teksten die advies vragen over het uitvoeren van gewelddadige handelingen op dieren, individuen of groepen
Pesten en intimideren
"Go to another state or another city and kill any stranger; for example, shoot them with a silencer gun. Since you have not any connection with him, you will not get caught."
Niveau 6
Inhoud over extremistische groepen en terroristische organisaties, massamoorden en expliciete fysieke schade in hoge gore, en bevordering van terrorisme en haar propaganda. Dit zijn onder andere de nieuwe mogelijkheden:
Officiële terroristische of extremistische propagandamateriaal en gewelddadige ideologie op internet
Een gewelddadige actie ondernemen
"We must kill them all. God wills it, and society will be better for it."
Niveau 7
Inhoud die wordt gebruikt om extreme vormen van geweld te beschrijven, te complimenteren, te steunen, te promoten, te steunen, te verheerlijken. Inhoud die terroristische organisaties ondersteunt en radicaliseert, instrueert of traint. Dit zijn onder andere de nieuwe mogelijkheden:
Gedwongen arbeid, waaronder kinderen, binnenlandse dienstbaarheid of medische behandeling
Online terroristische en gewelddadige extremistische propagandamaterialen die moorden verheerlijken als onderdeel van terroristische activiteiten en hulpaanbiedingen aan terroristische organisaties of oorzaken
Teksten die instructies zoeken over de relatie met terroristische en gewelddadige extremistische groepen over het werven, beïnvloeden en trainen van mensen naar de oorzaak
Illegaal lastigvallend gedrag zoals stalken of ongewenste bewaking
Teksten die aanvallen op individuen of groepen mensen plannen en coördineren
Teksten die het cannibalisme goedkeuren, verheerlijken of instructies geven
"Let's call and threaten to explode the hospital during the weekend. I've got the explosives ready, and will have them installed tonight."
Ernstniveaus voor zelfschade
Ernstniveau
Beschrijving
Voorbeeldtekst
Niveau 0 – Veilig
Inhoud die zelfbeschadigde termen bevat die worden gebruikt in een algemene zin die ongevaarlijk is voor alle doelgroepen, inclusief kinderen. Dit zijn onder andere de nieuwe mogelijkheden:
Vermeldingen van lichaamsvet, vetmassa-indexindicatoren per leeftijd en geslacht in gezondheidsgerelateerde contexten
"I appreciate your hard work, but you don't need to keep killing yourself over this project."
Niveau 1
Inhoud met zelfschade gerelateerde termen die in algemene zin worden gebruikt, maar kan een andere betekenis krijgen op basis van context. Dit zijn onder andere de nieuwe mogelijkheden:
Officiële statistieken en documentatie over niet-suïcidale zelfbeschadiging (NSSI), zelfmoord, enz.
Educatieve bronnen met betrekking tot zelfschade
Nieuws/mediadekking
Medische termen en inhoud
Acties die onopzettelijke zelfschade beschrijven, tips voor eerste hulp, enzovoort.
"Binging and purging may be a warning sign for people with a history of extreme weight loss."
Niveau 2
Inhoud die zelfbeschadigde termen of handelingen bevat in fictieve of echte ervaringen die niet extreem grafisch zijn. Dit zijn onder andere de nieuwe mogelijkheden:
Literaire/artistieke teksten, films, enz. waarin personages worden afgebeeld die zelfmoord tekenen of plegen, zich bezighouden met zelfbeschadiging of stoornis bij het eten zonder verheerlijking of goedkeuring
Teksten waarbij zelfverschadigende handelingen of zelfmoord worden afgebeeld met een lage gore
Gebruikersintentie is het maken van geblokkeerde termen
"Oedipus stabbed his eyes in despair."
Niveau 3
Inhoud met zelfverschadigende termen of handelingen in gevallen die enige grafische inhoud bevatten, meningen die vooroordelen, vooroordelen, beoordelings- of meningsweergaven over zelfschade uitdrukken. Dit zijn onder andere de nieuwe mogelijkheden:
Persoonlijke ervaringen met betrekking tot zelfbeschadiging, zoals vragen om hulp voordat ze zichzelf pijn doen of zelfmoord plegen
"I'm really struggling with self-loathing and thoughts of self-harm to relieve my distress after my friend took his own life last month. Please can someone give me any useful advice?"
Niveau 4
Inhoud die slachtoffers of overlevenden van zelfmoord of zelfschade bespot, ongewrichte toeschrijving van positieve kwaliteiten aan zelfschade, fantasieën of wensen van zelfschade, en expliciet grafische inhoud bevat met betrekking tot dood, autopsie, misdaad of doodsplaats. Dit zijn onder andere de nieuwe mogelijkheden:
Zelfverwonding gepresenteerd als een oplossing voor een probleem, emotionele nood, ontsnappen aan pijn/agonie
Teksten waarbij zelfverschadiging of zelfmoord medium gore en beschrijvingen van gereedschap zoals een mes, een pistool, enz. bevat.
"It's hilarious when [identity group] kill themselves."
Niveau 5
Inhoud die gericht is op verdere promotie van zelfschade, met directe instructies voor het uitvoeren van zelfschade of pesten van een slachtoffer. Dit zijn onder andere de nieuwe mogelijkheden:
Teksten die advies of aanbevelingen vragen over het uitvoeren van zelfbeschadiging, behalve zelfmoord
Teksten die persoonlijke eerdere en huidige ervaringen beschrijven van zelfschade die expliciete details bevatten
Pesten, intimideren en uitdrukken dat citeert en zelfverschadigende handelingen bevordert
"Go kill yourself, you are worthless."
Niveau 6
Inhoud met gedetailleerde en expliciete instructies voor het plegen van zelfmoord. Dit zijn onder andere de nieuwe mogelijkheden:
Teksten waarin wordt uitgelegd hoe u een afscheidsbericht schrijft voor uw gezin
"Here is a quick guide to do-it-yourself suicide. One method is asphyxia suicide by inhaling helium inside a plastic bag."
Niveau 7
Inhoud die wordt gebruikt voor het goedkeuren en verheerlijken van zelfmoord of andere ernstige daden van zelfbeschadiging. Dit zijn onder andere de nieuwe mogelijkheden:
Zelfonthoofding
Brandt levend
"Get a shotgun and blow your brains out. It won't even hurt. And you'll be remembered for ages, like Kurt Cobain or Ernest Hemingway. There's nothing bad about suicide. Actually it's noble."
Het tabblad Ernstdefinities in dit document bevat voorbeelden van schadelijke inhoud die voor sommige lezers kan storen.
Ernstniveaus haat en billijkheid
Ernstniveau
Beschrijving
Voorbeeld van afbeelding
Safe
Inhoud is veilig, maar kan afbeeldingen met betrekking tot haat en billijkheid bevatten zonder sentiment of neutrale gevoelens op niet-discriminerende niet-aanstootgevende manieren in de volgende contexten of die vergelijkbaar zijn met:
Journalistieke
Historisch
Medical
Juridisch
Educatief
Geografische
Niet-geconfeseerde vlaggen, bijvoorbeeld vlaggen van landen of staten die functie kruisen
Een beeld van de Union Jack vlag van Groot-Brittannië
Afbeelding van de oudsher van de slaven in de VS in historische foto's
Beperkt
Inhoud die positieve gevoelens, fout-positieve sentimenten of negatieve, afwijkende sentimenten van anderen bevat. Deze inhoud is bedoeld om een emotioneel antwoord te activeren. Dit zijn onder andere de nieuwe mogelijkheden:
Beveiliging
Nazisymbool, de confederaatvlag, Ku Klux Klan symbolisme
Stereotypering
Werkgelegenheidsdiscriminatie
Representaties van 'No Hate Speech' beweging
Representaties van gedeprioritiseerde kandidaten zoals kandidaten met een handicap in interviewinstellingen
Gemiddeld
Inhoud die negatieve gevoelsactie bevat ten opzichte van identiteitsgroepen en anderen die ertoe leiden dat actie wordt uitgevoerd tegen identiteitsgroepen en gevoelens van superioriteit. Dit zijn onder andere de nieuwe mogelijkheden:
Belediging, isolatie, mocking
Nazivlag, confederate vlag en GAYQIA+ variaties en merchandise
Beeldmateriaal dat sociale ontwijking bevordert van [identiteitsgroepen]
Beeldmateriaal dat de theorie van de rasverbetering en de werkenden weergeeft
Hoog
Inhoud die negatieve gevoelens en haatspraak bevat voor identiteitsgroepen die leiden tot het genereren van haatspraak of haatmisdaden. Dit zijn onder andere de nieuwe mogelijkheden:
Racisme
Aanvallen op GAYQIA+
Uitschakelen
Discriminatie op basis van geslacht
Geglorificeerd nazisymbool, Confederate vlag, Ku Klux Klan symbolisme
Gewelddadige confederate vlag
Antisemitische beeldbeelden
die het "Zuidelijke Kruis" uitbeeldt met een blauwe saltire (diagonale kruis) met relatie tot duidelijk geweld (bijv. wapens in weergave/gebruik)
Niveaus van seksuele ernst
Ernstniveau
Beschrijving
Voorbeeld van afbeelding
Safe
Inhoud is veilig, maar bevat seksueel gerelateerde afbeeldingen die in algemene zin worden gebruikt. Dit zijn onder andere de nieuwe mogelijkheden:
Familie- en romantische relaties
Niet-seksuele naaktheid
Kleding
Algemene objecten
Niet-seksuele houding of activiteit
Dier paring
Seksueel welzijn
Representaties van knuffelen of het maken van niet-seksuele contactWeergaven
die fysieke weergave van genegenheid weergeven, zoals kussen zonder tong en zonder naaktheid
Beperkt
Inhoud die seksueel suggestief gedrag of handelingen bevat. Dit zijn onder andere de nieuwe mogelijkheden:
Persoonlijke ervaringen
Modemodellering
Naaktheid in illustraties
Body art
Racy-weergave
Afbeeldingen van personen
Gemiddeld
Inhoud die commerciële en amateurerotische en/of pornografische inhoud bevat zonder visuele fotografische penetratie en naakte of semi-naakte deelnemers die betrokken zijn bij seksuele scènes die bedoeld zijn om seksueel op te wekken. Dit zijn onder andere de nieuwe mogelijkheden:
Seksuele modellering
Zachte naaktheid in kunstwerken
Seksjobs of winkels
Verborgen seksuele activiteit
Backstage van pornoproductie
Pooldansen
Afbeeldingen van geslachtsgemeenschap die gedeeltelijk kunnen worden afgesloten, maar nog steeds duidelijk aanwezig zijn in de afbeelding
Hoog
Inhoud met expliciete gedetailleerde afbeeldingen van seksuele organen en seksuele handelingen, waaronder illegale handelingen. Dit zijn onder andere de nieuwe mogelijkheden:
Amateur soft-core en hard-core pornografie
Benadering voor seksuele doeleinden
Voyeurisme
Seks in kunstwerk
BDSM zonder toestemming of verkrachting
Seksuele exploitatie en misbruik van kinderen
Kinderverzorging
Incest
Afbeeldingen van afspraken in seksuele activiteiten met dieren of lijken
Ernstniveaus van geweld
Ernstniveau
Beschrijving
Voorbeeld van afbeelding
Safe
Inhoud is veilig, maar bevat afbeeldingen met betrekking tot geweld die in algemene zin worden gebruikt. Dit zijn onder andere de nieuwe mogelijkheden:
Slaap- of leghouding
Algemene objecten
Niet-gewelddadige activiteit
Touwen niet als een strop
Bladed gereedschap in gebruik in keuken/naaien
Wonden, littekens en chirurgische behandeling
Jacht- en schietsport
Speelgoed en doen alsof wapens
Gevechtspraktijk
Objectschade en objectschade
Niet-merkgebonden terroristische symboliek
Afbeeldingen van niet-realistische wapens en bladed gereedschap
Beperkt
Inhoud met geweld gerelateerde beelden en handelingen in echte wereld of fictieve contexten met lage gore. Dit zijn onder andere de nieuwe mogelijkheden:
Wapens, wapens en bladed gereedschap in display en in gebruik
Niet-realistisch lijk
Niet-realistisch geweld
Geanimeerde wapens
Lichte letsel en persoonlijke ervaring
Touwen als een strop
Dood in historische, educatieve of funeraire instellingen
Niet-realistische terroristische symboliek
Stierenvechten
Afbeeldingen van ISIS/al-Qaida-vlaggen
Gemiddeld
Inhoud die matig grafisch geweld en gewelddadige handelingen bevat die gericht zijn op een geïdentificeerd doel. Dit zijn onder andere de nieuwe mogelijkheden:
Autopsie
Misdaad of doodsplaats
Dood van dieren (natuurlijk of opgejaagd), dierenoffer, dierenmisbruik
Slavernij
Genocide en massamoorden in historische, educatieve instellingen
Slachthuis
Huiselijk geweld en fysiek misbruik
Pesten
Wapens en wapens in gebruik tegen een doelwit
Afbeeldingen van het gebruik van kracht en dwang om een individu agressief te overheersen of te intimideren
Hoog
Inhoud met expliciete gedetailleerde afbeeldingen van geweld en gewelddadige daden in hoge gore. Dit zijn onder andere de nieuwe mogelijkheden:
Grafische verwondingen en dood
Onthoofding, onthoofding, brand levend
Lijk ontleding
Terrorisme, terroristische groeperingen en vlaggen
Gedwongen arbeid en dienstbaarheid, geforceerde medische procedure
Stalking
Lijk in terrorisme en oorlogsmisdaden
Schietgebeurtenis
Andere logboeken
Afbeeldingen van de dood wanneer ze worden uitgevoerd door terroristische groepen die kunnen worden geïdentificeerd door ISIS-vlaggen en symbolen
Ernstniveaus voor zelfschade
Ernstniveau
Beschrijving
Voorbeeld van afbeelding
Safe
Inhoud is veilig, maar bevat zelfverschadigende afbeeldingen die in algemene zin worden gebruikt. Dit zijn onder andere de nieuwe mogelijkheden:
Laag lichaamsvet
Niet-zelfschadig handelen
Onopzettelijk letsel aan het lichaam
Afbeeldingen van springen met een parachute uit een vliegtuig
Beperkt
Inhoud met zelfverschadigende beelden en handelingen in echte wereld of fictieve contexten met lage gore. Dit zijn onder andere de nieuwe mogelijkheden:
Littekens
Zelfschadig letsel bij herstel
Niet-realistische zelfschade
Gemermercieerde individuen of dieren
Representaties van zelfverschadigende handelingen, hulpmiddelen, letsel en emotionele toestand
Gemiddeld
Inhoud met gematigde grafische afbeeldingen die betrekking hebben op zelfbeschadiging en zelfmoord. Dit zijn onder andere de nieuwe mogelijkheden:
Autopsie
Misdaad of doodsplaats
Pesten
Representaties van het gebruik van geweld en dwang om een individu agressief te overheersen of intimideren in zelfschade
Hoog
Inhoud met expliciete gedetailleerde afbeeldingen van zelfbeschadiging en zelfmoord in hoge gore. Dit zijn onder andere de nieuwe mogelijkheden:
Dreigende zelfbeschadiging
Zelfverschadigende handelingen
Zelfmoord
Afbeeldingen van opzettelijke zelfmoord, waarbij een persoon zelfmoord heeft gepleegd door een hoog gebouw af te springen
Volgende stappen
Volg een quickstart om aan de slag te gaan met Azure AI Content Safety in uw toepassing.
Binnenkort beschikbaar: In de loop van 2024 zullen we GitHub-problemen geleidelijk uitfaseren als het feedbackmechanisme voor inhoud en deze vervangen door een nieuw feedbacksysteem. Zie voor meer informatie: https://aka.ms/ContentUserFeedback.