Categorias de danos na Segurança de Conteúdo do Azure AI

Este guia descreve todas as categorias e classificações de danos que a Segurança de Conteúdo do Azure AI usa para sinalizar conteúdo. O conteúdo de texto e imagem usa o mesmo conjunto de sinalizadores.

Categorias de danos

A Segurança de Conteúdo reconhece quatro categorias distintas de conteúdo censurável.

Categoria	Description
Ódio e justiça	Os danos relacionados ao ódio e à equidade referem-se a qualquer conteúdo que ataque ou use linguagem pejorativa ou discriminatória com referência a uma pessoa ou grupo de identidade com base em certos atributos diferenciadores desses grupos, incluindo, entre outros, raça, etnia, nacionalidade, identidade e expressão de gênero, orientação sexual, religião, status de imigração, status de habilidade, aparência pessoal e tamanho do corpo. A equidade diz respeito a garantir que os sistemas de IA tratam todos os grupos de pessoas de forma equitativa, sem contribuir para as desigualdades societais existentes. À semelhança do discurso de ódio, os danos relacionados com a equidade dependem do tratamento díspar dos grupos identitários.
Sexual	Sexual descreve linguagem relacionada a órgãos anatômicos e genitais, relacionamentos românticos, atos retratados em termos eróticos ou afetivos, gravidez, atos sexuais físicos, incluindo aqueles retratados como uma agressão ou um ato sexual violento forçado contra a vontade, prostituição, pornografia e abuso.
Violência	A violência descreve a linguagem relacionada a ações físicas destinadas a ferir, ferir, danificar ou matar alguém ou algo; descreve armas, armas e entidades relacionadas, como fabricantes, associações, legislação e assim por diante.
Automutilação	A automutilação descreve a linguagem relacionada com ações físicas destinadas a ferir, ferir, danificar o corpo ou matar-se propositadamente.

A classificação pode ser multi-labeled. Por exemplo, quando uma amostra de texto passa pelo modelo de moderação de texto, ela pode ser classificada como Conteúdo sexual e Violência.

Níveis de severidade

Cada categoria de dano que o serviço aplica também vem com uma classificação de nível de gravidade. O nível de severidade destina-se a indicar a gravidade das consequências de mostrar o conteúdo sinalizado.

Texto: A versão atual do modelo de texto suporta a escala de gravidade completa de 0 a 7. O classificador deteta entre todas as gravidades ao longo desta escala. Se o usuário especificar, ele pode retornar gravidades na escala aparada de 0, 2, 4 e 6; Cada dois níveis adjacentes são mapeados para um único nível.

• [0,1] -> 0
• [2,3] -> 2
• [4,5] -> 4
• [6,7] -> 6

Imagem: A versão atual do modelo de imagem suporta a versão cortada da escala de gravidade completa de 0 a 7. O classificador só devolve as gravidades 0, 2, 4 e 6; Cada dois níveis adjacentes são mapeados para um único nível.

• [0,1] -> 0
• [2,3] -> 2
• [4,5] -> 4
• [6,7] -> 6

Conteúdo do texto

Aviso

Aviso

A guia Definições de gravidade neste documento contém exemplos de conteúdo prejudicial que pode ser perturbador para alguns leitores.

Definições de gravidade

Níveis de severidade do ódio e da equidade

Nível de severidade	Descrição	Texto de exemplo
Nível 0	Conteúdo que contenha termos relacionados com o ódio e a equidade utilizados no sentido geral e que seja apropriado para todos os públicos-alvo, incluindo crianças. O que está incluído: Linguagem geral e pejorativa expressando antipatia contra grupos identitários Menções gerais de atributos do grupo identitário, como raça, etnia, religião, etc., em contextos históricos, geográficos, médicos e outros semelhantes, sem sentimento Termos gerais que não têm tons raciais de intenção ofensiva fora do contexto	"I hate cats."
Nível 1	Conteúdo que contenha termos relacionados ao ódio e à equidade usados no sentido geral, mas que possam adquirir um significado diferente com base no contexto e não diferenciem entre grupos de identidade e outros de forma tendenciosa ou negativa. O que está incluído: Estatísticas, legislação ou documentação oficiais Cobertura noticiosa/mediática Recursos educativos destinados a sensibilizar para a diversidade/combater o discurso de ódio Produtos de branqueamento da pele e anúncios de tratamento Menções à suástica indo-eurasiática, a bandeira confederada, grupos não-KKK que têm semelhança visual com a KKK	"Black people should not be killed by police or mistreated just because of their skin color."
Nível 2	Conteúdo que contenha caracterização positiva ou proteção dos grupos identitários que desencadeiem uma resposta emocional favorável. O que está incluído: Insultos escritos na íntegra em artigos de pesquisa, dicionários ou meios de comunicação com citações diretas Declarações de um orador que pertence a um grupo de identidade sem intenção de atingir o mesmo grupo de identidade Palavras malditas, palavrões e insultos verbais que não visam um grupo identitário Discurso de ódio geral que tem como alvo indivíduos/grupos não identificados sem visar um grupo de identidade Intenção do utilizador de criar uma lista de bloqueio de termos ofensivos Representações da Alemanha nazista, Hitler, a bandeira confederada e o simbolismo da Ku Klux Klan em filmes, videogames, fantasias, brinquedos, encenações ou gírias online	"I hate you."
Nível 3	Conteúdo que contenha caracterização preconceituosa, preconceituosa, estereotipada ou negativa. O que está incluído: Opinião baseada em estereótipos ou sentimentos negativos Expressa opiniões preconceituosas, preconceituosas ou opinativas Comparações negativas ou positivas diferenciando entre grupos de identidade e outros. Menções em mundos fictícios Discriminação no emprego nos anúncios de emprego Fatos históricos e artefatos relacionados à Alemanha nazista, à bandeira confederada durante a Guerra Civil dos EUA ou à Ku Klux Klan	"I don't like [identity group] because they are all so aggressive. They attacked us over and over again for no reason at all."
Level 4	Conteúdo que contenha insultos verbais diretos motivados por sentimento, comentários negativos e insultos raciais usados como descrições visando grupos de identidade com a intenção de ferir indivíduos com base em seus atributos. O que está incluído: Referências usadas para segmentar a raça, a cor da pele Promoção da evasão social e do isolamento Zombar e imitar atributos de grupos identitários	"All [identity group] are ugly."
Nível 5	Conteúdo que contenha desumanização ou derrogação de indivíduos ou grupos que promova sentimentos negativos através de comportamentos de desumanização, violência, negação de eventos, bullying ou intimidação. O que está incluído: Textos que negam eventos históricos, bem documentados e violentos, como o Holocausto Textos que descrevem indivíduos ou grupos como física ou mentalmente inferiores com base na pertença a um grupo de identidade Textos que questionam, negam ou depreciam a existência de grupos identitários Aplicação dos atributos desejados/esperados Eugenia e teorias de 'melhoria racial' que visam grupos identitários Mercadoria moderna que contém símbolos nazistas, a bandeira confederada ou KKK	"The [real world event] is a fraud. What we've discovered is that sources have been lying about the number of victims. Here is proof."
Nível 6	Conteúdo baseado em sentimento negativo e discurso de ódio contra grupos identitários. Referindo-se às características do grupo que diferenciam o grupo de identidade dos outros e apelando para tomar medidas contra grupos de identidade com base em seus atributos. Isto pode incluir: Propaganda de discurso de ódio que pode ser percebida como uma ameaça direta ou um apelo à violência contra um grupo identitário Discurso de ódio incendiário, ofensivo e vulgar Textos que alegam a superioridade de um grupo sobre aqueles com os atributos dos grupos identitários para justificar a discriminação, segregação ou exclusão Textos que descrevem a alegria em relação a um evento violento que teve como alvo um grupo identitário	"Send [identity group] back to the gas chambers."
Nível 7	Conteúdo baseado em sentimentos negativos, exibindo intenção de crime de ódio e perseguição, desencadeando uma resposta emocional hostil e diferenciando grupos de identidade e outros que levam ao crime. O que está incluído: Preparação, louvor e glorificação da violência contra um grupo identitário Textos que contêm material de recrutamento de grupos supremacistas Textos destinados a radicalizar e incentivar o discurso de ódio contra um grupo identitário	"Millions of [identity group] were wiped out because they were the inferior race. Murdering them continues to be right and honorable because…"

Níveis de severidade sexual

Nível de severidade	Descrição	Texto de exemplo
Nível 0	Conteúdo que contenha termos relacionados com sexualidade utilizados em sentido geral e que sejam inofensivos para todos os públicos-alvo, incluindo crianças. Menções às relações familiares Conteúdo inofensivo para todos os públicos-alvo, incluindo crianças	"The sports bra and yoga pants were too tight for comfort."
Nível 1	Conteúdo que contenha termos relacionados sexualmente usados em sentido geral, mas que possam adquirir um significado diferente com base no contexto. Isto inclui: Estatísticas e documentação oficiais sobre temas relacionados com o sexo Cobertura noticiosa/mediática Termos anatômicos, anatomia sexual e tratamento médico Recursos educativos sobre sexo, bem-estar sexual, consciencialização, etc. Menções de sexo biológico ou descrições de reprodução sexual Textos que descrevem relacionamentos românticos em termos não gráficos	"Fewer young adults are having sex than in previous generations."
Nível 2	Conteúdo que contenha termos relacionados sexualmente em experiências fictícias ou do mundo real que não sejam extremamente gráficos. Isto inclui: Menções a textos literários/artísticos, filmes, esculturas, etc. que contenham conversas sujas limitadas ou breves cenas de nudez não explícitas Experiências pessoais relacionadas ao sexo em geral, problemas e traumas sexuais, compartilhamento de mecanismos de enfrentamento e recursos para abordar tais questões Intenção do usuário de criar uma lista de bloqueio para conteúdo sexual Menções de atos sexuais e nudez com núcleo de luz	"The first time I had sex, I found it painful."
Nível 3	Conteúdo com termos relacionados sexualmente em casos que contenham algum conteúdo gráfico, opiniões expressando opiniões tendenciosas, preconceituosas, julgadoras ou opinativas sobre questões relacionadas ao sexo. Isto inclui: Experiências sexuais pessoais, passadas ou presentes, com algum conteúdo gráfico	"We made out for a while, and he started to feel me up. I felt a bulge in his pants."
Level 4	Conteúdo descrevendo fantasias sexuais, indústria do sexo profissional e anúncios, e reprodução de animais sexualizados. Isto inclui: Fantasias de sexo de diferentes tipos, incluindo imaginar nudez real ou fictícia Indústria do sexo profissional sem descrições de cenas de sexo Anúncios de preservativos, lubrificantes, brinquedos sexuais, roupas, etc. Descrições da reprodução sexual entre animais ou personagens semelhantes a animais com algum conteúdo gráfico Menções de atos sexuais e nudez com soft core	"I got into BDSM because I had some friends into the lifestyle and it piqued my interest. I like using silk, scarves, collars, and bondage…"
Nível 5	Conteúdo que descreva programas ou experiências eróticas como experiência pessoal, BDSM com consentimento claro e histórias e sites eróticos. Isto inclui: Menções de massagens sexuais, eróticas ou tântricas, clubes de striptease, shows eróticos como experiência pessoal (não como um serviço profissional) Experiências pessoais e descrições relacionadas aos atributos e práticas do BDSM em geral ou situações com conteúdo claro para a prática do BDSM Menções a conteúdos eróticos não comerciais relacionados com o desejo ou prazer sexual	"We both climaxed at the same time."
Nível 6	Conteúdo que descreva a solicitação de serviços comerciais sexuais, contendo descrições detalhadas de atividade sexual, abuso sexual violento e estupro, e trocas de poder não consensuais, abuso e voyeurismo. Isto inclui: Menções de estimulação dos genitais com as mãos ou outros objetos, masturbação, etc. Conteúdo fetiche ou grosseiro envolvendo fluidos corporais, situações de controle sexual ou atividades BDSM sem consentimento claro Textos que descrevem violência sexual, agressão sexual, violação ou abuso em detalhes gráficos Textos que atribuem qualidades positivas à agressão sexual Textos que procuram ou fornecem instruções para realizar agressão sexual Atos de chantagem e ameaças de revelar imagens ou vídeos sexuais não consentidos previamente gravados	"I love forced sex, it's so much hotter."
Nível 7	Conteúdo usado para promover, endossar, glorificar formas extremas de escravidão sexual. Conteúdo extremo ou ilegal. Isto inclui: Sexo com animais, cadáveres, etc. Pedofilia Procurar ou fornecer instruções sobre aliciamento de crianças Referências explícitas ou potenciais ao incesto Recrutamento por tráfico sexual de seres humanos	"I was abused as a child by my uncle and I liked it. Nowadays, I make money by producing child pornography with my neighbor’s 6 year old son."

Níveis de gravidade da violência

Nível de severidade	Descrição	Texto de exemplo
Nível 0	Conteúdo que contenha ações não violentas ou termos relacionados à violência usados em um sentido geral que seja inofensivo para todos os públicos-alvo, incluindo crianças. O que está incluído: Objetos comuns quando não usados como armas Armas de brinquedo, armas não realistas ou simuladas Menções de cordas quando não utilizadas como laço	"According to our child and parent testers, here are the best long-range soakers for soft blasters for toddlers suitable for epic water battles."
Nível 1	Conteúdo que contenha termos ou atos relacionados à violência usados em um sentido geral, mas que possam adquirir um significado diferente com base no contexto. O que está incluído: Subconjuntos de textos que contêm descrições de atos violentos, onde a contextualização do texto completo não possui intenção violenta Estatísticas e documentação oficiais sobre armas, armas, violência doméstica, guerra, militares, etc. Recursos educativos relacionados com a violência Cobertura noticiosa/mediática Termos e conteúdos médicos Especificações técnicas de caça ou tiro desportivo e armas Prática de combate Luta contra o terrorismo e símbolos terroristas não relacionados com o ISIS/Al-Qaeda	"Carnivores such as lions and tigers are prone to killing one another. Death occurs at the paws, claws, jaws, or tusks that might fatally gore one another during fights."
Nível 2	Conteúdo que contenha termos relacionados à violência ou atos em experiências fictícias ou do mundo real que não sejam extremamente gráficos e sem glorificação ou endosso de má intenção. O que está incluído: Narração em primeira, segunda e terceira pessoa em videojogos, textos literários/artísticos que retratam cenas violentas ou gráficas Dicas e recomendações de jogos Experiências pessoais em que um indivíduo descreve como foi exposto a algum tipo de violência Menções de cordas quando usadas como laço sem a presença de seres humanos ou não relacionados com o laço A intenção do usuário é criar uma lista de bloqueio com conteúdo violento	"She wishes she could have killed her whole family."
Nível 3	Conteúdo com termos ou atos relacionados à violência em casos que contenham algum conteúdo gráfico, opiniões expressando visões tendenciosas, preconceituosas, preconceituosas ou opinativas sobre violência. O que está incluído: Permitir a crueldade para alguns animais Textos que reivindicam o impacto positivo de alguns tipos de violência	"Some people just need to be slapped."
Level 4	Conteúdo que descreva razões infundadas para o motivo pelo qual as vítimas estão a ser abusadas fisicamente, atribuição infundada de qualidades positivas dos abusadores, ameaças de atos violentos e fantasias relacionadas com a forma de prejudicar outra pessoa e gore médio. O que está incluído: Textos que colocam a vítima em culpa ou retratam os agressores de uma forma positiva Descrições gráficas de violência e morte com gore médio Um relatório de autópsia, uma investigação forense, local de crime ou morte Instalações de carne e aves e sacrifício religioso de animais Referências a genocídios históricos ou recentes e a tiroteios conhecidos com vítimas em massa sem endosso ou glorificação Referências a eventos terroristas e extremistas violentos sem aprovação ou glorificação	"Victims of abuse deserve to be hit. They push and push until they get what they deserve."
Nível 5	Conteúdo com o objetivo de promover a violência, fornecendo instruções diretas sobre como prejudicar indivíduos ou grupos específicos. O que está incluído: Textos que incitam à violência física contra indivíduos/grupos visados Instruções sobre como causar violência física a indivíduos ou maus-tratos a animais Textos em busca de conselhos sobre como realizar atos violentos em animais, indivíduos ou grupos Intimidação e intimidação	"Go to another state or another city and kill any stranger; for example, shoot them with a silencer gun. Since you have not any connection with him, you will not get caught."
Nível 6	Conteúdo que descreva grupos extremistas e organizações terroristas, assassínios em massa e danos físicos explícitos em alto nível, e promoção do terrorismo e da sua propaganda. O que está incluído: Materiais oficiais de propaganda terrorista ou extremista e ideologia violenta na Internet Incitamento à prática de uma ação violenta	"We must kill them all. God wills it, and society will be better for it."
Nível 7	Conteúdo usado para descrever, elogiar, apoiar, promover, endossar, glorificar formas extremas de violência. Conteúdo que apoia organizações terroristas e radicaliza, instrui ou treina. O que está incluído: Trabalho forçado, incluindo crianças, servidão doméstica ou tratamento médico Materiais de propaganda terrorista e extremista violenta online que glorificam assassinatos como parte de atividades terroristas e ofertas de ajuda a organizações ou causas terroristas Textos que procuram instruções sobre a filiação a grupos terroristas e extremistas violentos sobre como recrutar, influenciar e treinar pessoas para a causa Comportamentos ilegais de assédio, como perseguição ou vigilância indesejada Textos que planeiam e coordenam ataques a indivíduos ou grupos de pessoas Textos que endossam, glorificam ou fornecem instruções sobre canibalismo	"Let's call and threaten to explode the hospital during the weekend. I've got the explosives ready, and will have them installed tonight."

Níveis de gravidade da automutilação

Nível de severidade	Descrição	Texto de exemplo
Nível 0 – Seguro	Conteúdo que contenha termos relacionados à automutilação usados em um sentido geral que é inofensivo para todos os públicos-alvo, incluindo crianças. O que está incluído: Menções a indicadores de gordura corporal, índice de massa gorda por idade e sexo em contextos relacionados à saúde	"I appreciate your hard work, but you don't need to keep killing yourself over this project."
Nível 1	Conteúdo que contenha termos relacionados à automutilação usados em um sentido geral, mas que podem adquirir um significado diferente com base no contexto. O que está incluído: Estatísticas e documentação oficiais sobre automutilação não suicida (NSSI), suicídio, etc. Recursos educativos relacionados com a automutilação Cobertura noticiosa/mediática Termos e conteúdos médicos Ações que descrevem automutilação acidental, dicas de primeiros socorros, etc.	"Binging and purging may be a warning sign for people with a history of extreme weight loss."
Nível 2	Conteúdo que contenha termos relacionados à automutilação ou atos em experiências fictícias ou do mundo real que não sejam extremamente gráficos. O que está incluído: Textos literários/artísticos, filmes, etc. que retratam personagens tramando ou cometendo suicídio, praticando automutilação ou alimentação desordenada sem glorificação ou endosso Textos onde atos de automutilação ou suicídio são retratados com baixo gore A intenção do usuário é criar listas de bloqueio de termos de automutilação	"Oedipus stabbed his eyes in despair."
Nível 3	Conteúdo com termos ou atos relacionados à automutilação em casos que contenham algum conteúdo gráfico, opiniões expressando visões tendenciosas, preconceituosas, preconceituosas ou opinativas sobre automutilação. O que está incluído: Experiências pessoais relacionadas com a automutilação, como pedir ajuda antes de se magoarem ou cometerem suicídio	"I'm really struggling with self-loathing and thoughts of self-harm to relieve my distress after my friend took his own life last month. Please can someone give me any useful advice?"
Level 4	Conteúdo que zomba de vítimas ou sobreviventes de suicídio ou automutilação, atribuição infundada de qualidades positivas à automutilação, fantasias ou desejos de automutilação, e contém conteúdo explicitamente gráfico envolvendo morte, autópsia, crime ou cena da morte. O que está incluído: Autolesão apresentada como solução para um problema, sofrimento emocional, fuga da dor/agonia Textos onde a automutilação ou o suicídio contêm gore médio e descrições de ferramentas como uma faca, uma pistola, etc.	"It's hilarious when [identity group] kill themselves."
Nível 5	Conteúdo com o objetivo de promover ainda mais a automutilação, fornecendo instruções diretas sobre como realizar automutilação ou intimidar uma vítima. O que está incluído: Textos que buscam conselhos ou recomendações sobre como realizar atos de automutilação, exceto suicídio Textos que descrevem experiências pessoais passadas e presentes de automutilação que contêm detalhes explícitos Bullying, intimidação e pressão que incitem e promovem atos de automutilação	"Go kill yourself, you are worthless."
Nível 6	Conteúdo que descreva instruções detalhadas e explícitas sobre como cometer suicídio. O que está incluído: Textos que instruem como escrever uma mensagem de despedida para a sua família	"Here is a quick guide to do-it-yourself suicide. One method is asphyxia suicide by inhaling helium inside a plastic bag."
Nível 7	Conteúdo usado para endossar e glorificar o suicídio ou outros atos graves de automutilação. O que está incluído: Auto-decapitação Queimando vivo	"Get a shotgun and blow your brains out. It won't even hurt. And you'll be remembered for ages, like Kurt Cobain or Ernest Hemingway. There's nothing bad about suicide. Actually it's noble."

Conteúdo da imagem

Aviso

Aviso

A guia Definições de gravidade neste documento contém exemplos de conteúdo prejudicial que pode ser perturbador para alguns leitores.

Definições de gravidade

Níveis de severidade do ódio e da equidade

Nível de severidade	Descrição	Exemplo de imagem
Safe	O conteúdo é seguro, mas pode conter imagens relacionadas ao ódio e à justiça, sem sentimento ou sentimentos neutros, de forma não discriminatória e não ofensiva, nos seguintes contextos ou similares: Jornalístico Histórico Médico Legal Educacional Geográfica	Bandeiras não confederadas, por exemplo, bandeiras de países ou estados que apresentam cruzes Uma imagem da bandeira Union Jack da Grã-Bretanha Representação da emancipação de pessoas escravizadas nos EUA em fotos históricas
Baixo	Conteúdo que contenha sentimentos positivos, falsos positivos ou sentimentos negativos e tendenciosos que diferenciem grupos identitários de outros. Este conteúdo destina-se a desencadear uma resposta emocional. O que está incluído: Proteção Simbolismo nazista, a bandeira confederada, simbolismo Ku Klux Klan Estereótipos Discriminação no emprego	Representações do movimento 'No Hate Speech' Representações de candidatos a empregos despriorizados, como candidatos com deficiência, em ambientes de entrevista
Médio	Conteúdo que contenha sentimentos negativos, ações em relação a grupos identitários e outros que levem à promoção de ações contra grupos identitários e sentimentos de superioridade. O que está incluído: Insulto, isolamento, zombaria Bandeira nazista, bandeira confederada e variações e mercadorias LGBTQIA+	Imagens que promovem a evasão social de [grupos identitários] Imagens que retratam a teoria da melhoria racial e a eugenia
Alto	Conteúdo que contenha sentimento negativo e discurso de ódio em relação a grupos de identidade, levando à geração de discurso de ódio ou crimes de ódio. O que está incluído: Racismo Ataques a LGBTQIA+ Disablismo Discriminação em razão do sexo Simbolismo nazista glorificado, bandeira confederada, simbolismo Ku Klux Klan Bandeira confederada violenta	Imagens antissemitas Imagens que retratam o "Cruzeiro do Sul" que apresenta uma sátira azul (cruz diagonal) com afiliação de violência óbvia (por exemplo, armas em exibição/uso)

Níveis de severidade sexual

Nível de severidade	Descrição	Exemplo de imagem
Safe	O conteúdo é seguro, mas contém imagens sexualmente relacionadas usadas em um sentido geral. O que está incluído: Relações familiares e amorosas Nudez não sexual Vestuário Objetos comuns Pose ou atividade não sexual Acasalamento de animais Bem-estar sexual	Representações de abraçar ou fazer contato físico não sexual Representações que retratam demonstração física de afeto, como beijos sem língua e sem nudez
Baixo	Conteúdo que contenha comportamentos ou atos sexualmente sugestivos. O que está incluído: Experiências pessoais Modelação de moda Nudez em obras de arte Arte corporal Visor Racy	Representações de pessoas
Médio	Conteúdo que contenha conteúdo erótico e/ou pornográfico comercial e amador sem penetração fotográfica visual e participantes nus ou seminus envolvidos em cenas sexuais destinadas a serem sexualmente excitantes. O que está incluído: Modelação sexual Nudez suave em obras de arte Sex jobs ou lojas Atividade sexual obscurecida Produção pornô nos bastidores Pole dance	Representações de relações sexuais que podem ser parcialmente ocluídas, mas ainda claramente presentes na imagem
Alto	Conteúdo que contenha representações explícitas e detalhadas de órgãos sexuais e atos sexuais, incluindo atos ilegais. O que está incluído: Pornografia amadora soft-core e hard-core Solicitação sexual Voyeurismo Sexo na obra de arte BDSM sem consentimento ou violação Exploração e abuso sexual de crianças Aliciamento de crianças Incesto	Representações de envolvimentos em atividades sexuais com animais ou cadáveres

Níveis de gravidade da violência

Nível de severidade	Descrição	Exemplo de imagem
Safe	O conteúdo é seguro, mas contém imagens relacionadas à violência usadas em um sentido geral. O que está incluído: Posar para dormir ou deitar Objetos comuns Atividade não violenta Cordas não como um laço Ferramentas com lâminas em uso na cozinha/costura Feridas, cicatrizes e tratamento cirúrgico Caça e tiro desportivo Armas de brinquedo e de faz de conta Prática de combate Danos a objetos e vandalismo Simbolismo terrorista sem marca	Representações de armas não realistas e ferramentas com lâminas
Baixo	Conteúdo que contenha imagens relacionadas à violência e atue no mundo real ou em contextos fictícios com baixo teor de gore. O que está incluído: Armas, armas e ferramentas com lâminas em exibição e em uso Cadáver não realista Violência irrealista Armas animadas Lesões ligeiras e experiência pessoal Cordas como um laço Morte em contextos históricos, educativos ou funerários Simbolismo terrorista irrealista Touradas	Representações de bandeiras do ISIS/Al-Qaeda
Médio	Conteúdo que contenha violência explícita moderada e atos violentos direcionados a um alvo identificado. O que está incluído: Autópsia Cena do crime ou da morte Morte de animais (naturais ou caçados), sacrifício de animais, maus-tratos a animais Escravização Genocídio e assassínios em massa em contextos históricos e educativos Matadouro Violência doméstica e violência física Assédio moral Armas e armas em uso contra um alvo	Representações do uso da força e da coerção para dominar ou intimidar agressivamente um indivíduo
Alto	Conteúdo que contenha representações explícitas e detalhadas de violência e atos violentos em alto nível. O que está incluído: Ferimentos gráficos e morte Desmembramento, decapitação, queima viva Decomposição de cadáveres Terrorismo, grupos terroristas e bandeiras Trabalho forçado e servidão, procedimento médico forçado Perseguição Cadáver no terrorismo e no crime de guerra Evento de tiro Outros extremismos	Representações da morte quando realizadas por grupos terroristas identificáveis por bandeiras e símbolos do ISIS

Níveis de gravidade da automutilação

Nível de severidade	Descrição	Exemplo de imagem
Safe	O conteúdo é seguro, mas contém imagens relacionadas à automutilação usadas em um sentido geral. O que está incluído: Baixo teor de gordura corporal Ato de não automutilação Lesão corporal acidental	Representações de saltos com um para-quedas para fora de um avião
Baixo	Conteúdo que contenha imagens relacionadas à automutilação e atue em contextos reais ou fictícios com baixo teor de gore. O que está incluído: Cicatrizes Lesão por automutilação em recuperação Automutilação não realista Indivíduos ou animais emaciados	Representações de atos, ferramentas, lesões e estado emocional relacionados à automutilação
Médio	Conteúdo que contenha imagens gráficas moderadas relacionadas com automutilação e suicídio. O que está incluído: Autópsia Cena do crime ou da morte Assédio moral	Representações do uso da força e da coerção para dominar ou intimidar agressivamente um indivíduo para se automutilar
Alto	Conteúdo que contenha representações explícitas e detalhadas de automutilação e suicídio em alto nível. O que está incluído: Ato de automutilação iminente Atos de automutilação Suicídio	Representações de suicídio intencional, onde uma pessoa cometeu suicídio pulando de um prédio alto

Próximos passos

Siga um início rápido para começar a usar o Azure AI Content Safety em seu aplicativo.

Guia de início rápido de segurança de conteúdo