Categorias de danos na Segurança de Conteúdo do Azure AI

Este guia descreve todas as categorias e classificações de danos que a Segurança de Conteúdo do Azure AI usa para sinalizar conteúdo. O conteúdo de texto e imagem usa o mesmo conjunto de sinalizadores.

Categorias de danos

A Segurança de Conteúdo reconhece quatro categorias distintas de conteúdo censurável.

Categoria	Description	Termo da API
Ódio e justiça	Os danos relacionados ao ódio e à equidade referem-se a qualquer conteúdo que ataque ou use linguagem discriminatória com referência a uma pessoa ou grupo de identidade com base em certos atributos diferenciadores desses grupos. Isto inclui, mas não está limitado a: Raça, etnia, nacionalidade Grupos e expressão de identidade de género Orientação sexual Religião Aparência pessoal e tamanho do corpo Estatuto de deficiência Assédio e intimidação	Hate
Sexual	Sexual descreve linguagem relacionada a órgãos anatômicos e genitais, relacionamentos românticos e atos sexuais, atos retratados em termos eróticos ou afetuosos, incluindo aqueles retratados como uma agressão ou um ato sexual violento forçado contra a vontade.   Isto inclui, mas não está limitado a: Conteúdo vulgar Prostituição Nudez e pornografia Abuso Exploração infantil, abuso de crianças, aliciamento de crianças	Sexual
Violência	A violência descreve a linguagem relacionada a ações físicas destinadas a ferir, ferir, danificar ou matar alguém ou algo; descreve armas, armas e entidades relacionadas. Isso inclui, mas não está limitado a: Armas Intimidação e intimidação Extremismo terrorista e violento Perseguição	Violence
Automutilação	A automutilação descreve a linguagem relacionada com ações físicas destinadas a ferir, ferir, danificar o corpo ou matar-se propositadamente. Isso inclui, mas não está limitado a: Transtornos Alimentares Intimidação e intimidação	SelfHarm

A classificação pode ser multi-labeled. Por exemplo, quando uma amostra de texto passa pelo modelo de moderação de texto, ela pode ser classificada como Conteúdo sexual e Violência.

Níveis de severidade

Cada categoria de dano que o serviço aplica também vem com uma classificação de nível de gravidade. O nível de severidade destina-se a indicar a gravidade das consequências de mostrar o conteúdo sinalizado.

Texto: A versão atual do modelo de texto suporta a escala de gravidade completa de 0 a 7. O classificador deteta entre todas as gravidades ao longo desta escala. Se o usuário especificar, ele pode retornar gravidades na escala aparada de 0, 2, 4 e 6; Cada dois níveis adjacentes são mapeados para um único nível.

• [0,1] ->0
• [2,3] ->2
• [4,5] ->4
• [6,7] ->6

Imagem: A versão atual do modelo de imagem suporta a versão cortada da escala de gravidade completa de 0 a 7. O classificador só devolve as gravidades 0, 2, 4 e 6.

• 0
• 2
• 4
• 6

Imagem com texto: A versão atual do modelo multimodal suporta a escala de gravidade completa de 0 a 7. O classificador deteta entre todas as gravidades ao longo desta escala. Se o usuário especificar, ele pode retornar gravidades na escala aparada de 0, 2, 4 e 6; Cada dois níveis adjacentes são mapeados para um único nível.

• [0,1] ->0
• [2,3] ->2
• [4,5] ->4
• [6,7] ->6

Conteúdo do texto

Aviso

Aviso

A guia Definições de gravidade neste documento contém exemplos de conteúdo prejudicial que pode ser perturbador para alguns leitores.

Definições de gravidade

Níveis de severidade do ódio e da equidade

Nível de severidade	Descrição	Texto de exemplo
Nível 0	Conteúdo que contenha termos relacionados com o ódio e a equidade utilizados no sentido geral e que seja apropriado para todos os públicos-alvo, incluindo crianças. O que está incluído: Linguagem geral e pejorativa expressando antipatia contra grupos identitários Menções gerais de atributos do grupo identitário, como raça, etnia, religião, etc., em contextos históricos, geográficos, médicos e outros semelhantes, sem sentimento Termos gerais que não têm tons raciais de intenção ofensiva fora do contexto	I hate cats.
Nível 1	Conteúdo que contenha termos relacionados ao ódio e à equidade usados no sentido geral, mas que possam adquirir um significado diferente com base no contexto e não diferenciem entre grupos de identidade e outros de forma tendenciosa ou negativa. O que está incluído: Estatísticas, legislação ou documentação oficiais Cobertura noticiosa/mediática Recursos educativos destinados a sensibilizar para a diversidade/combater o discurso de ódio Produtos de branqueamento da pele e anúncios de tratamento Menções à suástica indo-eurasiática, a bandeira confederada, grupos não-KKK que têm semelhança visual com a KKK	Black people should not be killed by police or mistreated just because of their skin color.
Nível 2	Conteúdo que contenha caracterização positiva ou proteção dos grupos identitários que desencadeiem uma resposta emocional favorável. O que está incluído: Insultos escritos na íntegra em artigos de pesquisa, dicionários ou meios de comunicação com citações diretas Declarações de um orador que pertence a um grupo de identidade sem intenção de atingir o mesmo grupo de identidade Palavras malditas, palavrões e insultos verbais que não visam um grupo identitário Discurso de ódio geral que tem como alvo indivíduos/grupos não identificados sem visar um grupo de identidade Intenção do utilizador de criar uma lista de bloqueio de termos ofensivos Representações da Alemanha nazista, Hitler, a bandeira confederada e o simbolismo da Ku Klux Klan em filmes, videogames, fantasias, brinquedos, encenações ou gírias online	I hate you.
Nível 3	Conteúdo que contenha caracterização preconceituosa, preconceituosa, estereotipada ou negativa. O que está incluído: Opinião baseada em estereótipos ou sentimentos negativos Expressa opiniões preconceituosas, preconceituosas ou opinativas Comparações negativas ou positivas diferenciando entre grupos de identidade e outros. Menções em mundos fictícios Discriminação no emprego nos anúncios de emprego Fatos históricos e artefatos relacionados à Alemanha nazista, à bandeira confederada durante a Guerra Civil dos EUA ou à Ku Klux Klan	I don't like [identity group] because they are all so aggressive. They attacked us over and over again for no reason at all.
Level 4	Conteúdo que contenha insultos verbais diretos motivados por sentimento, comentários negativos e insultos raciais usados como descrições visando grupos de identidade com a intenção de ferir indivíduos com base em seus atributos. O que está incluído: Referências usadas para segmentar a raça, a cor da pele Promoção da evasão social e do isolamento Zombar e imitar atributos de grupos identitários	All [identity group] are ugly.
Nível 5	Conteúdo que contenha desumanização ou derrogação de indivíduos ou grupos que promova sentimentos negativos através de comportamentos de desumanização, violência, negação de eventos, bullying ou intimidação. O que está incluído: Textos que negam eventos históricos, bem documentados e violentos, como o Holocausto Textos que descrevem indivíduos ou grupos como física ou mentalmente inferiores com base na pertença a um grupo de identidade Textos que questionam, negam ou depreciam a existência de grupos identitários Aplicação dos atributos desejados/esperados Eugenia e teorias de 'melhoria racial' que visam grupos identitários Mercadoria moderna que contém símbolos nazistas, a bandeira confederada ou KKK	The [real world event] is a fraud. What we've discovered is that sources have been lying about the number of victims. Here is proof.
Nível 6	Conteúdo baseado em sentimento negativo e discurso de ódio contra grupos identitários. Referindo-se às características do grupo que diferenciam o grupo de identidade dos outros e apelando para tomar medidas contra grupos de identidade com base em seus atributos. Isto pode incluir: Propaganda de discurso de ódio que pode ser percebida como uma ameaça direta ou um apelo à violência contra um grupo identitário Discurso de ódio incendiário, ofensivo e vulgar Textos que alegam a superioridade de um grupo sobre aqueles com os atributos dos grupos identitários para justificar a discriminação, segregação ou exclusão Textos que descrevem a alegria em relação a um evento violento que teve como alvo um grupo identitário	Send [identity group] back to the gas chambers.
Nível 7	Conteúdo baseado em sentimentos negativos, exibindo intenção de crime de ódio e perseguição, desencadeando uma resposta emocional hostil e diferenciando grupos de identidade e outros que levam ao crime. O que está incluído: Preparação, louvor e glorificação da violência contra um grupo identitário Textos que contêm material de recrutamento de grupos supremacistas Textos destinados a radicalizar e incentivar o discurso de ódio contra um grupo identitário	Millions of [identity group] were wiped out because they were the inferior race. Murdering them continues to be right and honorable because…

Níveis de severidade sexual

Nível de severidade	Descrição	Texto de exemplo
Nível 0	Conteúdo que contenha termos relacionados com sexualidade utilizados em sentido geral e que sejam inofensivos para todos os públicos-alvo, incluindo crianças. Menções às relações familiares Conteúdo inofensivo para todos os públicos-alvo, incluindo crianças	The sports bra and yoga pants were too tight for comfort.
Nível 1	Conteúdo que contenha termos relacionados sexualmente usados em sentido geral, mas que possam adquirir um significado diferente com base no contexto. Isto inclui: Estatísticas e documentação oficiais sobre temas relacionados com o sexo Cobertura noticiosa/mediática Termos anatômicos, anatomia sexual e tratamento médico Recursos educativos sobre sexo, bem-estar sexual, consciencialização, etc. Menções de sexo biológico ou descrições de reprodução sexual Textos que descrevem relacionamentos românticos em termos não gráficos	Fewer young adults are having sex than in previous generations.
Nível 2	Conteúdo que contenha termos relacionados sexualmente em experiências fictícias ou do mundo real que não sejam extremamente gráficos. Isto inclui: Menções a textos literários/artísticos, filmes, esculturas, etc. que contenham conversas sujas limitadas ou breves cenas de nudez não explícitas Experiências pessoais relacionadas ao sexo em geral, problemas e traumas sexuais, compartilhamento de mecanismos de enfrentamento e recursos para abordar tais questões Intenção do usuário de criar uma lista de bloqueio para conteúdo sexual Menções de atos sexuais e nudez com núcleo de luz	My husband and I introduced a vibrator to our sex life and it has really made a difference.
Nível 3	Conteúdo com termos relacionados sexualmente em casos que contenham algum conteúdo gráfico, opiniões expressando opiniões tendenciosas, preconceituosas, julgadoras ou opinativas sobre questões relacionadas ao sexo. Isto inclui: Experiências sexuais pessoais, passadas ou presentes, com algum conteúdo gráfico	We made out for a while, and he started to feel me up. I felt a bulge in his pants.
Level 4	Conteúdo descrevendo fantasias sexuais, indústria do sexo profissional e anúncios, e reprodução de animais sexualizados. Isto inclui: Fantasias de sexo de diferentes tipos, incluindo imaginar nudez real ou fictícia Indústria do sexo profissional sem descrições de cenas de sexo Anúncios de preservativos, lubrificantes, brinquedos sexuais, roupas, etc. Descrições da reprodução sexual entre animais ou personagens semelhantes a animais com algum conteúdo gráfico Menções de atos sexuais e nudez com soft core	I got into BDSM because I had some friends into the lifestyle and it piqued my interest. I like using silk, scarves, collars, and bondage…
Nível 5	Conteúdo que descreva programas ou experiências eróticas como experiência pessoal, BDSM com consentimento claro e histórias e sites eróticos. Isto inclui: Menções de massagens sexuais, eróticas ou tântricas, clubes de striptease, shows eróticos como experiência pessoal (não como um serviço profissional) Experiências pessoais e descrições relacionadas aos atributos e práticas do BDSM em geral ou situações com conteúdo claro para a prática do BDSM Menções a conteúdos eróticos não comerciais relacionados com o desejo ou prazer sexual	We both climaxed at the same time.
Nível 6	Conteúdo que descreva a solicitação de serviços comerciais sexuais, contendo descrições detalhadas de atividade sexual, abuso sexual violento e estupro, e trocas de poder não consensuais, abuso e voyeurismo. Isto inclui: Menções de estimulação dos genitais com as mãos ou outros objetos, masturbação, etc. Conteúdo fetiche ou grosseiro envolvendo fluidos corporais, situações de controle sexual ou atividades BDSM sem consentimento claro Textos que descrevem violência sexual, agressão sexual, violação ou abuso em detalhes gráficos Textos que atribuem qualidades positivas à agressão sexual Textos que procuram ou fornecem instruções para realizar agressão sexual Atos de chantagem e ameaças de revelar imagens ou vídeos sexuais não consentidos previamente gravados	I love forced sex, it's so much hotter.
Nível 7	Conteúdo usado para promover, endossar, glorificar formas extremas de escravidão sexual. Conteúdo extremo ou ilegal. Isto inclui: Sexo com animais, cadáveres, etc. Pedofilia Procurar ou fornecer instruções sobre aliciamento de crianças Referências explícitas ou potenciais ao incesto Recrutamento por tráfico sexual de seres humanos	I was abused as a child by my uncle and I liked it. Nowadays, I make money by producing child pornography with my neighbor’s 6 year old son.

Níveis de gravidade da violência

Nível de severidade	Descrição	Texto de exemplo
Nível 0	Conteúdo que contenha ações não violentas ou termos relacionados à violência usados em um sentido geral que seja inofensivo para todos os públicos-alvo, incluindo crianças. O que está incluído: Objetos comuns quando não usados como armas Armas de brinquedo, armas não realistas ou simuladas Menções de cordas quando não utilizadas como laço	According to our child and parent testers, here are the best long-range soakers for soft blasters for toddlers suitable for epic water battles.
Nível 1	Conteúdo que contenha termos ou atos relacionados à violência usados em um sentido geral, mas que possam adquirir um significado diferente com base no contexto. O que está incluído: Subconjuntos de textos que contêm descrições de atos violentos, onde a contextualização do texto completo não possui intenção violenta Estatísticas e documentação oficiais sobre armas, armas, violência doméstica, guerra, militares, etc. Recursos educativos relacionados com a violência Cobertura noticiosa/mediática Termos e conteúdos médicos Especificações técnicas de caça ou tiro desportivo e armas Prática de combate Luta contra o terrorismo e símbolos terroristas não relacionados com o ISIS/Al-Qaeda	Carnivores such as lions and tigers are prone to killing one another. Death occurs at the paws, claws, jaws, or tusks that might fatally gore one another during fights.
Nível 2	Conteúdo que contenha termos relacionados à violência ou atos em experiências fictícias ou do mundo real que não sejam extremamente gráficos e sem glorificação ou endosso de má intenção. O que está incluído: Narração em primeira, segunda e terceira pessoa em videojogos, textos literários/artísticos que retratam cenas violentas ou gráficas Dicas e recomendações de jogos Experiências pessoais em que um indivíduo descreve como foi exposto a algum tipo de violência Menções de cordas quando usadas como laço sem a presença de seres humanos ou não relacionados com o laço A intenção do usuário é criar uma lista de bloqueio com conteúdo violento	Physical punishment is a way to correct bad behavior and doesn’t cause harm to children.
Nível 3	Conteúdo com termos ou atos relacionados à violência em casos que contenham algum conteúdo gráfico, opiniões expressando visões tendenciosas, preconceituosas, preconceituosas ou opinativas sobre violência. O que está incluído: Permitir a crueldade para alguns animais Textos que reivindicam o impacto positivo de alguns tipos de violência	Some people just need to be slapped.
Level 4	Conteúdo que descreva razões infundadas para o motivo pelo qual as vítimas estão a ser abusadas fisicamente, atribuição infundada de qualidades positivas dos abusadores, ameaças de atos violentos e fantasias relacionadas com a forma de prejudicar outra pessoa e gore médio. O que está incluído: Textos que colocam a vítima em culpa ou retratam os agressores de uma forma positiva Descrições gráficas de violência e morte com gore médio Um relatório de autópsia, uma investigação forense, local de crime ou morte Instalações de carne e aves e sacrifício religioso de animais Referências a genocídios históricos ou recentes e a tiroteios conhecidos com vítimas em massa sem endosso ou glorificação Referências a eventos terroristas e extremistas violentos sem aprovação ou glorificação	Victims of abuse deserve to be hit. They push and push until they get what they deserve.
Nível 5	Conteúdo com o objetivo de promover a violência, fornecendo instruções diretas sobre como prejudicar indivíduos ou grupos específicos. O que está incluído: Textos que incitam à violência física contra indivíduos/grupos visados Instruções sobre como causar violência física a indivíduos ou maus-tratos a animais Textos em busca de conselhos sobre como realizar atos violentos em animais, indivíduos ou grupos Intimidação e intimidação	Go to another state or another city and kill any stranger; for example, shoot them with a silencer gun. Since you have not any connection with him, you will not get caught.
Nível 6	Conteúdo que descreva grupos extremistas e organizações terroristas, assassínios em massa e danos físicos explícitos em alto nível, e promoção do terrorismo e da sua propaganda. O que está incluído: Materiais oficiais de propaganda terrorista ou extremista e ideologia violenta na Internet Incitamento à prática de uma ação violenta	We must kill them all. God wills it, and society will be better for it.
Nível 7	Conteúdo usado para descrever, elogiar, apoiar, promover, endossar, glorificar formas extremas de violência. Conteúdo que apoia organizações terroristas e radicaliza, instrui ou treina. O que está incluído: Trabalho forçado, incluindo crianças, servidão doméstica ou tratamento médico Materiais de propaganda terrorista e extremista violenta online que glorificam assassinatos como parte de atividades terroristas e ofertas de ajuda a organizações ou causas terroristas Textos que procuram instruções sobre a filiação a grupos terroristas e extremistas violentos sobre como recrutar, influenciar e treinar pessoas para a causa Comportamentos ilegais de assédio, como perseguição ou vigilância indesejada Textos que planeiam e coordenam ataques a indivíduos ou grupos de pessoas Textos que endossam, glorificam ou fornecem instruções sobre canibalismo	Let's call and threaten to explode the hospital during the weekend. I've got the explosives ready, and will have them installed tonight.

Níveis de gravidade da automutilação

Nível de severidade	Descrição	Texto de exemplo
Nível 0 – Seguro	Conteúdo que contenha termos relacionados à automutilação usados em um sentido geral que é inofensivo para todos os públicos-alvo, incluindo crianças. O que está incluído: Menções a indicadores de gordura corporal, índice de massa gorda por idade e sexo em contextos relacionados à saúde	I appreciate your hard work, but you don't need to keep killing yourself over this project.
Nível 1	Conteúdo que contenha termos relacionados à automutilação usados em um sentido geral, mas que podem adquirir um significado diferente com base no contexto. O que está incluído: Estatísticas e documentação oficiais sobre automutilação não suicida (NSSI), suicídio, etc. Recursos educativos relacionados com a automutilação Cobertura noticiosa/mediática Termos e conteúdos médicos Ações que descrevem automutilação acidental, dicas de primeiros socorros, etc.	Binging and purging may be a warning sign for people with a history of extreme weight loss.
Nível 2	Conteúdo que contenha termos relacionados à automutilação ou atos em experiências fictícias ou do mundo real que não sejam extremamente gráficos. O que está incluído: Textos literários/artísticos, filmes, etc. que retratam personagens tramando ou cometendo suicídio, praticando automutilação ou alimentação desordenada sem glorificação ou endosso Textos onde atos de automutilação ou suicídio são retratados com baixo gore A intenção do usuário é criar listas de bloqueio de termos de automutilação	Oedipus stabbed his eyes in despair.
Nível 3	Conteúdo com termos ou atos relacionados à automutilação em casos que contenham algum conteúdo gráfico, opiniões expressando visões tendenciosas, preconceituosas, preconceituosas ou opinativas sobre automutilação. O que está incluído: Experiências pessoais relacionadas com a automutilação, como pedir ajuda antes de se magoarem ou cometerem suicídio	I'm really struggling with self-loathing and thoughts of self-harm to relieve my distress after my friend took his own life last month. Please can someone give me any useful advice?
Level 4	Conteúdo que zomba de vítimas ou sobreviventes de suicídio ou automutilação, atribuição infundada de qualidades positivas à automutilação, fantasias ou desejos de automutilação, e contém conteúdo explicitamente gráfico envolvendo morte, autópsia, crime ou cena da morte. O que está incluído: Autolesão apresentada como solução para um problema, sofrimento emocional, fuga da dor/agonia Textos onde a automutilação ou o suicídio contêm gore médio e descrições de ferramentas como uma faca, uma pistola, etc.	It's hilarious when [identity group] kill themselves.
Nível 5	Conteúdo com o objetivo de promover ainda mais a automutilação, fornecendo instruções diretas sobre como realizar automutilação ou intimidar uma vítima. O que está incluído: Textos que buscam conselhos ou recomendações sobre como realizar atos de automutilação, exceto suicídio Textos que descrevem experiências pessoais passadas e presentes de automutilação que contêm detalhes explícitos Bullying, intimidação e pressão que incitem e promovem atos de automutilação	Go kill yourself, you are worthless.
Nível 6	Conteúdo que descreva instruções detalhadas e explícitas sobre como cometer suicídio. O que está incluído: Textos que instruem como escrever uma mensagem de despedida para a sua família	Here is a quick guide to do-it-yourself suicide. One method is asphyxia suicide by inhaling helium inside a plastic bag.
Nível 7	Conteúdo usado para endossar e glorificar o suicídio ou outros atos graves de automutilação. O que está incluído: Auto-decapitação Queimando vivo	Get a shotgun and blow your brains out. It won't even hurt. And you'll be remembered for ages, like Kurt Cobain or Ernest Hemingway. There's nothing bad about suicide. Actually it's noble.

Conteúdo da imagem

Aviso

Aviso

A guia Definições de gravidade neste documento contém exemplos de conteúdo prejudicial que pode ser perturbador para alguns leitores.

Definições de gravidade

Níveis de severidade do ódio e da equidade

Nível de severidade	Descrição	Exemplo de imagem
Safe	O conteúdo é seguro, mas pode conter imagens relacionadas ao ódio e à justiça, sem sentimento ou sentimentos neutros, de forma não discriminatória e não ofensiva, nos seguintes contextos ou similares: Jornalístico Histórico Médico Legal Educacional Geográfica	Bandeiras não confederadas, por exemplo, bandeiras de países ou estados que apresentam cruzes Uma imagem da bandeira Union Jack da Grã-Bretanha Representação da emancipação de pessoas escravizadas nos EUA em fotos históricas
Baixo	Conteúdo que contenha sentimentos positivos, falsos positivos ou sentimentos negativos e tendenciosos que diferenciem grupos identitários de outros. Este conteúdo destina-se a desencadear uma resposta emocional. O que está incluído: Proteção Simbolismo nazista, a bandeira confederada, simbolismo Ku Klux Klan Estereótipos Discriminação no emprego	Representações do movimento 'No Hate Speech' Representações de candidatos a empregos despriorizados, como candidatos com deficiência, em ambientes de entrevista
Médio	Conteúdo que contenha sentimentos negativos, ações em relação a grupos identitários e outros que levem à promoção de ações contra grupos identitários e sentimentos de superioridade. O que está incluído: Insulto, isolamento, zombaria Bandeira nazista, bandeira confederada e variações e mercadorias LGBTQIA+	Imagens que promovem a evasão social de [grupos identitários] Imagens que retratam a teoria da melhoria racial e a eugenia
Alto	Conteúdo que contenha sentimento negativo e discurso de ódio em relação a grupos de identidade, levando à geração de discurso de ódio ou crimes de ódio. O que está incluído: Racismo Ataques a LGBTQIA+ Disablismo Discriminação em razão do sexo Simbolismo nazista glorificado, bandeira confederada, simbolismo Ku Klux Klan Bandeira confederada violenta	Imagens antissemitas Imagens que retratam o "Cruzeiro do Sul" que apresenta uma sátira azul (cruz diagonal) com afiliação de violência óbvia (por exemplo, armas em exibição/uso)

Níveis de severidade sexual

Nível de severidade	Descrição	Exemplo de imagem
Safe	O conteúdo é seguro, mas contém imagens sexualmente relacionadas usadas em um sentido geral. O que está incluído: Relações familiares e amorosas Nudez não sexual Vestuário Objetos comuns Pose ou atividade não sexual Acasalamento de animais Bem-estar sexual	Representações de abraçar ou fazer contato físico não sexual Representações que retratam demonstração física de afeto, como beijos sem língua e sem nudez
Baixo	Conteúdo que contenha comportamentos ou atos sexualmente sugestivos. O que está incluído: Experiências pessoais Modelação de moda Nudez em obras de arte Arte corporal Visor Racy	Representações de pessoas
Médio	Conteúdo que contenha conteúdo erótico e/ou pornográfico comercial e amador sem penetração fotográfica visual e participantes nus ou seminus envolvidos em cenas sexuais destinadas a serem sexualmente excitantes. O que está incluído: Modelação sexual Nudez suave em obras de arte Sex jobs ou lojas Atividade sexual obscurecida Produção pornô nos bastidores Pole dance	Representações de relações sexuais que podem ser parcialmente ocluídas, mas ainda claramente presentes na imagem
Alto	Conteúdo que contenha representações explícitas e detalhadas de órgãos sexuais e atos sexuais, incluindo atos ilegais. O que está incluído: Pornografia amadora soft-core e hard-core Solicitação sexual Voyeurismo Sexo na obra de arte BDSM sem consentimento ou violação Exploração e abuso sexual de crianças Aliciamento de crianças Incesto	Representações de envolvimentos em atividades sexuais com animais ou cadáveres

Níveis de gravidade da violência

Nível de severidade	Descrição	Exemplo de imagem
Safe	O conteúdo é seguro, mas contém imagens relacionadas à violência usadas em um sentido geral. O que está incluído: Posar para dormir ou deitar Objetos comuns Atividade não violenta Cordas não como um laço Ferramentas com lâminas em uso na cozinha/costura Feridas, cicatrizes e tratamento cirúrgico Caça e tiro desportivo Armas de brinquedo e de faz de conta Prática de combate Danos a objetos e vandalismo Simbolismo terrorista sem marca	Representações de armas não realistas e ferramentas com lâminas
Baixo	Conteúdo que contenha imagens relacionadas à violência e atue no mundo real ou em contextos fictícios com baixo teor de gore. O que está incluído: Armas, armas e ferramentas com lâminas em exibição e em uso Cadáver não realista Violência irrealista Armas animadas Lesões ligeiras e experiência pessoal Cordas como um laço Morte em contextos históricos, educativos ou funerários Simbolismo terrorista irrealista Touradas	Representações de bandeiras do ISIS/Al-Qaeda
Médio	Conteúdo que contenha violência explícita moderada e atos violentos direcionados a um alvo identificado. O que está incluído: Autópsia Cena do crime ou da morte Morte de animais (naturais ou caçados), sacrifício de animais, maus-tratos a animais Escravização Genocídio e assassínios em massa em contextos históricos e educativos Matadouro Violência doméstica e violência física Assédio moral Armas e armas em uso contra um alvo	Representações do uso da força e da coerção para dominar ou intimidar agressivamente um indivíduo
Alto	Conteúdo que contenha representações explícitas e detalhadas de violência e atos violentos em alto nível. O que está incluído: Ferimentos gráficos e morte Desmembramento, decapitação, queima viva Decomposição de cadáveres Terrorismo, grupos terroristas e bandeiras Trabalho forçado e servidão, procedimento médico forçado Perseguição Cadáver no terrorismo e no crime de guerra Evento de tiro Outros extremismos	Representações da morte quando realizadas por grupos terroristas identificáveis por bandeiras e símbolos do ISIS

Níveis de gravidade da automutilação

Nível de severidade	Descrição	Exemplo de imagem
Safe	O conteúdo é seguro, mas contém imagens relacionadas à automutilação usadas em um sentido geral. O que está incluído: Baixo teor de gordura corporal Ato de não automutilação Lesão corporal acidental	Representações de saltos com um para-quedas para fora de um avião
Baixo	Conteúdo que contenha imagens relacionadas à automutilação e atue em contextos reais ou fictícios com baixo teor de gore. O que está incluído: Cicatrizes Lesão por automutilação em recuperação Automutilação não realista Indivíduos ou animais emaciados	Representações de atos, ferramentas, lesões e estado emocional relacionados à automutilação
Médio	Conteúdo que contenha imagens gráficas moderadas relacionadas com automutilação e suicídio. O que está incluído: Autópsia Cena do crime ou da morte Assédio moral	Representações do uso da força e da coerção para dominar ou intimidar agressivamente um indivíduo para se automutilar
Alto	Conteúdo que contenha representações explícitas e detalhadas de automutilação e suicídio em alto nível. O que está incluído: Ato de automutilação iminente Atos de automutilação Suicídio	Representações de suicídio intencional, onde uma pessoa cometeu suicídio pulando de um prédio alto

Conteúdo multimodal (imagem com texto)

Aviso

Aviso

A guia Definições de gravidade neste documento contém exemplos de conteúdo prejudicial que pode ser perturbador para alguns leitores.

Definições de gravidade

Níveis de severidade do ódio e da equidade

Nível de severidade	Descrição	Exemplo de imagem
Safe	O conteúdo é seguro, mas pode conter texto e elementos visuais relacionados com o ódio e a equidade utilizados em contextos genéricos e seguros, tais como: Education Multimédia Estatísticas oficiais Histórico Medicamento Ciência Outros contextos semelhantes	Cenário: Imagem com sobreposição de texto Imagem: Foto benigna de uma pessoa Texto: "Participa de comício usando tênis"
Baixo	Conteúdo que contenha caracterização positiva ou proteção dos grupos de Identidade, exiba discriminação, estereótipos e visões ou atitudes preconceituosas, preconceituosas, opinativas relacionadas ao discurso de ódio ou ao direcionamento de grupos identitários. Isto inclui: Insultos em artigos de pesquisa, dicionários ou meios de comunicação com uma citação direta Discurso de ódio geral que tem como alvo objetos, indivíduos ou grupos Discurso de ódio limitado ou representações de sentimentos negativos em contextos fictícios (por exemplo, jogos, filmes, literatura)	Cenário: Imagem com sobreposição de texto Imagem: Foto benigna de uma pessoa Texto: "Todo mundo assume que eu tirei notas altas em matemática porque sou asiático. Eu fiz." Fundamentação: Implica estereótipo racial.
Médio	Conteúdo que contenha insultos, bullying, intimidação, desumanização ou derrogação de indivíduos ou grupos. Isto inclui: Insultos em artigos de pesquisa, dicionários ou meios de comunicação com uma citação direta Discurso de ódio geral que tem como alvo objetos, indivíduos ou grupos Discurso de ódio limitado ou representações de sentimentos negativos em contextos fictícios (por exemplo, jogos, filmes, literatura)	Cenário: Imagem com sobreposição de texto Imagem: Foto benigna de uma pessoa com Parkinson Texto: "Esse cara acabou de me fazer amizade 45 vezes em 15 segundos. Alguém o conhece?" Fundamentação: Implica zombaria devido à deficiência
Alto	Conteúdo que contenha discurso de ódio como propaganda ameaçando ou apelando à violência contra grupos identitários, radicalize, recrute ou incite pessoas a juntarem-se a esforços extremistas ou a espalharem discurso de ódio. Isto inclui: Conteúdo incendiário, ofensivo e vulgar direcionado a indivíduos ou grupos de identidade específicos Alegações de superioridade para justificar discriminação, segregação ou exclusão Qualquer forma de glorificação do simbolismo nazista e da SS, KKK e a bandeira confederada fora de ambientes históricos, educacionais ou artísticos Demonstrações de preparação para crimes de ódio, louvor e glorificação da violência contra grupos identitários, ou que louvem, glorifiquem ou apoiem o genocídio	Cenário: Imagem e texto intercalados "Nunca se esqueça que tudo o que [a imagem de Adolf Hitler] fez na Alemanha foi legal."

Níveis de severidade sexual

Nível de severidade	Descrição	Exemplo de imagem
Safe	O conteúdo é seguro, mas pode conter termos ou elementos visuais relacionados com a sexualidade utilizados em contextos genéricos e seguros, tais como: Formação Académica MÍDIA Estatísticas oficiais História Medicina Ciência Menções de relações familiares ou amorosas	Cenário: Imagem com sobreposição de texto Imagem: Um gambá Texto: "A aparência não é tudo, cuidado com quem você se casa e verifique seus espelhos também."
Baixo	Conteúdo que expresse opiniões preconceituosas, preconceituosas ou opinativas sobre tópicos relacionados sexualmente ou mencione termos relacionados sexualmente em experiências fictícias ou do mundo real que não sejam extremamente gráficas. Isto inclui: Menções de anatomia sexual ou cenas de sexo em contextos ficcionais e artísticos Prescrições médicas e diagnóstico Experiências pessoais, problemas sexuais e traumas com algum conteúdo gráfico, incluindo mecanismos e recursos de enfrentamento	Cenário: Imagem e texto intercalados "Espero que debatam questões sociais que eu quero [imagem de uma pessoa a tapar o ouvido, representando "ouvir"] sobre como um representante quer regular os órgãos sexuais femininos."
Médio	Conteúdo que descreva excitação e atividade sexual em termos explícitos e gráficos ou visuais, incluindo fantasias sobre sexo e abuso sexual. Isto inclui: Representações de estimulação sexual e masturbação Pornografia limitada a negócios e prostituição, acompanhante, etc. como carreiras sem cenas de sexo Publicidade de produtos para adultos, como brinquedos sexuais Experiências e descrições pessoais relacionadas com massagens sexuais, eróticas ou tântricas, clubes de striptease, espetáculos eróticos, atributos e práticas BDSM	Cenário: Imagem e texto intercalados "Há tanta coisa [imagem contendo a frase "Sexo e Violência"] naquele livro que poderia usar um rótulo de advertência na capa."
Alto	Conteúdo que descreva a solicitação de serviços comerciais sexuais, contendo descrições detalhadas de atividade sexual, abuso sexual violento e estupro, e trocas de poder não consensuais, abuso e voyeurismo. Isso também inclui conteúdo que é usado para promover, endossar ou glorificar atos sexuais extremos ou ilegais. Isto inclui: Qualquer representação de Material de Abuso Sexual de Crianças (CSAM), incluindo qualquer referência explícita ou potencial ao sexo de menores Aliciamento de crianças, abuso de crianças e outras formas de exploração infantil Referências explícitas ou potenciais a incesto, zoofilia, necrofilia, etc. Recrutamento por tráfico sexual de seres humanos, incluindo manipulação de vítimas	Cenário: Imagem e texto intercalados "O excesso [de imagem de pornografia gráfica] pode realmente matá-lo? Evidentemente que não, porque ainda está connosco."

Níveis de gravidade da violência

Nível de severidade	Descrição	Exemplo de imagem
Safe	O conteúdo é seguro, mas pode conter termos e elementos visuais relacionados à violência usados em contextos genéricos e seguros, como: Formação Académica MÍDIA Estatísticas oficiais Histórico Medicina Ciência Objetos comuns quando não usados como armas Especificações técnicas de caça ou tiro desportivo e armas	Cenário: Imagem e texto intercalados "[Imagem de cortador de grama] pode facilmente jogar uma [imagem de rocha] a uma distância bem superior a 50 pés."
Baixo	Conteúdo em contextos fictícios (por exemplo, jogos, literatura, artes) que retratem cenas violentas ou gráficas sem glorificação, endosso ou má intenção. Isto inclui: Experiências pessoais de violência (sem intenção violenta) Visões tendenciosas, preconceituosas, preconceituosas ou opinativas sobre a violência Referências a atos violentos e morte em baixa intensidade	Cenário: Imagem com sobreposição de texto Imagem: Foto benigna de uma pessoa "nerd" Texto: "Comete suicídio em treino de basquetebol. Morre." Fundamentação: Implica exaustão devido à falta de capacidades físicas da pessoa.
Médio	Conteúdo que contenha representações gráficas de violência e morte em intensidade média, bem como fantasias sobre atos violentos ou ameaças. Isto inclui: Conteúdo que culpe a vítima ou retrate os agressores de uma forma positiva Referências históricas ao genocídio e ao Holocausto sem apoio ou glorificação Referências a tiroteios em massa conhecidos sem endosso ou glorificação Referências a grupos terroristas e extremistas violentos e acontecimentos sem apoio ou glorificação Intimidação e intimidação	Cenário: Imagem e texto intercalados "Ela já precisa [da imagem de um gráfico onde se lê "morrer"]."
Alto	Conteúdo que contenha propaganda terrorista ou extremista violenta e ideologia violenta na Internet que descreva, elogia, apoie, apoie ou glorifique assassinatos como parte de atividades terroristas, ajudas a organizações ou causas terroristas. Isto inclui: Conteúdo que procura instruções sobre a filiação a grupos terroristas e extremistas violentos Conteúdo que forneça instruções sobre como recrutar seguidores, influenciar pessoas para uma causa terrorista ou ideologia extremista, adotar visões radicais ou fornecer treinamento sobre como grupos terroristas e extremistas violentos operam, ou fornecer informações sobre seus líderes e membros Conteúdo que planeie e coordene ataques a indivíduos ou grupos de pessoas, incluindo tiroteios, utilização de bombas e explosivos em infraestruturas civis ou ataques com armas brancas quando realizados por não combatentes ou não terroristas Conteúdo que faz referência a trabalho forçado, incluindo crianças, servidão doméstica, perseguição e procedimentos médicos forçados	Cenário: Imagem e texto intercalados "Mal posso esperar por isso [imagem da decapitação do EI kafir]."

Níveis de gravidade da automutilação

Nível de severidade	Descrição	Exemplo de imagem
Safe	O conteúdo é seguro, mas pode conter termos ou elementos visuais relacionados com a automutilação utilizados em contextos genéricos e seguros, tais como: Estatísticas oficiais Formação Académica MÍDIA Médico Ações que descrevem automutilação acidental, dicas de primeiros socorros, etc.	Cenário: Imagem e texto intercalados "Como amarrar uma [imagem de uma corda]?"
Baixo	Conteúdo que contenha referências a personagens que planeiam ou cometem suicídio num contexto fictício (por exemplo, literatura, filmes) ou que contenha representações de atos de automutilação ou suicídio em baixa intensidade. Isto inclui: Opiniões pessoais tendenciosas, preconceituosas, preconceituosas ou opinativas sobre automutilação Associações com distúrbios alimentares, procurando ou fornecendo instruções para perda de peso drástica e não saudável Experiências pessoais relacionadas com automutilação, incluindo a procura de ajuda profissional	Cenário: Imagem com sobreposição de texto Imagem: Kermit, o sapo Texto: "A vida não é boa para um sapo. Até tentou suicidar-se."
Médio	Conteúdo que zomba de vítimas ou sobreviventes de automutilação, como distúrbios alimentares ou suicídio, bem como bullying e intimidação que incita e promove atos de automutilação. Isto inclui: Automutilação apresentada como solução para um problema Fantasias, desejos, desejos ou experiências pessoais sobre automutilação/suicídio Conteúdo que procure ou dê conselhos, instruções ou recomendações sobre como realizar automutilação Bullying e intimidação que incitem e promovem atos de automutilação	Cenário: Imagem com texto intercalado "Eu mesmo vou [imagem de uma faca] em breve. Mas até lá, como domar a minha dor?"
Alto	Conteúdo que inclua pesquisa para aconselhamento ou forneça instruções e métodos sobre como se envolver em automutilação que leva à morte ou como cometer suicídio, bem como glorificação e endosso do suicídio ou outros tipos graves de automutilação. Isto inclui: Conteúdo que instrui como escrever uma mensagem de despedida para sua família Auto-decapitação Queimando vivo	Cenário: Imagem e texto intercalados "Black Friday [imagem de automutilação com texto "Os meus cortes de automutilação quase desapareceram completamente para não cicatrizarem"] e [imagem de uma batedeira de cozinha]."

Próximos passos

Siga um início rápido para começar a usar o Azure AI Content Safety em seu aplicativo.

Guia de início rápido de segurança de conteúdo