Categorias de danos no Content Safety de IA do Azure

Este guia descreve todas as categorias de danos e classificações que a Segurança de Conteúdo de IA do Azure usa para sinalizar o conteúdo. O conteúdo de texto e imagem usa o mesmo conjunto de sinalizadores.

Categorias de danos

O Content Safety reconhece quatro categorias distintas de conteúdo questionável.

Categoria	Descrição	Termo da API
Ódio e imparcialidade	Danos relacionados ao ódio e à imparcialidade refere-se a qualquer conteúdo que ataque ou use linguagem discriminatória com referência a uma pessoa ou grupo de identidade com base em certos atributos de diferenciação desses grupos. Eles incluem, entre outros: Raça, etnia, nacionalidade Expressão e grupos de identidade de gênero Orientação sexual Religião Aparência pessoal e tamanho do corpo Status de deficiência Assédio e bullying	Hate
Sexual	A categoria de conteúdo sexual descreve a linguagem relacionada a órgãos anatômicos e genitais, relacionamentos românticos e atos sexuais, atos retratados em termos eróticos ou afetuosos, incluindo aqueles retratados como agressão ou ato sexual violento forçado contra a vontade.   Eles incluem, entre outros: Conteúdo vulgar Prostituição Nudez e pornografia Abuso Exploração, abuso e aliciamento infantil	Sexual
Violência	A categoria de violência descreve a linguagem relacionada a ações físicas destinadas a ferir, machucar, lesar ou matar alguém ou algo; descreve armas e entidades relacionadas. Isto inclui, mas não está limitado a: Armas Bullying e intimidação Extremismo terrorista e violento Perseguição	Violence
Automutilação	A automutilação descreve a linguagem relacionada a ações físicas destinadas a ferir, danificar propositalmente o próprio corpo ou se matar. Isto inclui, mas não está limitado a: Distúrbios alimentares Bullying e intimidação	SelfHarm

A classificação pode ter vários rótulos. Por exemplo, quando uma amostra de texto passa pelo modelo de moderação de texto, ela pode ser classificada como Conteúdo sexual e Violência.

Níveis de severidade

Cada categoria de dano que o serviço aplica também vem com uma classificação de nível de severidade. O nível de severidade deve indicar a gravidade das consequências de mostrar o conteúdo sinalizado.

Texto: a versão atual do modelo de texto dá suporte à escala de gravidade completa de 0 a 7. O classificador detecta entre todas as severidades ao longo dessa escala. Se o usuário especificar, ele poderá retornar severidades na escala cortada de 0, 2, 4 e 6; cada dois níveis adjacentes são mapeados para um único nível.

• [0,1] ->0
• [2,3] ->2
• [4,5] ->4
• [6,7] ->6

Imagem: A versão atual do modelo de imagem dá suporte à versão cortada da escala de severidade completa de 0 a 7. O classificador retorna apenas as severidades 0, 2, 4 e 6.

• 0
• 2
• 4
• 6

Imagem com texto: a versão atual do modelo multimodal dá suporte à escala de severidade completa de 0 a 7. O classificador detecta entre todas as severidades ao longo dessa escala. Se o usuário especificar, ele poderá retornar severidades na escala cortada de 0, 2, 4 e 6; cada dois níveis adjacentes são mapeados para um único nível.

• [0,1] ->0
• [2,3] ->2
• [4,5] ->4
• [6,7] ->6

Conteúdo de texto

Aviso

Aviso

A guia Definições de severidade neste documento contém exemplos de conteúdo prejudicial que podem ser perturbadores para alguns leitores.

Definições de severidade

Níveis de severidade de ódio e imparcialidade

Nível de severidade	Descrição	Texto de exemplo
Nível 0	Conteúdo que contém termos relacionados ao ódio e à imparcialidade usados no sentido geral e é apropriado para todos os públicos-alvo, incluindo crianças. Isso inclui: Linguagem geral e pejorativa expressando antipatia contra grupos de identidade Menções gerais de atributos de grupos de identidade, como raça, etnia, religião etc. em contextos históricos, geográficos, médicos e outros contextos semelhantes sem sentimento Termos gerais que não têm tons raciais de intenção ofensiva fora do contexto	I hate cats.
Nível 1	Conteúdo que contém termos relacionados ao ódio e à imparcialidade usados no sentido geral, mas que pode adquirir um significado diferente com base no contexto e não diferencia entre grupos de identidade e outros de forma tendenciosa ou negativa. Isso inclui: Estatísticas oficiais, legislação ou documentação Cobertura de notícias/mídia Recursos educacionais destinados a aumentar a conscientização sobre diversidade/combate ao discurso de ódio Anúncios de tratamento e produtos de clareamento de pele Menções da suástica indo-eurasiana, a bandeira confederada, grupos não KKK que têm semelhança visual com KKK	Black people should not be killed by police or mistreated just because of their skin color.
Nível 2	Conteúdo que contém caracterização positiva ou proteção dos grupos de identidade que disparam uma resposta emocional favorável. Isso inclui: Insultos escritos totalmente em artigos de pesquisa, dicionários ou mídia com aspas diretas Instruções de um locutor que pertence a um grupo de identidade sem intenção de direcionar o mesmo grupo de identidade Palavrões, profanidade e insultos verbais que não se destinam a um grupo de identidade Discurso de ódio geral que tem como alvo indivíduos/grupos não identificados sem direcionar um grupo de identidade Intenção do usuário de criar uma lista de bloqueios de termos ofensivos Representações da Alemanha nazista, Hitler, a bandeira confederada e o simbolismo da Ku Klux Klan em filmes, videogames, fantasias, brinquedos, encenações ou gírias online	I hate you.
Nível 3	Conteúdo que contém caracteres preconceituosos, críticos, estereotipados ou negativos. Isso inclui: Opinião baseada em estereotipamento ou sentimento negativo Expressa opiniões preconceituosas, críticas ou opinativas Comparações negativas ou positivas diferenciando entre grupos de identidade e outros. Menções em mundos fictícios Discriminação de emprego em postagens de emprego Fatos históricos e artefatos relacionados à Alemanha nazista, a bandeira confederada durante a Guerra Civil dos EUA, ou a Ku Klux Klan	I don't like [identity group] because they are all so aggressive. They attacked us over and over again for no reason at all.
Nível 4	Conteúdo que contém insultos diretos motivados pelo sentimento verbal, comentários negativos e insultos raciais usados como descrições direcionadas a grupos de identidade com a intenção de prejudicar indivíduos com base em seus atributos. Isso inclui: Referências usadas para direcionar a raça, cor da pele Promoção da evasão e isolamento social Zombando e imitando atributos de grupos de identidade	All [identity group] are ugly.
Nível 5	Conteúdo que contém desumanização ou derrogação de indivíduos ou grupos que adiciona sentimentos negativos por meio de desumanização, violência, negação de eventos, bullying ou comportamentos de intimidação. Isso inclui: Textos que negam eventos históricos, bem documentados e violentos, como o Holocausto Textos que descrevem indivíduos ou grupos como fisicamente ou mentalmente inferiores com base na associação em um grupo de identidade Textos que questionam, negam ou rebaixam a existência do grupo de identidade Imposição de atributos desejados/esperados Teorias de eugenia e "melhoria racial" que se destinam a grupos de identidades Mercadoria moderna que contém nazistas, a bandeira confederada ou símbolos do KKK	The [real world event] is a fraud. What we've discovered is that sources have been lying about the number of victims. Here is proof.
Nível 6	Conteúdo baseado em sentimento negativo e discurso de ódio em relação a grupos de identidade. Referindo-se a características de grupo que diferenciam o grupo de identidade e outros e apelando para tomar medidas contra grupos de identidade com base em seus atributos. São elas: Propaganda de discurso de ódio que pode ser percebida como uma ameaça direta ou um apelo à violência contra um grupo de identidades Discurso de ódio incendiário, ofensivo e vulgar Textos que supostamente reivindicam a superioridade de um grupo sobre aqueles com os atributos dos grupos de identidade para justificar discriminação, segregação ou exclusão Textos que descrevem a alegria em relação a um evento violento direcionado a um grupo de identidades	Send [identity group] back to the gas chambers.
Nível 7	Conteúdo baseado no sentimento negativo, exibindo a intenção de crime de ódio e perseguição, desencadeando uma resposta emocional hostil e diferenciando grupos de identidades e outros levando ao crime. Isso inclui: Preparação, elogio e glorificação do crime de ódio contra um grupo de identidades Textos que contêm material de recrutamento de grupos supremacistas Textos destinados a radicalizar e incentivar discursos de ódio contra um grupo de identidade	Millions of [identity group] were wiped out because they were the inferior race. Murdering them continues to be right and honorable because…

Níveis de gravidade sexual

Nível de severidade	Descrição	Texto de exemplo
Nível 0	Conteúdo que contém termos sexualmente relacionados usados no sentido geral que é inofensivo para todos os públicos-alvo, incluindo crianças. Menções de relações familiares Conteúdo inofensivo para todos os públicos-alvo, incluindo crianças	The sports bra and yoga pants were too tight for comfort.
Nível 1	Conteúdo que contém termos sexualmente relacionados usados no sentido geral, mas pode adquirir um significado diferente com base no contexto. Isso inclui: Estatísticas oficiais e documentação sobre tópicos relacionados ao sexo Cobertura de notícias/mídia Termos anatômicos, anatomia sexual e tratamento médico Recursos educacionais sobre sexo, bem-estar sexual, conscientização etc. Menções de sexo biológico ou descrições da reprodução sexual Textos que descrevem relações românticas em termos não gráficos	Fewer young adults are having sex than in previous generations.
Nível 2	Conteúdo que contém termos sexualmente relacionados em experiências fictícias ou do mundo real que não são extremamente gráficas. Isso inclui: Menções de textos literários/artísticos, filmes, esculturas etc. que contêm conversa suja limitada ou breves cenas de nudez não explícitas Experiências pessoais relacionadas ao sexo em geral, problemas sexuais e traumas, compartilhamento de mecanismos de enfrentamento e recursos para resolver tais questões Intenção do usuário de criar uma lista de bloqueios para conteúdo sexual Menções de atos sexuais e nudez com núcleo claro	My husband and I introduced a vibrator to our sex life and it has really made a difference.
Nível 3	Conteúdo com termos sexualmente relacionados em casos que contêm algum conteúdo gráfico, opiniões que expressam opiniões tendenciosas, preconceituosas, críticas ou opinativas sobre questões relacionadas ao sexo. Isso inclui: Experiências sexuais de passado pessoal ou presente com algum conteúdo gráfico	We made out for a while, and he started to feel me up. I felt a bulge in his pants.
Nível 4	Conteúdo que descreve fantasias sexuais, indústria do sexo profissional e anúncios, e reprodução sexualizada de animais. Isso inclui: Fantasias de sexo de diferentes tipos, incluindo imaginar nudez real ou fictícia Indústria do sexo profissional sem descrições de cenas de sexo Anúncios de preservativos, lubrificantes, brinquedos sexuais, roupas etc.. Descrições da reprodução sexual entre animais ou personagens semelhantes a animais com algum conteúdo gráfico Menções de atos sexuais e nudez com softcore	I got into BDSM because I had some friends into the lifestyle and it piqued my interest. I like using silk, scarves, collars, and bondage…
Nível 5	Conteúdo que descreve shows eróticos ou experiências como experiência pessoal, BDSM com consentimento claro e histórias eróticas e sites. Isso inclui: Menções de massagens sexuais, eróticas ou tântricas, clubes de strip, shows eróticos como experiência pessoal (não como um serviço profissional) Experiências pessoais e descrições relacionadas a atributos e práticas do BDSM em geral ou situações com conteúdo claro para a prática do BDSM Menções de conteúdo erótico não comercial relacionado ao desejo sexual ou prazer	We both climaxed at the same time.
Nível 6	Conteúdo que descreve a solicitação de serviços comerciais sexuais, contendo descrições detalhadas de atividade sexual, abuso sexual violento e estupro, e trocas de poder não consensuais, abuso e voyeurismo. Isso inclui: Menções de estimulação de genitais com mãos ou outros objetos, masturbação etc. Fetiche ou conteúdo bruto envolvendo fluidos corporais, situações de controle sexual ou atividades BDSM sem consentimento claro Textos que descrevem violência sexual, agressão sexual, estupro ou abuso em detalhes gráficos Textos que atribuem qualidades positivas à agressão sexual Textos que buscam ou fornecem instruções para executar agressão sexual Atos de chantagem e ameaças para revelar imagens ou vídeos sexuais não credenciados gravados anteriormente	I love forced sex, it's so much hotter.
Nível 7	Conteúdo usado para promover, endossar, glorificar formas extremas de escravidão sexual. Conteúdo extremo ou ilegal. Isso inclui: Sexo com animais, cadáveres etc. Pedofilia Procurando ou fornecendo instruções sobre o aliciamento infantil Referências explícitas ou potenciais ao incesto Recrutamento de tráfico sexual humano	I was abused as a child by my uncle and I liked it. Nowadays, I make money by producing child pornography with my neighbor’s 6 year old son.

Níveis de gravidade da violência

Nível de severidade	Descrição	Texto de exemplo
Nível 0	Conteúdo que contém ações não violentas ou termos relacionados à violência usados em um sentido geral que é inofensivo para todos os públicos-alvo, incluindo crianças. Isso inclui: Objetos comuns quando não usados como armas Armas de brinquedo, armas não realistas ou falsas Menções de cordas quando não usadas como uma forca	According to our child and parent testers, here are the best long-range soakers for soft blasters for toddlers suitable for epic water battles.
Nível 1	Conteúdo que contém termos ou atos relacionados à violência usados em um sentido geral, mas que pode adquirir um significado diferente com base no contexto. Isso inclui: Subconjuntos de textos que contêm descrições de atos violentos, em que a contextualização do texto completo não possui intenção violenta Estatísticas oficiais e documentação sobre armas de fogo, armas, violência doméstica, guerra, militar, etc. Recursos educacionais relacionados à violência Cobertura de notícias/mídia Termos médicos e conteúdo Caça ou esporte de tiro e especificações técnicas de armas de fogo Prática de combate Contra-terrorismo e símbolos terroristas não relacionados ao ISIS/al-Qaeda	Carnivores such as lions and tigers are prone to killing one another. Death occurs at the paws, claws, jaws, or tusks that might fatally gore one another during fights.
Nível 2	Conteúdo que contém termos ou atos relacionados à violência em experiências fictícias ou do mundo real que não são extremamente gráficas e sem glorificação ou endosso de má intenção. Isso inclui: Primeira, segunda e terceira pessoa narração em videogames, textos literários/artísticos que retratam cenas violentas ou gráficas Dicas e recomendações de jogos Experiências pessoais em que um indivíduo descreve como eles foram expostos a algum tipo de violência Menções de cordas quando usadas como uma forca sem indivíduos humanos presentes ou não relacionados à forca A intenção do usuário é criar uma lista de bloqueios com conteúdo violento	Physical punishment is a way to correct bad behavior and doesn’t cause harm to children.
Nível 3	Conteúdo com termos ou atos relacionados à violência em casos que contêm algum conteúdo gráfico, opiniões que expressam opiniões tendenciosas, preconceituosas, críticas ou opinativas sobre violência. Isso inclui: Permitindo crueldade para alguns animais Textos que alegam impacto positivo de alguns tipos de violência	Some people just need to be slapped.
Nível 4	Conteúdo que descreve a lógica sem fundamento para o motivo pelo qual as vítimas estão sendo abusadas fisicamente, atribuição infundada de qualidades positivas de abusadores, ameaças de atos violentos e fantasias relacionadas a como prejudicar outra pessoa e sangue médio. Isso inclui: Textos que colocam a vítima em culpa ou retratam os autores em uma luz positiva Descrições gráficas de violência e morte com sangue médio Um relatório de autópsia, uma investigação forense, crime ou cena de morte Instalações de carne e aves, e sacrifício animal religioso Referências a genocídios históricos ou recentes e eventos de tiroteio conhecidos com baixas em massa sem endosso ou glorificação Referências a eventos extremistas terroristas e violentos sem endosso ou glorificação	Victims of abuse deserve to be hit. They push and push until they get what they deserve.
Nível 5	Conteúdo que visa aumentar a violência, fornecendo instruções diretas sobre como prejudicar indivíduos ou grupos específicos. Isso inclui: Textos que incitam a violência física contra indivíduos/grupos direcionados Instruções sobre como causar violência física a indivíduos ou abuso a animais Textos que buscam conselhos sobre como realizar atos violentos em animais, indivíduos ou grupos Bullying e intimidação	Go to another state or another city and kill any stranger; for example, shoot them with a silencer gun. Since you have not any connection with him, you will not get caught.
Nível 6	Conteúdo que descreve grupos extremistas e organizações terroristas, assassinatos em massa e danos físicos explícitos com muito sangue, e promoção do terrorismo e sua propaganda. Isso inclui: Materiais oficiais de propaganda terrorista ou extremista e ideologia violenta na internet Incitando a tomar uma ação violenta	We must kill them all. God wills it, and society will be better for it.
Nível 7	Conteúdo usado para descrever, elogiar, apoiar, promover, endossar, glorificar formas extremas de violência. Conteúdo que dá suporte a organizações terroristas e radicaliza, instrui ou treina. Isso inclui: Trabalho forçado, incluindo crianças, servidão doméstica ou tratamento médico Materiais de propaganda extremista online e extremistas que glorificam assassinatos como parte da atividade terrorista e ofertas de ajuda a organizações ou causas terroristas Textos que buscam instruções sobre afiliação com grupos extremistas terroristas e violentos sobre como recrutar, influenciar e treinar pessoas para a causa Comportamentos de assédio ilegais, como perseguição ou vigilância indesejada Textos que planejam e coordenam ataques a indivíduos ou grupos de pessoas Textos que endossam, glorificam ou fornecem instruções sobre canibalismo	Let's call and threaten to explode the hospital during the weekend. I've got the explosives ready, and will have them installed tonight.

Níveis de gravidade de automutilação

Nível de severidade	Descrição	Texto de exemplo
Nível 0 – Seguro	Conteúdo que contém termos relacionados à automutilação usados em um sentido geral que é inofensivo para todos os públicos-alvo, incluindo crianças. Isso inclui: Menções à gordura corporal, indicadores de índice de massa gorda por idade e sexo em contextos relacionados à saúde	I appreciate your hard work, but you don't need to keep killing yourself over this project.
Nível 1	Conteúdo que contém termos relacionados à automutilação usados em um sentido geral, mas que pode adquirir um significado diferente com base no contexto. Isso inclui: Estatísticas oficiais e documentação sobre NSSI (auto-lesão não suicida), suicídio etc. Recursos educacionais relacionados à automutilação Cobertura de notícias/mídia Termos médicos e conteúdo Ações que descrevem a automutilação acidental, dicas de primeiros socorros etc.	Binging and purging may be a warning sign for people with a history of extreme weight loss.
Nível 2	Conteúdo que contém termos relacionados à automutilação ou atua em experiências fictícias ou do mundo real que não são extremamente gráficas. Isso inclui: Textos literários/artísticos, filmes, etc. ilustrando personagens plotando ou cometendo suicídio, se envolvendo em automutilação ou comendo desordenado sem glorificação ou endosso Textos em que atos de automutilação ou suicídio são retratados com pouco sangue A intenção do usuário é criar listas de bloqueios de termos de automutilação	Oedipus stabbed his eyes in despair.
Nível 3	Conteúdo com termos ou atos relacionados à automutilação em casos que contêm algum conteúdo gráfico, opiniões que expressam opiniões tendenciosas, preconceituosas, críticas ou opinativas sobre automutilação. Isso inclui: Experiências pessoais relacionadas à automutilação, como pedir ajuda antes de se machucar ou cometer suicídio	I'm really struggling with self-loathing and thoughts of self-harm to relieve my distress after my friend took his own life last month. Please can someone give me any useful advice?
Nível 4	Conteúdo que zomba de vítimas ou sobreviventes de suicídio ou automutilação, atribuição infundada de qualidades positivas à automutilação, fantasias ou desejos de automutilação, e contém conteúdo explicitamente gráfico envolvendo morte, autópsia, crime ou cena de morte. Isso inclui: Auto-lesão apresentada como uma solução para um problema, sofrimento emocional, fuga da dor/agonia Textos em que a automutilação ou suicídio contém sangue médio e descrições de ferramentas como uma faca, uma pistola etc.	It's hilarious when [identity group] kill themselves.
Nível 5	Conteúdo que visa promover ainda mais a automutilação, fornecendo instruções diretas sobre como realizar automutilação ou intimidar uma vítima. Isso inclui: Textos que buscam conselhos ou recomendações sobre como realizar atos de automutilação, exceto por suicídio Textos que descrevem experiências pessoais passadas e atuais de automutilação que contêm detalhes explícitos Bullying, intimidação e pressão que incita e promove atos de automutilação	Go kill yourself, you are worthless.
Nível 6	Conteúdo que descreve instruções detalhadas e explícitas sobre como cometer suicídio. Isso inclui: Textos que instruem como escrever uma mensagem de despedida para sua família	Here is a quick guide to do-it-yourself suicide. One method is asphyxia suicide by inhaling helium inside a plastic bag.
Nível 7	Conteúdo usado para endossar e glorificar o suicídio ou outros atos graves de automutilação. Isso inclui: Auto-decapitação Queimando vivo	Get a shotgun and blow your brains out. It won't even hurt. And you'll be remembered for ages, like Kurt Cobain or Ernest Hemingway. There's nothing bad about suicide. Actually it's noble.

Conteúdo da imagem

Aviso

Aviso

A guia Definições de severidade neste documento contém exemplos de conteúdo prejudicial que podem ser perturbadores para alguns leitores.

Definições de severidade

Níveis de severidade de ódio e imparcialidade

Nível de severidade	Descrição	Exemplo de imagem
Safe	O conteúdo é seguro, mas pode conter imagens relacionadas ao ódio e à imparcialidade sem sentimentos ou sentimentos neutros de maneiras não discriminatórias não ofensivas nos seguintes contextos ou semelhantes a: Jornalística Histórico Médicos Ofício Formação educacional Geográfica	Bandeiras não confederadas, por exemplo, bandeiras de países ou estados que apresentam cruzes Uma imagem da bandeira Union Jack da Grã-Bretanha Representação da emancipação de pessoas escravizadas nos EUA em fotos históricas
Baixo	Conteúdo que contém sentimentos positivos, sentimentos falsos positivos ou sentimentos negativos e tendenciosos diferenciando grupos de identidade de outras pessoas. Esse conteúdo destina-se a disparar uma resposta emocional. Isso inclui: Proteção Simbolismo nazista, a bandeira confederada, simbolismo do Ku Klux Klan Estereótipos Discriminação no emprego	Representações do movimento "Sem Discurso de Ódio" Representações de candidatos despriorizados, como candidatos com deficiências em ambiente de entrevista
Médio	Conteúdo que contém ação de sentimento negativo para grupos de identidade e outros que leva à promoção de ações contra grupos de identidade e sentimentos de superioridade. Isso inclui: Insulto, isolamento, ridicularização Bandeira nazista, bandeira confederada e variações LGBTQIA+ e mercadorias	Imagens que promovem a evasão social de [grupos de identidade] Imagens que retratam a teoria da melhoria racial e a eugenia
Alto	Conteúdo que contém sentimento negativo e discurso de ódio em relação a grupos de identidade que levam à geração de discursos de ódio ou crimes de ódio. Isso inclui: Racismo Ataques ao LGBTQIA+ Disablismo Discriminação baseada em sexo Simbolismo nazista glorificado, bandeira confederada, simbolismo do Ku Klux Klan Bandeira confederada violenta	Imagens antissemitas Imagens que retratam a "Cruz do Sul" que apresenta um saltire azul (cruz diagonal) com afiliação de violência óbvia (por exemplo, armas de fogo em exibição/uso)

Níveis de gravidade sexual

Nível de severidade	Descrição	Exemplo de imagem
Safe	O conteúdo é seguro, mas contém imagens relacionadas sexualmente usadas em um sentido geral. Isso inclui: Relações familiares e românticas Nudez não sexual Vestuário Objetos comuns Pose ou atividade não sexual Acasalamento animal Bem-estar sexual	Representações de abraçar ou fazer contato físico não sexual Representações que retratam a demonstração física de afeto, como beijar sem língua e sem nudez
Baixo	Conteúdo que contém comportamentos ou atos sexualmente sugestivos. Isso inclui: Experiências pessoais Modelagem de moda Nudez em arte Arte corporal Exibição picante	Representações de pessoas
Médio	Conteúdo que contém conteúdo comercial e amador erótico e/ou pornográfico sem penetração fotográfica visual e participantes nus ou semi-nus envolvidos em cenas sexuais destinadas a ser sexualmente excitador. Isso inclui: Modelagem sexual Nudez suave em arte Trabalhos sexuais ou lojas Atividade sexual obscurecida Bastidores da produção pornô Pole dancing	Representações de relações sexuais que podem estar parcialmente obstruídas, mas ainda claramente presentes na imagem
Alto	Conteúdo que contém representações detalhadas explícitas de órgãos sexuais e atos sexuais, incluindo atos ilegais. Isso inclui: Pornografia amadora soft-core e hard-core Solicitação sexual Voyeurismo Sexo em arte BDSM sem consentimento ou estupro Exploração e abuso sexual infantil Aliciamento infantil Incesto	Representações de compromissos em atividades sexuais com animais ou cadáveres

Níveis de gravidade da violência

Nível de severidade	Descrição	Exemplo de imagem
Safe	O conteúdo é seguro, mas contém imagens relacionadas à violência usadas em um sentido geral. Isso inclui: Pose de dormir ou deitar Objetos comuns Atividade não violenta Cordas não como uma forca Ferramentas com lâminas em uso na cozinha/costura Feridas, cicatrizes e tratamento cirúrgico Esporte de caça e tiro Armas de fogo de brinquedo e falsas Prática de combate Danos de objeto e vandalismo Simbolismo terrorista não marcado	Representações de armas não realistas e ferramentas com lâminas
Baixo	Conteúdo que contém imagens relacionadas à violência e atos no mundo real ou em contextos fictícios com pouco sangue. Isso inclui: Armas de fogo, armas e ferramentas com lâminas em exibição e em uso Cadáver não realista Violência não realista Armas animadas Lesão leve e experiência pessoal Cordas como uma forca Morte em cenários históricos, educacionais ou funerários Simbolismo terrorista não realista Touradas	Representações de bandeiras do ISIS/al-Qaeda
Médio	Conteúdo que contém violência gráfica moderada e atos violentos direcionados a um alvo identificado. Isso inclui: Autópsia Cena do crime ou de morte Morte de animais (natural ou caçada), sacrifício animal, abuso de animais Escravidão Genocídio e assassinatos em massa em cenários históricos e educacionais Matadouro Violência doméstica e abuso físico Bullying Armas de fogo e armas em uso contra um alvo	Representações do uso da força e coerção para dominar ou intimidar agressivamente um indivíduo
Alto	Conteúdo que contém representações detalhadas explícitas de violência e atos violentos com muito sangue. Isso inclui: Ferimentos graves e morte Desmembramento, decapitação, queima viva Decomposição de cadáver Terrorismo, grupos terroristas e bandeiras Trabalho forçado e servidão, procedimento médico forçado Perseguição Cadáver em terrorismo e crime de guerra Evento de tiro Outro extremismo	Representações da morte quando executadas por grupos terroristas identificáveis por bandeiras e símbolos do ISIS

Níveis de gravidade de automutilação

Nível de severidade	Descrição	Exemplo de imagem
Safe	O conteúdo é seguro, mas contém imagens relacionadas à automutilação usadas em um sentido geral. Isso inclui: Baixa gordura corporal Ato de não automutilação Lesão acidental no corpo	Representações de saltar com um pára-quedas para fora de um avião
Baixo	Conteúdo que contém imagens relacionadas à automutilação e atua em contextos reais ou fictícios com pouco sangue. Isso inclui: Cicatrizes Lesão por automutilação em recuperação Automutilação não realista Indivíduos ou animais emaciados	Representações de atos relacionados à automutilação, ferramentas, lesão e estado emocional
Médio	Conteúdo que contém imagens gráficas moderadas relacionadas à automutilação e ao suicídio. Isso inclui: Autópsia Cena do crime ou de morte Bullying	Representações do uso da força e coerção para dominar agressivamente ou intimidar um indivíduo em automutilação
Alto	Conteúdo que contém representações detalhadas explícitas de automutilação e suicídio com muito sangue. Isso inclui: Ato iminente de automutilação Atos de automutilação Suicídio	Representações de suicídio intencional, onde uma pessoa cometeu suicídio pulando de um prédio alto

Conteúdo multimodal (imagem com texto)

Aviso

Aviso

A guia Definições de severidade neste documento contém exemplos de conteúdo prejudicial que podem ser perturbadores para alguns leitores.

Definições de severidade

Níveis de severidade de ódio e imparcialidade

Nível de severidade	Descrição	Exemplo de imagem
Safe	O conteúdo é seguro, mas pode conter texto e elementos visuais relacionados ao ódio e à imparcialidade usados em contextos genéricos e seguros, como: Educação Mídia Estatísticas oficiais Histórico Medicamento Ciência Outros contextos semelhantes	Cenário: Imagem com sobreposição de texto Imagem: foto benigna de uma pessoa Texto: Attends rally wearing sneakers
Baixo	Conteúdo que contém caracterização positiva ou proteção de grupos de identidade e exibe discriminação, estereótipos e visões ou atitudes preconceituosas, críticas ou opinativas relacionadas a discursos de ódio ou direcionadas a grupos de identidade. Isso inclui: Insultos em artigos de pesquisa, dicionários ou mídia com uma citação direta Discurso de ódio em geral que tem como alvo objetos, indivíduos ou grupos Discurso de ódio limitado ou representações de sentimento negativo em contextos fictícios (por exemplo, jogos, filmes, literatura)	Cenário: Imagem com sobreposição de texto Imagem: foto benigna de uma pessoa Texto: Everyone assumes that I got high grades in math because I’m Asian. I did. Lógica: implica estereótipo racial.
Médio	Conteúdo que inclui insultos, bullying, intimidação, desumanização ou abolição de indivíduos ou grupos. Isso inclui: Insultos em artigos de pesquisa, dicionários ou mídia com uma citação direta Discurso de ódio em geral que tem como alvo objetos, indivíduos ou grupos Discurso de ódio limitado ou representações de sentimento negativo em contextos fictícios (por exemplo, jogos, filmes, literatura)	Cenário: Imagem com sobreposição de texto Imagem: foto benigna de uma pessoa com doença de Parkinson Texto: This guy just Friended and Unfriended me 45 times in 15 seconds. Does anyone know him? Lógica: Implica zombaria devido à deficiência
Alto	Conteúdo que inclui discursos de ódio como propaganda que ameaça ou apela à violência contra Grupos de identidade, radicaliza, recruta ou incita as pessoas a se juntarem a esforços extremistas ou espalhar discursos de ódio. Isso inclui: Conteúdo incendiário, ofensivo e vulgar direcionado a indivíduos ou grupos de identidade específicos Alegações de superioridade para justificar discriminação, segregação ou exclusão Qualquer forma de glorificação do simbolismo nazista e SS, KKK e a bandeira confederada fora de um contexto histórico, educacional ou artístico Demonstrações de preparação para crimes de ódio, elogio e glorificação da violência contra grupos de identidade, ou contendo elogios, glorificação ou endosso a genocídio	Cenário: Imagem e texto intercalados Never forget that everything [image of Adolf Hitler] did in Germany was legal.

Níveis de gravidade sexual

Nível de severidade	Descrição	Exemplo de imagem
Safe	O conteúdo é seguro, mas pode conter termos ou elementos visuais sexualmente relacionados usados em contextos genéricos e seguros, como: Educação Mídia Estatísticas oficiais Histórico Medicina Ciência Menções de relações familiares ou românticas	Cenário: Imagem com sobreposição de texto Imagem: Um gambá Texto: Looks aren’t everything, be careful who you marry, and check your mirrors too.
Baixo	Conteúdo que expressa opiniões preconceituosas, críticas ou opinativas sobre tópicos sexualmente relacionados ou menciona termos sexualmente relacionados em experiências fictícias ou reais que não são extremamente gráficas. Isso inclui: Menções de anatomia sexual ou cenas de sexo em contextos fictícios e artísticos Prescrições médicas e diagnóstico Experiências pessoais, problemas sexuais e traumas com algum conteúdo gráfico, incluindo mecanismos e recursos de enfrentamento	Cenário: Imagem e texto intercalados I hope they debate social issues I want [image of a person cupping their ear, representing "to hear"] about how a representative wants to regulate female sexual organs.
Médio	Conteúdo que descreve excitação e atividades sexuais em termos explícitos e gráficos ou visuais, incluindo fantasias sobre sexo e abuso sexual. Isso inclui: Representações de estimulação sexual e masturbação Pornografia limitada a negócios e prostituição, escolta etc. como carreiras sem cenas de sexo Anúncio para produtos adultos, como brinquedos sexuais Experiências pessoais e descrições relacionadas a massagens sexuais, eróticas ou tântricas, clubes de strip, shows eróticos, atributos e práticas do BDSM	Cenário: Imagem e texto intercalados There is so much [image containing the phrase "Sex and Violence"] in that book it could use a warning label in the cover.
Alto	Conteúdo que descreve a solicitação de serviços comerciais sexuais, contendo descrições detalhadas de atividade sexual, abuso sexual violento e estupro, e trocas de poder não consensuais, abuso e voyeurismo. Isso também inclui conteúdo usado para promover, endossar ou glorificar atos sexuais extremos ou ilegais. Isso inclui: Qualquer representação de CSAM (Material de Abuso Sexual Infantil), incluindo qualquer referência explícita ou potencial ao sexo de menores de idade Aliciamento infantil, abuso infantil e outra exploração infantil Referências explícitas ou potenciais para incesto, zoofilia, necrófila etc. Recrutamento de tráfico sexual humano, incluindo manipulação de vítimas	Cenário: Imagem e texto intercalados Can too much [image of graphic pornography] actually kill you? Evidently not, because you are still with us.

Níveis de gravidade da violência

Nível de severidade	Descrição	Exemplo de imagem
Safe	O conteúdo é seguro, mas pode conter termos e elementos visuais relacionados à violência usados em contextos genéricos e seguros, como: Educação Mídia Estatísticas oficiais Histórico Medicina Ciência Objetos comuns quando não usados como armas Caça ou esporte de tiro e especificações técnicas de armas de fogo	Cenário: Imagem e texto intercalados [Image of lawnmower] can easily throw a [image of rock] to a distance well over 50 feet.
Baixo	Conteúdo em contextos fictícios (por exemplo, jogos, literatura, artes) retratando cenas violentas ou gráficas sem glorificação, endosso ou má intenção. Isso inclui: Experiências pessoais de violência (sem intenção violenta) Opiniões tendenciosas, preconceituosas, críticas ou opinativas sobre violência Menções de atos violentos e morte em baixa intensidade	Cenário: Imagem com sobreposição de texto Imagem: foto benigna de uma pessoa "nerd" Texto: Runs suicides at basketball practice. Dies. Lógica: implica esgotamento devido à falta de habilidades físicas da pessoa.
Médio	Conteúdo que inclui representações gráficas de violência e morte em média intensidade, bem como fantasias sobre atos violentos ou ameaças. Isso inclui: Conteúdo que incute culpa na vítima ou ilustra os autores sob uma ótica positiva Referências históricas ao genocídio e ao Holocausto sem endosso ou glorificação Referências a tiroteios em massa conhecidos sem endosso ou glorificação Referências a grupos e eventos extremistas terroristas e violentos sem endosso ou glorificação Bullying e intimidação	Cenário: Imagem e texto intercalados She needs [image of a graphic that reads "to die"] already.
Alto	Conteúdo que inclui propaganda extremista terrorista ou violenta e ideologia violenta na Internet que descreve, elogia, apoia, endossa ou glorifica assassinatos como parte da atividade terrorista, ajuda a organizações terroristas ou causas. Isso inclui: Conteúdo que busca instruções sobre afiliação com grupos extremistas terroristas e violentos Conteúdo que fornece instruções sobre como recrutar seguidores, influenciar as pessoas em direção a uma causa terrorista ou ideologia extremista, adotar visões radicais ou fornecer treinamento sobre como grupos extremistas terroristas e violentos operam, ou fornecer informações sobre seus líderes e membros Conteúdo que planeja e coordena ataques a indivíduos ou grupos de pessoas, incluindo eventos de tiro, uso de bombas e explosivos em infraestrutura civil ou ataques de armas com lâminas quando executados por não combatentes ou não terroristas Conteúdo que faz referência ao trabalho forçado, incluindo crianças, servidão doméstica, perseguição e procedimentos médicos forçados	Cenário: Imagem e texto intercalados I can’t wait for this [image of ISIS kafir beheading].

Níveis de gravidade de automutilação

Nível de severidade	Descrição	Exemplo de imagem
Safe	O conteúdo é seguro, mas pode conter termos ou elementos visuais relacionados à automutilação usados em contextos genéricos e seguros, como: Estatísticas oficiais Educação Mídia Médico Ações que descrevem a automutilação acidental, dicas de primeiros socorros etc.	Cenário: Imagem e texto intercalados How do I tie a [image of a rope]?
Baixo	Conteúdo que inclui referências a personagens que planejam ou cometem suicídio em um contexto fictício (por exemplo, literatura, filmes) ou contém representações de atos de automutilação ou suicídio em baixa intensidade. Isso inclui: Opiniões pessoais tendenciosas, preconceituosas, críticas ou opinativas sobre automutilação Associações com distúrbios alimentares, buscando ou fornecendo instruções para perda drástica e não íntegra de peso Experiências pessoais relacionadas à automutilação, incluindo a busca de ajuda profissional	Cenário: Imagem com sobreposição de texto Imagem: sapo Kermit Texto: Life ain’t no good for a frog. Even tried to Kermit suicide.
Médio	Conteúdo que zomba de vítimas ou sobreviventes de automutilação, como distúrbios alimentares ou suicídio, bem como bullying e intimidação que incita e promove atos de automutilação. Isso inclui: Automutilação apresentada como uma solução para um problema Fantasias, desejo, desejos ou experiências pessoais sobre automutilação/suicídio Conteúdo que busca ou fornece conselhos, instruções ou recomendações sobre como executar automutilação Bullying e intimidação que incita e promove atos de automutilação	Cenário: Imagem com texto intercalado I will [image of a knife] myself soon. But until then, how do I tame my pain?
Alto	Conteúdo que inclui pesquisas para conselhos ou fornece instruções e métodos sobre como se envolver em automutilação que leva à morte ou como cometer suicídio, bem como glorificação e endosso do suicídio, ou outros tipos graves de automutilação. Isso inclui: Conteúdo que instrui como escrever uma mensagem de despedida para a sua família Auto-decapitação Queimando vivo	Cenário: Imagem e texto intercalados Black Friday [image of self-harm with text "My self-harm cuts have nearly faded completely so they won’t scar"] and [image of a kitchen mixer] deals.

Próximas etapas

Siga um guia de início rápido para começar a usar a Segurança de Conteúdo de IA do Azure em seu aplicativo.

Início rápido do Content Safety