Categorías de daños en Azure AI Content Safety

En esta guía se describen todas las categorías de daños y clasificaciones que Seguridad del contenido de Azure AI usa para marcar el contenido. Tanto el contenido de texto como de imagen usan el mismo conjunto de marcas.

Categorías de daños

Content Safety reconoce cuatro categorías distintas de contenido censurable.

Category	Descripción	Término de API
Odio y equidad	Los daños relacionados con el odio y la equidad se refieren a cualquier contenido que ataque o use un lenguaje peyorativo o discriminatorio en referencia a una persona o grupo de identidad basado en ciertos atributos diferenciadores de estos grupos. Entre otras cosas, esto incluye: Raza, etnia o nacionalidad Identidad y expresión de género Orientación sexual Religión Apariencia personal y tamaño corporal Estado de capacidad Acoso	Hate
Sexual	Sexual describe el lenguaje relacionado con los órganos anatómicos y los genitales, las relaciones románticas y los actos sexuales, los actos representados en términos eróticos o afectuosos, incluidos los representados como una agresión o un acto violento sexual forzado contra la propia voluntad.   Entre otras cosas, esto incluye: Contenido vulgar Prostitución Desnudos y pornografía Abuso Captación, abuso y explotación infantil	Sexual
Violencia	Violencia describe el lenguaje relacionado con acciones físicas destinadas a herir, lesionar, dañar o matar a alguien o algo; describe armas, pistolas y entidades relacionadas. Entre otras cosas, nos ocupamos de: Armas Acoso e intimidación Terrorismo y extremismo violento Acecho	Violence
Autolesiones	Autolesión describe el lenguaje relacionado con acciones físicas destinadas a herir, lesionar o dañar intencionadamente su propio cuerpo o a suicidarse. Entre otras cosas, nos ocupamos de: Trastornos alimentarios Acoso e intimidación	SelfHarm

La clasificación puede tener varias etiquetas. Por ejemplo, cuando una muestra de texto pasa a través del modelo de moderación de textos, podría clasificarse como contenido sexual y violencia.

Niveles de gravedad

Cada categoría de daño que el servicio aplica también incluye una clasificación de nivel de gravedad. El nivel de gravedad está pensado para indicar la gravedad de las consecuencias de mostrar el contenido marcado.

Texto: la versión actual del modelo de texto admite la escala de gravedad completa de 0 a 7. El clasificador detecta la gravedad entre todas las gravedades de esta escala. Si el usuario lo especifica, puede devolver gravedades en una escala ajustada de 0, 2, 4 y 6; cada dos niveles adyacentes se asignan a un único nivel.

• [0,1] ->0
• [2,3] ->2
• [4,5] ->4
• [6,7] ->6

Imagen: la versión actual del modelo de imagen admite una versión ajustada de la escala completa de gravedad 0-7. El clasificador solo devuelve las gravedades 0, 2, 4 y 6.

• 0
• 2
• 4
• 6

Imagen con texto: la versión actual del modelo multimodal admite la escala de gravedad completa de 0 a 7. El clasificador detecta la gravedad entre todas las gravedades de esta escala. Si el usuario lo especifica, puede devolver gravedades en una escala ajustada de 0, 2, 4 y 6; cada dos niveles adyacentes se asignan a un único nivel.

• [0,1] ->0
• [2,3] ->2
• [4,5] ->4
• [6,7] ->6

Contenido de texto

Advertencia

Advertencia

La pestaña Definiciones de gravedad de este documento contiene ejemplos de contenido dañino que puede resultar preocupante para algunos lectores.

Definiciones de gravedad

Niveles de gravedad de odio y equidad

Nivel de gravedad	Descripción	Texto de ejemplo
Nivel 0	Contenido en el que se usan términos relacionados con el odio y la equidad en un sentido general y que es adecuado para todos los públicos de destino, incluidos los niños. Esta característica incluye: Lenguaje general y peyorativo que expresa desagrado hacia grupos de identidad. Menciones generales de atributos de grupos de identidad, como raza, etnia, religión, etc., en contextos históricos, geográficos, médicos y similares, sin ningún tipo de opinión. Términos generales sin trasfondo racial ni intención de ofender fuera del contexto.	I hate cats.
Nivel 1	Contenido en el que se usan términos relacionados con el odio y la equidad en un sentido general, pero que pueden adquirir un significado diferente en función del contexto, y que no hace distinciones entre grupos de identidad y otras personas de manera sesgada o negativa. Esta característica incluye: Estadísticas oficiales, legislación o documentación. Cobertura de noticias y medios. Recursos educativos concebidos para concienciar sobre la diversidad o abordar el discurso de odio. Anuncios de productos y tratamientos para blanquear la piel. Menciones de la esvástica indoeurasiática, la bandera confederada, de EE. UU. o grupos no pertenecientes al Ku Klux Klan que guardan un parecido visual con el Ku Klux Klan.	Black people should not be killed by police or mistreated just because of their skin color.
Nivel 2	Contenido que expresa una caracterización positiva o una actitud protectora hacia grupos de identidad y que suscita una respuesta emocional favorable. Esta característica incluye: Insultos escritos al completo en trabajos de investigación, diccionarios o medios de comunicación con citas directas. Declaraciones de un orador perteneciente a un grupo de identidad sin intención de dirigirse al mismo grupo de identidad. Términos malsonantes, groserías e insultos verbales que no se dirigen a ningún grupo de identidad. Discurso de odio en general dirigido a personas o grupos no identificados sin señalar a ningún grupo de identidad. Intención del usuario de crear una lista de bloqueo de términos ofensivos. Representaciones de la Alemania nazi, Hitler, la bandera confederada de EE. UU. y la simbología del Ku Klux Klan en películas, videojuegos, disfraces, juguetes, recreaciones o jerga en línea.	I hate you.
Nivel 3	Contenido con opiniones negativas o caracterizaciones prejuiciosas, sentenciosas o estereotipadas. Esta característica incluye: Opinión basada en estereotipos o sentimientos negativos. Manifestación de opiniones prejuiciosas, sentenciosas o tendenciosas. Comparaciones negativas o positivas que hacen distinciones entre grupos de identidad y otras personas. Menciones en mundos ficticios. Discriminación laboral en ofertas de trabajo. Hechos históricos y artefactos relacionados con la Alemania nazi, la bandera confederada de la guerra civil de EE. UU., o el Ku Klux Klan.	I don't like [identity group] because they are all so aggressive. They attacked us over and over again for no reason at all.
Nivel 4	Contenido con insultos verbales directos motivados por opiniones, comentarios negativos y expresiones racistas usadas como descripciones contra grupos de identidad con la intención de herir a las personas a causa de sus atributos. Esta característica incluye: Referencias usadas para señalar la raza o el color de la piel de una persona. Fomento del rechazo y el aislamiento social. Burlas e imitación de atributos de grupos de identidad.	All [identity group] are ugly.
Nivel 5	Contenido que implique la deshumanización o el menosprecio de personas o grupos y que favorezca opiniones negativas a través de comportamientos de deshumanización, violencia, negación de los hechos, acoso o intimidación. Esta característica incluye: Textos que niegan acontecimientos históricos violentos y bien documentados, como el Holocausto. Textos que describen a personas o grupos como física o mentalmente inferiores en función de la pertenencia a un grupo de identidad. Textos que cuestionan, niegan o denigran la existencia de un grupo de identidad. Imposición de los atributos deseados o esperados. Teorías eugenésicas y de "mejora racial" contra grupos de identidad. Productos comerciales modernos con símbolos nazis, de la bandera confederada de EE. UU. o del Ku Klux Klan.	The [real world event] is a fraud. What we've discovered is that sources have been lying about the number of victims. Here is proof.
Nivel 6	Contenido basado en opiniones negativas y discurso de odio hacia grupos de identidad. Y que se refieren a las características del grupo que distinguen al grupo de identidad de otras personas e incitan a tomar medidas contra grupos de identidad por sus atributos. Esto puede incluir: Propaganda de incitación al odio que pueda percibirse como una amenaza directa o un llamamiento a la violencia contra un grupo de identidad. Discurso de odio incendiario, ofensivo o soez. Textos que supuestamente afirman la superioridad de un grupo sobre las personas que poseen atributos de grupos de identidad con el fin de justificar la discriminación, la segregación o la exclusión. Textos que describen sentimientos de satisfacción por un acontecimiento violento contra un grupo de identidad.	Send [identity group] back to the gas chambers.
Nivel 7	Contenido basado en una opinión negativa y que manifiesta la intención de cometer delitos de odio y acoso y suscita una respuesta emocional hostil y la distinción entre grupos de identidad y otras personas, lo que conduce a la comisión de delitos. Esta característica incluye: Preparación de delitos de odio y alabanza y ensalzamiento de la violencia contra un grupo de identidad. Textos que contienen material de reclutamiento de grupos supremacistas. Textos destinados a radicalizar y fomentar el discurso de odio contra un grupo de identidad.	Millions of [identity group] were wiped out because they were the inferior race. Murdering them continues to be right and honorable because…

Niveles de gravedad sexual

Nivel de gravedad	Descripción	Texto de ejemplo
Nivel 0	Contenido en el que se usan términos sexuales en un sentido general y que es inofensivo para todos los públicos de destino, incluidos los niños. Menciones de relaciones familiares. Contenido que es inofensivo para todos los públicos de destino, incluidos los niños.	The sports bra and yoga pants were too tight for comfort.
Nivel 1	Contenido en el que se usan términos sexuales en un sentido general, pero que puede adquirir un significado diferente según el contexto. Esto incluye: Estadísticas oficiales y documentación sobre temas relacionados con el sexo. Cobertura de noticias y medios. Términos anatómicos, anatomía sexual y tratamiento médico. Recursos educativos sobre sexo, bienestar sexual, concienciación, etc. Menciones del sexo biológico o descripciones de la reproducción sexual. Textos que describen relaciones románticas en términos no gráficos.	Fewer young adults are having sex than in previous generations.
Nivel 2	Contenido con términos sexuales asociados a experiencias ficticias o reales y que no son extremadamente gráficos. Esto incluye: Menciones de textos literarios o artísticos, películas, esculturas, etc. que contengan lenguaje sexual escaso o breves escenas de desnudez no explícitas. Experiencias personales relacionadas con el sexo en general, problemas y traumas sexuales e información sobre recursos y mecanismos para hacer frente a estos problemas. Intención del usuario de crear una lista de bloqueo de contenido sexual. Menciones de actos sexuales y desnudos de manera ligera.	My husband and I introduced a vibrator to our sex life and it has really made a difference.
Nivel 3	Contenido con términos relacionados con el sexo en los casos en que se incluya algún contenido gráfico u opiniones sesgadas, prejuiciosas, críticas o tendenciosas sobre temas relacionados con el sexo. Esto incluye: Experiencias sexuales personales pasadas o actuales con algún contenido gráfico.	We made out for a while, and he started to feel me up. I felt a bulge in his pants.
Nivel 4	Contenido que describe fantasías sexuales, la industria y la publicidad del sexo profesional y la reproducción animal sexualizada. Esto incluye: Fantasías sexuales de diferentes tipos, como imaginar desnudos reales o ficticios. Sector sexual profesional sin descripciones de escenas sexuales Anuncios de condones, lubricantes, juguetes sexuales, ropa, etc. Descripciones de la reproducción sexual entre animales o caracteres similares a animales con contenido gráfico Menciones de actos sexuales y desnudos de contenido suave.	I got into BDSM because I had some friends into the lifestyle and it piqued my interest. I like using silk, scarves, collars, and bondage…
Nivel 5	Contenido que describe espectáculos o experiencias eróticas como vivencias personales, BDSM con claro consentimiento y relatos y sitios web eróticos. Esto incluye: Menciones de masajes sexuales, eróticos o tántricos, clubes de striptease, espectáculos eróticos como vivencias personales (no como un servicio profesional). Experiencias y descripciones personales relacionadas con atributos y prácticas de BDSM en general o situaciones con claro consentimiento de la práctica de BDSM. Menciones de contenido erótico no comercial relacionado con el deseo o el placer sexual.	We both climaxed at the same time.
Nivel 6	Contenido que describe la oferta de servicios sexuales comerciales, con descripciones detalladas de la actividad sexual, agresiones sexuales y violaciones, así como intercambio erótico de poder no consentido, abuso y voyerismo. Esto incluye: Menciones de estimulación de los genitales con las manos u otros objetos, masturbación, etc. Contenido fetichista o vulgar que implique fluidos corporales, situaciones de control sexual o actividades de BDSM sin un consentimiento claro. Textos que describen la violencia sexual, la agresión sexual, la violación o el abuso con detalles gráficos. Textos que atribuyen cualidades positivas a la agresión sexual. Textos que buscan o proporcionan instrucciones para llevar a cabo una agresión sexual. Actos de chantaje y amenazas para revelar sin consentimiento imágenes o vídeos sexuales grabados anteriormente	I love forced sex, it's so much hotter.
Nivel 7	Contenido usado para fomentar, aprobar o ensalzar formas extremas de esclavización sexual. Contenido extremo o ilegal. Esto incluye: Sexo con animales, cadáveres, etc. Pedofilia. Búsqueda o suministro de instrucciones para la captación de niños con fines sexuales. Referencias explícitas o potenciales al incesto. Reclutamiento para la trata de personas con fines sexuales.	I was abused as a child by my uncle and I liked it. Nowadays, I make money by producing child pornography with my neighbor’s 6 year old son.

Niveles de gravedad de violencia

Nivel de gravedad	Descripción	Texto de ejemplo
Nivel 0	Contenido con acciones no violentas o términos relacionados con la violencia usados en un sentido general y que es adecuado para todos los públicos de destino, incluidos los niños. Esta característica incluye: Objetos comunes cuando no se usan como armas. Armas de fuego de juguete, no realistas o de imitación. Menciones de cuerdas cuando no se refieren a sogas con nudo corredizo.	According to our child and parent testers, here are the best long-range soakers for soft blasters for toddlers suitable for epic water battles.
Nivel 1	Contenido con actos o términos relacionados con la violencia usados en un sentido general, pero que puede adquirir un significado diferente según el contexto. Esta característica incluye: Subconjuntos de textos que contienen descripciones de actos violentos, en los que la contextualización del texto completo no presenta una intención violenta. Estadísticas y documentación oficiales sobre armas de fuego y otros tipos de armas, violencia doméstica, conflictos bélicos, el ejército, etc. Recursos educativos relacionados con la violencia. Cobertura de noticias y medios. Contenido y términos médicos. Caza o tiro deportivo y especificaciones técnicas de armas de fuego. Prácticas de combate. Lucha contra el terrorismo y símbolos terroristas no relacionados con el Estado Islámico ni al-Qaeda.	Carnivores such as lions and tigers are prone to killing one another. Death occurs at the paws, claws, jaws, or tusks that might fatally gore one another during fights.
Nivel 2	Contenido con términos o actos relacionados con la violencia en experiencias ficticias o reales que no son extremadamente gráficos y sin ensalzamiento ni aprobación de la conducta malintencionada. Esta característica incluye: Narración en primera, segunda y tercera persona de videojuegos o textos literarios o artísticos que describan escenas violentas o gráficas. Consejos y recomendaciones de juego. Experiencias personales en las que una persona describe su exposición a algún tipo de violencia. Menciones de cuerdas cuando se refieren a sogas con nudo corredizo sin sujetos humanos presentes o sin relación con la soga. La intención del usuario es crear una lista de bloqueo de contenido violento.	Physical punishment is a way to correct bad behavior and doesn’t cause harm to children.
Nivel 3	Contenido con actos o términos relacionados con la violencia en los casos en que se incluya algún contenido gráfico u opiniones sesgadas, prejuiciosas, críticas o tendenciosas sobre la violencia. Esta característica incluye: Permitir la crueldad hacia algunos animales. Textos que defienden el efecto positivo de algunos tipos de violencia.	Some people just need to be slapped.
Nivel 4	Contenido que describe una justificación infundada de los motivos por los que se abusa físicamente de las víctimas, una atribución infundada de cualidades positivas a los agresores, amenazas de actos violentos y fantasías relacionadas con formas de hacer daño a otras personas, y con un nivel medio de detalles sangrientos. Esta característica incluye: Textos que atribuyen la culpa a la víctima o presentan a los agresores de forma positiva. Descripciones gráficas de violencia y muerte con un nivel medio de detalles sangrientos. Un informe de autopsia, una investigación forense, un crimen o una escena de muerte. Instalaciones de carne y aves de corral, y sacrificios religiosos de animales. Referencias a genocidios históricos o recientes y eventos conocidos de tiroteos con bajas masivas sin aprobación ni ensalzamiento. Referencias a acontecimientos terroristas y extremistas violentos sin aprobación ni ensalzamiento.	Victims of abuse deserve to be hit. They push and push until they get what they deserve.
Nivel 5	Contenido cuyo objetivo es fomentar la violencia y que proporciona instrucciones directas para hacer daño a personas o grupos específicos. Esta característica incluye: Textos que incitan a la violencia física contra personas o grupos específicos. Instrucciones para ejercer violencia física contra las personas o maltratar a animales. Textos en los que se pide consejo sobre cómo llevar a cabo acciones violentas contra animales, personas o grupos. Acoso e intimidación	Go to another state or another city and kill any stranger; for example, shoot them with a silencer gun. Since you have not any connection with him, you will not get caught.
Nivel 6	Contenido que describe grupos extremistas y organizaciones terroristas, asesinatos en masa y daños físicos explícitos con un nivel alto de detalles sangrientos, así como la promoción del terrorismo y su propaganda. Esta característica incluye: Materiales oficiales de propaganda terrorista o extremista e ideología violenta en Internet. Incitación a cometer una acción violenta.	We must kill them all. God wills it, and society will be better for it.
Nivel 7	Contenido usado para describir, alabar, apoyar, fomentar, respaldar o ensalzar formas extremas de violencia. Contenido que apoya a organizaciones terroristas y radicaliza, instruye o entrena. Esta característica incluye: Trabajo forzado, incluido el trabajo infantil, la servidumbre doméstica o el tratamiento médico forzado. Materiales en línea de propaganda terrorista y extremista violenta que ensalzan los asesinatos en el marco de la actividad terrorista, y ofertas de ayuda a organizaciones o causas terroristas. Textos en los que se buscan instrucciones de afiliación a grupos terroristas y extremistas violentos para la captación, el influenciamiento y el entrenamiento de personas para la causa. Comportamientos ilegales de acoso, como el acecho o la vigilancia no deseada. Textos en los que se planifican y coordinan ataques contra personas o grupos de personas. Textos que aprueban o ensalzan el canibalismo o dan instrucciones para practicarlo.	Let's call and threaten to explode the hospital during the weekend. I've got the explosives ready, and will have them installed tonight.

Niveles de gravedad de autolesiones

Nivel de gravedad	Descripción	Texto de ejemplo
Nivel 0: seguro	Contenido en el que se usan términos relacionados con la autolesión en un sentido general y que es inofensivo para todos los públicos de destino, incluidos los niños. Esta característica incluye: Menciones de indicadores de grasa corporal e índice de masa grasa por edad y sexo en contextos relacionados con la salud.	I appreciate your hard work, but you don't need to keep killing yourself over this project.
Nivel 1	Contenido en el que se usan términos relacionados con la autolesión en un sentido general, pero que pueden adquirir un significado diferente en función del contexto. Esta característica incluye: Estadísticas oficiales y documentación sobre la autolesión sin intención suicida, el suicidio, etc. Recursos educativos relacionados con la autolesión. Cobertura de noticias y medios. Contenido y términos médicos. Acciones que describe la autolesión accidental, consejos de primeros auxilios, etc.	Binging and purging may be a warning sign for people with a history of extreme weight loss.
Nivel 2	Contenido con términos o actos relacionados con la autolesión en experiencias ficticias o reales y que no son extremadamente gráficos. Esta característica incluye: Textos literarios o artísticos, películas, etc. donde aparecen personajes que planifican su suicidio o lo cometen, que se autolesionan o que padecen trastornos alimentarios, sin ensalzamiento ni aprobación. Textos en los que se representan actos de autolesión o suicidio con un nivel bajo de detalles sangrientos. La intención del usuario es crear listas de bloqueo de términos relacionados con la autolesión.	Oedipus stabbed his eyes in despair.
Nivel 3	Contenido con actos o términos relacionados con la autolesión en los casos en que se incluya algún contenido gráfico u opiniones sesgadas, prejuiciosas, críticas o tendenciosas sobre la autolesión. Esta característica incluye: Experiencias personales relacionadas con la autolesión, como pedir ayuda antes de autolesionarse o suicidarse.	I'm really struggling with self-loathing and thoughts of self-harm to relieve my distress after my friend took his own life last month. Please can someone give me any useful advice?
Nivel 4	Contenido que ridiculiza a las víctimas o supervivientes de suicidio o autolesiones, con atribución infundada de cualidades positivas a la autolesión, con fantasías o deseos de autolesión, o con contenido explícitamente gráfico relacionado con fallecimientos, autopsias, crímenes o escenas de muertes. Esta característica incluye: Autolesión presentada como solución a un problema, angustia emocional o evasión del dolor o la agonía. Textos donde se representan autolesiones o suicidios con un nivel medio de detalles sangrientos y con descripciones de instrumentos, como cuchillos, pistolas, etc.	It's hilarious when [identity group] kill themselves.
Nivel 5	Contenido con la finalidad de fomentar la autolesión, proporcionando instrucciones directas para autolesionarse o intimidar a una víctima. Esta característica incluye: Textos en los que se piden consejos o recomendaciones para autolesionarse, salvo el suicidio. Textos que describen experiencias personales pasadas y presentes de autolesiones con detalles explícitos Acoso, intimidación y presiones que inciten y fomenten la autolesión.	Go kill yourself, you are worthless.
Nivel 6	Contenido que describe instrucciones detalladas y explícitas para cometer suicidio. Esta característica incluye: Textos que indican cómo escribir un mensaje de despedida para la familia.	Here is a quick guide to do-it-yourself suicide. One method is asphyxia suicide by inhaling helium inside a plastic bag.
Nivel 7	Contenido usado para respaldar y ensalzar el suicidio u otros actos graves de autolesión. Esta característica incluye: Autodecapitación. Quemarse vivo.	Get a shotgun and blow your brains out. It won't even hurt. And you'll be remembered for ages, like Kurt Cobain or Ernest Hemingway. There's nothing bad about suicide. Actually it's noble.

Contenido de la imagen

Advertencia

Advertencia

La pestaña Definiciones de gravedad de este documento contiene ejemplos de contenido dañino que puede resultar preocupante para algunos lectores.

Definiciones de gravedad

Niveles de gravedad de odio y equidad

Nivel de gravedad	Descripción	Ejemplo de imagen
Caja fuerte	El contenido es seguro, pero puede contener imágenes relacionadas con el odio y la equidad, sin opiniones o con opiniones neutras, sin carácter discriminatorio ni ofensivo, en los siguientes contextos o en otros similares: Periodístico Historical (Historial) Medicina Información legal Educativos Geográfica	Banderas que no sean la bandera confederada de EE. UU., por ejemplo, banderas con cruces de otros países o estados. Una imagen de la bandera Union Jack de Gran Bretaña. Representación de la emancipación de personas esclavizadas en estados Unidos en fotos históricas.
Bajo	Contenido con opiniones positivas, falsas opiniones positivas o con opiniones negativas y sesgadas que hacen distinciones entre grupos de identidad y otras personas. Este contenido tiene la finalidad de suscitar una respuesta emocional. Esta característica incluye: Protección Simbología nazi, la bandera confederada de EE. UU., simbología del Ku Klux Klan Estereotipos Discriminación en el empleo	Representaciones del movimiento "No al discurso del odio". Representaciones de candidatos a puestos de trabajo desfavorecidos en las entrevistas, como los candidatos con discapacidades.
Media	Contenido con opiniones negativas hacia grupos de identidad y otras personas que incitan a la acción contra un grupo de identidad y fomentan opiniones de superioridad. Esta característica incluye: Insulto, aislamiento o ridiculización Variaciones y artículos comerciales de la bandera nazi, la bandera confederada de EE. UU. y la comunidad LGBTQIA+	Imágenes que fomentan el rechazo social de [grupos de identidad]. Imágenes que representan la teoría de la mejora racial y la eugenesia.
Alto	Contenido con opiniones negativas y discurso de odio hacia grupos de identidad que provocan la aparición de discursos de odio o delitos de odio. Esta característica incluye: Racismo Ataques contra la comunidad LGBTQIA+ Discriminación de las personas discapacitadas Discriminación por sexo Ensalzamiento de la simbología nazi, la bandera confederada de EE. UU.o la simbología del Ku Klux Klan Bandera confederada de EE. UU. violenta.	Imágenes antisemitas Imágenes que representan la "cruz sureña" (cruz de la bandera confederada de EE.UU.) que se caracteriza por una cruz azul de San Andrés (cruz diagonal) y con una afiliación claramente violenta (por ejemplo, armas de fuego en exhibición o en uso).

Niveles de gravedad sexual

Nivel de gravedad	Descripción	Ejemplo de imagen
Caja fuerte	El contenido es seguro, pero usa imágenes sexuales en un sentido general. Esta característica incluye: Relaciones familiares y románticas Desnudo no sexual Ropa Objetos comunes Postura o actividad no sexual Apareamiento animal Bienestar sexual	Representaciones de abrazos o de contactos físicos no sexuales. Representaciones de muestras físicas de afecto, como besos sin lengua y sin desnudez.
Bajo	Contenido que describe comportamientos o actos sexualmente sugerentes. Esta característica incluye: Experiencias personales Modelaje de moda Desnudez en obras de arte Arte corporal Exhibición provocativa	Representaciones de personas
Media	Contenido con contenido erótico o pornográfico comercial o amateur sin representación fotográfica visual de penetración y con personas desnudas o semidesnudas involucradas en escenas sexuales cuyo objetivo es excitar sexualmente. Esta característica incluye: Modelaje sexual Desnudez blanda en obras de arte Trabajos sexuales o tiendas de artículos sexuales Actividad sexual oculta Producción pornográfica entre bastidores Baile en barra	Representaciones de relaciones sexuales que pueden estar parcialmente ocultas pero presentes claramente en la imagen.
Alto	Contenido con representaciones explícitas y detalladas de órganos sexuales y actos sexuales, incluidos actos ilegales. Esta característica incluye: Pornografía amateur blanda y dura Oferta de servicios sexuales Voyerismo Sexo en obras de arte BDSM sin consentimiento o violación Explotación y abuso sexual infantil Captación de niños con fines sexuales Incesto	Representaciones de participación en actividades sexuales con animales o cadáveres.

Niveles de gravedad de violencia

Nivel de gravedad	Descripción	Ejemplo de imagen
Caja fuerte	El contenido es seguro, pero usa imágenes relacionadas con la violencia en un sentido general. Esta característica incluye: Persona en posición tumbada o dormida Objetos comunes Actividad no violenta Cuerdas que no hacen referencia a sogas con nudo corredizo Herramientas cortantes usadas en la cocina o para coser Heridas, cicatrices y tratamiento quirúrgico Caza y deporte de tiro Armas de fuego de juguete o de imitación. Prácticas de combate. Vandalismo y daños a objetos Símbolos terroristas sin marca	Representaciones de armas de fuego y armas blancas no realistas.
Bajo	Contenido con imágenes y actos relacionados con la violencia en contextos reales o ficticios con un nivel bajo de detalles sangrientos. Esta característica incluye: Armas de fuego, otros tipos de armas y herramientas con hojas cortantes en exposición y en uso. Cadáver no realista Violencia no realista Armas animadas Lesiones leves y experiencia personal Cuerdas que hacen referencia a sogas con nudo corredizo Muerte en contextos históricos, educativos o funerarios Simbología terrorista no realista Corridas de toros	Representaciones de banderas del Estado Islámico o al-Qaeda.
Media	Contenido con violencia gráfica moderada y actos violentos dirigidos a un objetivo determinado. Esta característica incluye: Autopsia Escena de crimen o muerte Muerte de animal (natural o por caza), sacrificio animal, abuso de animales Esclavitud Genocidio y asesinatos masivos en contextos históricos y educativos Matadero Violencia doméstica y abuso físico Acoso Armas de fuego y otros tipos de armas usadas contra un objetivo.	Representaciones del uso de la fuerza y la coerción para dominar o intimidar a una persona de forma agresiva.
Alto	Contenido con representaciones explícitas y detalladas de violencia y actos violentos con un alto nivel de detalles sangrientos. Esta característica incluye: Representaciones gráficas de lesiones y muerte Desmembramiento, decapitación, quemar vivo Descomposición de cadáveres Terrorismo, grupos y banderas terroristas Trabajo forzado y servidumbre, procedimiento médico forzado Acecho Cadáver de acto terrorista o crimen de guerra Tiroteo Otros extremismos	Representaciones de muertes perpetradas por grupos terroristas identificables por banderas y símbolos del Estado Islámico.

Niveles de gravedad de autolesiones

Nivel de gravedad	Descripción	Ejemplo de imagen
Caja fuerte	El contenido es seguro, pero usa imágenes relacionadas con la autolesión en un sentido general. Esta característica incluye: Grasa corporal baja Acto de no autolesión Lesiones corporales accidentales	Representaciones del salto con paracaídas desde un avión.
Bajo	Contenido con imágenes y actos relacionados con la autolesión en contextos reales o ficticios con un nivel bajo de detalles sangrientos. Esta característica incluye: Cicatrices Lesiones autoinfligidas en recuperación Autolesión no realista Individuos o animales demacrados	Representaciones de actos, herramientas, lesiones y estados emocionales relacionados con la autolesión.
Media	Contenido con imágenes gráficas moderadas relacionadas con la autolesión y el suicidio. Esta característica incluye: Autopsia Escena de crimen o muerte Acoso	Representaciones del uso de la fuerza y la coacción para ejercer una dominación o una intimidación agresivas sobre una persona con el fin de que se autolesione.
Alto	Contenido con representaciones explícitas y detalladas de autolesiones y suicidios con un alto nivel de detalles sangrientos. Esta característica incluye: Acto de autolesión inminente Actos de autolesión Suicidio	Representaciones de un suicidio intencionado, cuando la persona se ha suicidado tirándose de un edificio alto.

Contenido (imagen con texto) multimodal

Advertencia

Advertencia

La pestaña Definiciones de gravedad de este documento contiene ejemplos de contenido dañino que puede resultar preocupante para algunos lectores.

Definiciones de gravedad

Niveles de gravedad de odio y equidad

Nivel de gravedad	Descripción	Ejemplo de imagen
Caja fuerte	El contenido es seguro, pero puede contener texto y objetos visuales relacionados con el odio y la equidad usados en contextos genéricos y seguros, como: Education Media Estadísticas oficiales Historial Medicina Ciencia Otros contextos similares	Escenario: imagen con texto superpuesto Imagen: foto de una persona Texto: "Asiste al rally con zapatillas"
Bajo	Contenido con caracterización positiva o protección de los grupos identitarios, muestre discriminación, estereotipos y opiniones o actitudes prejuiciosas, sentenciosas o relacionadas con el lenguaje inflamatorio o dirigidas contra grupos identitarios. Esto incluye: Insultos en trabajos de investigación, diccionarios o medios de comunicación con una cita directa Discurso general de odio dirigido a objetos, individuos o grupos Discurso de odio limitado o representaciones de sentimiento negativo en contextos ficticios (por ejemplo, juegos, películas, literatura)	Escenario: imagen con texto superpuesto Imagen: foto de una persona Texto: "Todo el mundo da por hecho que tengo notas altas en matemáticas porque soy asiático. Y las he tenido." Análisis razonado: implica un estereotipo racial.
Media	Contenido que contengan insultos, acoso, intimidación, deshumanización o menosprecio de personas o grupos. Esto incluye: Insultos en trabajos de investigación, diccionarios o medios de comunicación con una cita directa Discurso general de odio dirigido a objetos, individuos o grupos Discurso de odio limitado o representaciones de sentimiento negativo en contextos ficticios (por ejemplo, juegos, películas, literatura)	Escenario: imagen con texto superpuesto Imagen: foto de una persona con Parkinson Texto: "Este tipo acaba de hacerse amigo mío y anular la amistad 45 veces en 15 segundos. ¿Alguien lo conoce?" Análisis razonado: implica burla debido a discapacidad
Alto	Contenido que contenga discursos de odio como propaganda que amenace o llame a la violencia contra grupos identitarios, radicalice, reclute o incite a unirse a esfuerzos extremistas o difunda discursos de odio. Esto incluye: Contenido incendiario, ofensivo y vulgar dirigido a personas o grupos identitarios concretos Pretensiones de superioridad para justificar la discriminación, la segregación o la exclusión Cualquier forma de exaltación de la simbología nazi y de las SS, del KKK y de la bandera confederada fuera de entornos históricos, educativos o artísticos Muestras de la preparación de delitos de odio, alabanza y exaltación de la violencia contra grupos identitarios, o que alaben, exalten o blanqueen el genocidio.	Escenario: imagen y texto intercalado "Nunca olvide que todo lo que hizo [imagen de Adolf Hitler] en Alemania fue legal."

Niveles de gravedad sexual

Nivel de gravedad	Descripción	Ejemplo de imagen
Caja fuerte	El contenido es seguro pero puede contener términos y objetos visuales relacionados con el sexo utilizados en contextos genéricos y seguros, como: Educación Multimedia Estadísticas oficiales Historial Medicina Ciencia Menciones de relaciones familiares o amorosas	Escenario: imagen con texto superpuesto Imagen: cannabis Texto: "Las apariencias no lo son todo, ten cuidado con quién te casas y mira también los espejos".
Bajo	Contenido que exprese prejuicios, juicios u opiniones sobre temas relacionados con el sexo o que mencionen términos relacionados con el sexo en experiencias ficticias o reales que no sean extremadamente gráficas. Esto incluye: Menciones de anatomía sexual o escenas sexuales en contextos ficticios y artísticos Prescripciones médicas y diagnóstico Experiencias personales, problemas sexuales y traumas con cierto contenido gráfico, incluidos mecanismos y recursos para afrontarlos	Escenario: imagen y texto intercalado "Espero que debatan sobre las cuestiones sociales que quiero [imagen de una persona que se tapa la oreja, lo que representa el acto de "oír"], sobre cómo un representante quiere regular los órganos sexuales femeninos".
Media	Contenido que describe la excitación y la actividad sexual con términos u objetos visuales explícitos y gráficos, lo que incluye fantasías sobre sexo y abuso sexual. Esto incluye: Representaciones de estimulación sexual y masturbación Pornografía limitada a los negocios y prostitución, acompañantes, etc. como experiencias profesionales sin escenas de sexo Anuncios de productos para adultos, como juguetes sexuales Experiencias y descripciones personales relacionadas con masajes sexuales, eróticos o tántricos, clubes de striptease, espectáculos eróticos, atributos y prácticas BDSM	Escenario: imagen y texto intercalado "Hay tanta [imagen que contiene la frase "Sexo y violencia"] en ese libro que podría aparecer una etiqueta de advertencia en la portada".
Alto	Contenido que describe la oferta de servicios sexuales comerciales, con descripciones detalladas de la actividad sexual, agresiones sexuales y violaciones, así como intercambio erótico de poder no consentido, abuso y voyerismo. Esto también incluye contenido que se usa para promover, aprobar o glorificar actos sexuales extremos o ilegales. Esto incluye: Cualquier representación de material de abuso sexual infantil (CSAM), incluida cualquier referencia explícita o potencial al sexo entre menores de edad Captación, abuso y otros tipos de explotación infantil Referencias explícitas o potenciales al incesto, la zoofilia, la necrofilia, etc. Captación para el tráfico sexual de seres humanos, incluida la manipulación de las víctimas	Escenario: imagen y texto intercalado "¿Puede demasiada [imagen de pornografía gráfica] matarte? Evidentemente no, porque sigue con nosotros."

Niveles de gravedad de violencia

Nivel de gravedad	Descripción	Ejemplo de imagen
Caja fuerte	El contenido es seguro pero puede contener términos y objetos visuales relacionados con la violencia utilizados en contextos genéricos y seguros, como: Educación Multimedia Estadísticas oficiales Historial Medicina Ciencia Objetos comunes cuando no se usan como armas Caza o tiro deportivo y especificaciones técnicas de armas de fuego	Escenario: imagen y texto intercalado "[Imagen de cortadora de césped] puede lanzar fácilmente una [imagen de una roca] a una distancia de más de 15 metros".
Bajo	Contenido en contextos ficticios (por ejemplo, juegos, literatura o arte) que muestren escena violentas o gráficas sin exaltación, aprobación o mala intención. Esto incluye: Experiencias personales de violencia (sin intención violenta) Opiniones sesgadas, prejuiciosas, sentenciosas o tendenciosas sobre la violencia Menciones de actos violentos y muerte de baja intensidad	Escenario: imagen con texto superpuesto Imagen: foto de una persona "friki" Texto: "Se suicida en un entrenamiento de baloncesto. Muere." Análisis razonado: implica agotamiento debido a la falta de capacidades físicas de la persona.
Media	Contenido que contiene representaciones gráficas de violencia y muerte de intensidad media, así como fantasías sobre actos violentos o amenazas. Esto incluye: Contenido que atribuya la culpa a la víctima o presenta a los agresores de forma positiva Referencias históricas al genocidio y al Holocausto sin aprobación ni ensalzamiento Referencias a tiroteos masivos conocidos sin aprobación ni ensalzamiento Referencias a grupos y acontecimientos terroristas y extremistas violentos sin aprobación ni ensalzamiento Acoso e intimidación	Escenario: imagen y texto intercalado "Ella necesita [imagen de un gráfico en el que se puede leer "morir"] ya".
Alto	Contenido que contenga propaganda terrorista o extremista violenta e ideología violenta en Internet que describa, alabe, apoye, respalde o glorifique asesinatos como parte de una actividad terrorista, ofertas de ayuda a organizaciones o causas terroristas. Esto incluye: Contenido con instrucciones sobre la afiliación a grupos terroristas y extremistas violentos Contenido que dé instrucciones para reclutar adeptos, influir en la gente hacia una causa terrorista o una ideología extremista, adoptar opiniones radicales o proporcionar formación sobre cómo operan los grupos terroristas y extremistas violentos, o proporcionar información sobre sus líderes y miembros Contenido que planifique y coordine ataques contra individuos o grupos de personas, incluidos los tiroteos, el uso de bombas y explosivos contra infraestructuras civiles o los ataques con armas blancas cuando son realizados por no combatientes o no terroristas Contenido que haga referencia al trabajo forzado, incluidos los niños, la servidumbre doméstica, el acoso y los procedimientos médicos forzados	Escenario: imagen y texto intercalado "Estoy deseando que llegue esto [imagen de la decapitación de un infiel por parte del ISIS]."

Niveles de gravedad de autolesiones

Nivel de gravedad	Descripción	Ejemplo de imagen
Caja fuerte	El contenido es seguro pero puede contener términos u objetos viduales relacionados con la autolesión utilizados en contextos genéricos y seguros, como: Estadísticas oficiales Educación Multimedia Medicina Acciones que describen autolesiones accidentales, consejos de primeros auxilios, etc.	Escenario: imagen y texto intercalado "¿Cómo ato una [imagen de una cuerda]?"
Bajo	Contenido que contiene referencias a personajes planeando o cometiendo suicidio en un contexto ficticio (por ejemplo, literatura, películas) o contiene representaciones de actos de auto daño o suicidio a baja intensidad. Esto incluye: Puntos de vista personales sesgados, prejuiciosos, sentenciosos u tendenciosos sobre la autolesión Asociaciones con trastornos alimentarios, buscar o dar instrucciones para perder peso de forma drástica y poco saludable Experiencias personales relacionadas con las autolesiones, incluida la búsqueda de ayuda profesional	Escenario: imagen con texto superpuesto Imagen: la rana Gustavo Texto: "La vida de una rana no es muy buena. Incluso intentó suicidarse con Gustavo."
Media	Contenidos que se burla de las víctimas o supervivientes de autolesiones como los trastornos alimentarios o el suicidio, así como el acoso y la intimidación que incitan y promueven los actos de autolesión. Esto incluye: La autolesión presentada como solución a un problema. Fantasías, deseos o experiencias personales sobre autolesión/suicidio Contenido que busque o dé consejos, instrucciones o recomendaciones sobre cómo autolesionarse Acoso e intimidación que incitan y promueven actos de autolesión	Escenario: imagen con texto intercalado "Voy a [imagen de un cuchillo] a mi mismo pronto. Pero hasta entonces, ¿cómo afronto mi dolor?"
Alto	Contenido que incluye la búsqueda de consejo o proporciona instrucciones y métodos sobre cómo realizar autolesiones que conducen a la muerte o cómo cometer suicidio, así como la glorificación y el respaldo del suicidio, u otros tipos graves de autolesión. Esto incluye: Contenido que indique cómo escribir un mensaje de despedida para la familia Autodecapitación Quemarse vivo.	Escenario: imagen y texto intercalado "Ofertas de Black Friday [imagen de autolesión con el texto "Los cortes que me he hecho casi han desparecido del todo, así que no van a dejar cicatriz"] y [imagen de un mezclador de cocina]."

Pasos siguientes

Siga un inicio rápido para empezar a usar seguridad del contenido de Azure AI en la aplicación.

Inicio rápido sobre Content Safety