Azure AI 콘텐츠 안전의 유해 범주
- 아티클
이 가이드에서는 Azure AI 콘텐츠 보안에서 콘텐츠를 신고하는 데 사용하는 모든 유해성 범주와 등급을 설명합니다. 텍스트와 이미지 콘텐츠 모두 동일한 플래그 집합을 사용합니다.
유해 범주
콘텐츠 안전에서는 불쾌한 콘텐츠를 네 가지 범주로 구분합니다.
| 범주 | 설명 | API 용어 |
|---|---|---|
| 증오와 공정성 | 혐오 및 공정성 관련 피해는 특정 그룹의 특정 차별화 특성에 따라 개인 또는 정체성 그룹을 언급하여 공격하거나 차별적인 언어를 사용하는 모든 콘텐츠를 나타냅니다. 여기에는 다음이 포함되지만 이에 제한되지 않습니다.
|
Hate |
| 성적 | 성적 범주는 해부학적 기관 및 생식기, 낭만적인 관계 및 성행위, 에로틱하거나 애정 어린 용어로 묘사된 행위(자신의 의지에 반하는 폭행 또는 강제 성폭력 행위로 묘사되는 행위 포함)와 관련된 언어를 설명합니다. 여기에는 다음 문서가 포함됩니다(이에 국한되지 않음).
|
Sexual |
| 폭력 | 폭력 범주는 누군가 또는 사물을 해치거나 손상시키거나 죽이려는 의도의 신체적 행동과 관련된 언어를 설명하거나 무기, 총기, 관련 개체에 대해 설명합니다. 여기에는 다음이 포함되지만 이에 국한되지는 않습니다.
|
Violence |
| 자해 | 자해란 의도적으로 자신의 신체를 다치게 하거나 손상시키거나 자살하려는 의도를 지닌 신체적 행동과 관련된 언어를 말합니다. 여기에는 다음이 포함되지만 이에 국한되지는 않습니다.
|
SelfHarm |
분류에는 다중 레이블이 지정될 수 있습니다. 예를 들어 텍스트 샘플이 텍스트 조정 모델을 거치면 성적인 콘텐츠와 폭력으로 분류될 수 있습니다.
심각도 수준
서비스가 적용되는 모든 피해 범주에는 심각도 수준 등급도 함께 제공됩니다. 심각도 수준은 플래그가 지정된 콘텐츠 표시로 인한 결과의 심각도를 나타냅니다.
텍스트: 현재 버전의 텍스트 모델은 전체 0-7 심각도 척도를 지원합니다. 분류자는 이 척도를 기준으로 모든 심각도를 검색합니다. 사용자가 지정하는 경우 0, 2, 4, 6이라는 단축 척도로 심각도를 반환할 수 있습니다. 인접한 두 수준은 각각 단일 수준에 매핑됩니다.
[0,1]->0[2,3]->2[4,5]->4[6,7]->6
이미지: 현재 버전의 이미지 모델은 전체 0-7 심각도 척도의 단축 버전을 지원합니다. 분류자는 심각도 0, 2, 4 및 6만 반환합니다.
0246
텍스트가 있는 이미지: 현재 버전의 다중 모달 모델은 전체 0-7 심각도 척도를 지원합니다. 분류자는 이 척도를 기준으로 모든 심각도를 검색합니다. 사용자가 지정하는 경우 0, 2, 4, 6이라는 단축 척도로 심각도를 반환할 수 있습니다. 인접한 두 수준은 각각 단일 수준에 매핑됩니다.
[0,1]->0[2,3]->2[4,5]->4[6,7]->6
텍스트 콘텐츠
Warning
이 문서의 심각도 정의 탭에는 일부 읽기 권한자에게 불편을 줄 수 있는 유해 콘텐츠의 예가 포함되어 있습니다.
증오심 및 공정성 심각도 수준
| 심각도 수준 | 설명 | 예제 텍스트 |
|---|---|---|
| 수준 0 | 일반적인 의미에서 사용되는 증오 및 공정성 관련 용어를 포함하며, 어린이를 비롯한 모든 대상 그룹에 적합한 콘텐츠입니다. 다음 내용이 포함됩니다.
|
I hate cats. |
| 수준 1 | 일반적인 의미로 사용되지만 맥락에 따라 다른 의미를 가질 수 있는 혐오 및 공정성 관련 용어가 포함되어 있고, 편향적이거나 부정적인 방식으로 특정 정체성 집단을 다른 집단과 구분하지 않는 콘텐츠 다음 내용이 포함됩니다.
|
Black people should not be killed by police or mistreated just because of their skin color. |
| 수준 2 | 긍정적인 감정 반응을 유발하는 정체성 그룹의 긍정적인 특성화 또는 보호를 포함하는 콘텐츠 다음 내용이 포함됩니다.
|
I hate you. |
| 수준 3 | 편견, 판단, 고정관념 또는 부정적인 감정이 포함된 콘텐츠 다음 내용이 포함됩니다.
|
I don't like [identity group] because they are all so aggressive. They attacked us over and over again for no reason at all. |
| 수준 4 | 직접적인 언어적 감정을 유발하는 모욕, 부정적인 댓글, 개인의 특성을 근거로 개인에게 상처를 주기 위해 특정 정체성 집단에 대한 묘사 형식으로 말하는 인종적 비하가 포함된 콘텐츠 다음 내용이 포함됩니다.
|
All [identity group] are ugly. |
| 수준 5 | 비인간화, 폭력, 사건 부인, 괴롭힘 또는 협박 행위를 통해 부정적인 감정을 조장하는, 개인 또는 집단에 대한 비인간화 또는 비하가 포함된 콘텐츠 다음 내용이 포함됩니다.
|
The [real world event] is a fraud. What we've discovered is that sources have been lying about the number of victims. Here is proof. |
| 수준 6 | 정체성 집단에 대한 부정적인 감정과 혐오 발언을 기반으로 하는 콘텐츠 특정 정체성 집단을 다른 정체성 집단과 구분하는 집단 특성을 언급하고, 그러한 특성을 기준으로 정체성 집단에 대한 조치를 취하도록 호소하는 행위 여기에는 다음이 포함될 수 있습니다.
|
Send [identity group] back to the gas chambers. |
| 수준 7 | 부정적인 정서에 기반을 두며, 증오 범죄 및 스토킹 의도를 드러내고, 적대적인 감정적 반응을 유발하고 정체성 집단 등을 차별하여 범죄로 이어질 수 있는 콘텐츠 다음 내용이 포함됩니다.
|
Millions of [identity group] were wiped out because they were the inferior race. Murdering them continues to be right and honorable because… |
성적 심각도 수준
| 심각도 수준 | 설명 | 예제 텍스트 |
|---|---|---|
| 수준 0 | 어린이를 포함한 모든 대상 그룹에게 무해한, 일반적인 의미로 사용하는 성 관련 용어가 포함된 콘텐츠
|
The sports bra and yoga pants were too tight for comfort. |
| 수준 1 | 일반적인 의미로 사용되지만 맥락에 따라 다른 의미를 가질 수 있는 성 관련 용어가 포함된 콘텐츠 여기에는 다음이 포함됩니다.
|
Fewer young adults are having sex than in previous generations. |
| 수준 2 | 극도로 노골적이지 않은 가상 또는 실제 경험관 관련된 성 관련 용어가 포함된 콘텐츠 여기에는 다음이 포함됩니다.
|
My husband and I introduced a vibrator to our sex life and it has really made a difference. |
| 수준 3 | 약간의 노골적인 내용, 성 관련 문제에 대한 편견, 선입견, 판단 또는 독단적인 견해를 표현하는 성 관련 용어가 나오는 콘텐츠 여기에는 다음이 포함됩니다.
|
We made out for a while, and he started to feel me up. I felt a bulge in his pants. |
| 수준 4 | 성적 환상, 전문적인 성 산업 및 광고, 성적인 동물 생식을 묘사하는 콘텐츠 여기에는 다음이 포함됩니다.
|
I got into BDSM because I had some friends into the lifestyle and it piqued my interest. I like using silk, scarves, collars, and bondage… |
| 수준 5 | 에로틱한 공연이나 경험을 개인적인 경험으로 묘사하는 콘텐츠, 명확한 동의가 있는 BDSM, 에로틱한 이야기 및 웹사이트 여기에는 다음이 포함됩니다.
|
We both climaxed at the same time. |
| 수준 6 | 성행위, 폭력적인 성적 학대 및 강간, 합의되지 않은 권력 교환, 학대, 관음증에 대한 자세한 설명을 포함하여 성적인 상업적 서비스의 권유를 설명하는 콘텐츠 여기에는 다음이 포함됩니다.
|
I love forced sex, it's so much hotter. |
| 수준 7 | 극단적인 형태의 성 노예화를 조장, 지지, 미화하는 데 사용하는 콘텐츠 극단적이거나 불법인 콘텐츠 여기에는 다음이 포함됩니다.
|
I was abused as a child by my uncle and I liked it. Nowadays, I make money by producing child pornography with my neighbor’s 6 year old son. |
폭력 심각도 수준
| 심각도 수준 | 설명 | 예제 텍스트 |
|---|---|---|
| 수준 0 | 폭력적이지 않은 행위 또는 어린이를 포함한 모든 대상 그룹에게 무해한 일반적인 의미로 사용하는 폭력 관련 용어가 포함된 콘텐츠 다음 내용이 포함됩니다.
|
According to our child and parent testers, here are the best long-range soakers for soft blasters for toddlers suitable for epic water battles. |
| 수준 1 | 일반적인 의미로 사용되지만 맥락에 따라 다른 의미를 가질 수 있는 폭력 관련 용어 또는 행위가 포함된 콘텐츠 다음 내용이 포함됩니다.
|
Carnivores such as lions and tigers are prone to killing one another. Death occurs at the paws, claws, jaws, or tusks that might fatally gore one another during fights. |
| 수준 2 | 극도로 노골적이지 않으며 악의를 미화하거나 지지하지 않는 가상 또는 실제 경험 속 폭력 관련 용어 또는 행위가 포함된 콘텐츠 다음 내용이 포함됩니다.
|
Physical punishment is a way to correct bad behavior and doesn’t cause harm to children. |
| 수준 3 | 약간의 노골적인 내용, 폭력 관련 문제에 대한 편견, 선입견, 판단 또는 독단적인 견해를 표현하는 폭력 관련 용어 또는 행위가 나오는 콘텐츠 다음 내용이 포함됩니다.
|
Some people just need to be slapped. |
| 수준 4 | 피해자가 신체적 학대를 당하는 이유에 대한 근거 없는 주장, 가해자의 긍정적인 자질에 대한 근거 없는 평가, 폭력 행위 위협 및 타인을 해치는 방법과 관련된 환상, 중간 정도의 잔혹한 묘사가 포함된 콘텐츠 다음 내용이 포함됩니다.
|
Victims of abuse deserve to be hit. They push and push until they get what they deserve. |
| 수준 5 | 특정 개인이나 집단을 해치는 방법에 대한 직접적인 지침을 제공하여 폭력을 조장하는 콘텐츠 다음 내용이 포함됩니다.
|
Go to another state or another city and kill any stranger; for example, shoot them with a silencer gun. Since you have not any connection with him, you will not get caught. |
| 수준 6 | 극단주의 단체 및 테러 조직, 대량 살상 및 노골적이고 대단히 잔인한 신체적 피해를 묘사하는 콘텐츠, 테러 조장 및 테러 선전물 다음 내용이 포함됩니다.
|
We must kill them all. God wills it, and society will be better for it. |
| 수준 7 | 극단적인 형태의 폭력을 묘사, 찬양, 지지, 홍보, 추천, 미화하는 데 사용하는 콘텐츠 테러 조직을 지원하거나 급진화, 지시 또는 교훈하는 콘텐츠 다음 내용이 포함됩니다.
|
Let's call and threaten to explode the hospital during the weekend. I've got the explosives ready, and will have them installed tonight. |
자해 심각도 수준
| 심각도 수준 | 설명 | 예제 텍스트 |
|---|---|---|
| 수준 0 – 안전 | 어린이를 포함한 모든 대상 그룹에게 무해한, 일반적인 의미로 사용하는 자해 용어가 포함된 콘텐츠 다음 내용이 포함됩니다.
|
I appreciate your hard work, but you don't need to keep killing yourself over this project. |
| 수준 1 | 일반적인 의미로 사용되지만 맥락에 따라 다른 의미를 가질 수 있는 자해 관련 용어가 포함된 콘텐츠 다음 내용이 포함됩니다.
|
Binging and purging may be a warning sign for people with a history of extreme weight loss. |
| 수준 2 | 극도로 노골적이지 않은 가상 또는 실제 경험관 관련된 자해 관련 용어 또는 행위가 포함된 콘텐츠 다음 내용이 포함됩니다.
|
Oedipus stabbed his eyes in despair. |
| 수준 3 | 약간의 노골적인 내용, 자해 관련 문제에 대한 편견, 선입견, 판단 또는 독단적인 견해를 표현하는 자해 관련 용어 또는 행위가 나오는 콘텐츠 다음 내용이 포함됩니다.
|
I'm really struggling with self-loathing and thoughts of self-harm to relieve my distress after my friend took his own life last month. Please can someone give me any useful advice? |
| 수준 4 | 자살 또는 자해의 피해자 또는 생존자를 조롱하거나, 자해에 대해 근거 없는 긍정적 특성을 부여하거나, 자해에 대한 환상 또는 희망이 포함되거나, 죽음과 부검, 범죄 또는 사망 현장과 관련된 대단히 노골적인 내용을 포함하는 콘텐츠 다음 내용이 포함됩니다.
|
It's hilarious when [identity group] kill themselves. |
| 수준 5 | 자해를 조장하거나 피해자를 괴롭히는 방법에 대한 직접적인 지침을 제공하여 자해를 조장하는 콘텐츠 다음 내용이 포함됩니다.
|
Go kill yourself, you are worthless. |
| 수준 6 | 자살 방법에 대한 상세하고 노골적인 지침을 설명하는 콘텐츠 다음 내용이 포함됩니다.
|
Here is a quick guide to do-it-yourself suicide. One method is asphyxia suicide by inhaling helium inside a plastic bag. |
| 수준 7 | 자살 또는 기타 심각한 자해 행위를 지지하고 미화하는 콘텐츠 다음 내용이 포함됩니다.
|
Get a shotgun and blow your brains out. It won't even hurt. And you'll be remembered for ages, like Kurt Cobain or Ernest Hemingway. There's nothing bad about suicide. Actually it's noble. |
이미지 콘텐츠
Warning
이 문서의 심각도 정의 탭에는 일부 읽기 권한자에게 불편을 줄 수 있는 유해 콘텐츠의 예가 포함되어 있습니다.
증오심 및 공정성 심각도 수준
| 심각도 수준 | 설명 | 이미지 예 |
|---|---|---|
| Safe | 콘텐츠는 안전하지만 다음과 같은 컨텍스트에서 차별적이지 않고 공격적이지 않은 방식으로 감정이 없거나 중립적인 감정 없이 증오 및 공정성 관련 이미지가 포함될 수 있습니다.
|
비동맹 국기(예: 십자가를 특징으로 하는 국가 또는 국가의 깃발)
|
| 낮음 | 긍정적 감정, 가양성 감정 또는 다른 ID 그룹을 차별화하는 부정적인 편향된 감정을 포함하는 콘텐츠입니다. 이 콘텐츠는 감정적인 반응을 트리거하기 위한 것입니다. 다음 내용이 포함됩니다.
|
'불쾌한 표현 금지' 운동의 표현 면접 환경에서 장애인 지원자 등 우선 순위가 낮은 구직자의 표현 |
| 중간 | 정체성 집단 및 기타 정체성 집단에 대한 부정적인 정서 행동을 포함하여 정체성 집단 및 우월감에 대한 행동을 조장하는 콘텐츠 다음 내용이 포함됩니다.
|
[정체성 집단]의 사회적 기피를 조장하는 이미지 인종 개선 이론과 우생학을 묘사하는 이미지 |
| 높음 | 특정 집단에 대한 부정적인 정서와 불쾌한 표현이 포함되어 불쾌한 표현 생성 또는 혐오 범죄로 이어지는 콘텐츠입니다. 다음 내용이 포함됩니다.
|
반유대주의 이미지 명백한 폭력(예: 전시/사용 중인 총)과 관련이 있는 파란색 솔타이어(대각선 십자가)가 기능인 "남십자성"을 묘사한 이미지 |
성적 심각도 수준
| 심각도 수준 | 설명 | 이미지 예 |
|---|---|---|
| Safe | 콘텐츠는 안전하지만 일반적인 의미로 사용되는 성적인 관련 이미지를 포함하고 있습니다. 다음 내용이 포함됩니다.
|
껴안거나 성적이지 않은 신체 접촉을 하는 표현 혀 없이 키스하거나 과도한 노출 없이 키스하는 등 신체적 애정 표현을 묘사하는 표현 |
| 낮음 | 성적으로 암시적인 동작이나 행위가 포함된 콘텐츠입니다. 다음 내용이 포함됩니다.
|
사람들의 묘사 |
| 중간 | 시각적인 사진 삽입 없이 상업 및 아마추어 에로틱 및/또는 음란물 콘텐츠와 성적 흥분을 목적으로 성적인 장면에 참여하는 누드 또는 반나체 참가자를 포함하는 콘텐츠입니다. 다음 내용이 포함됩니다.
|
부분적으로 가려질 수 있지만 이미지에는 여전히 선명하게 나타나는 성교 묘사 |
| 높음 | 불법 행위를 포함하여 성기 및 성행위에 대한 노골적이고 상세한 묘사가 포함된 콘텐츠입니다. 다음 내용이 포함됩니다.
|
동물 또는 시체와의 성행위에 대한 묘사 |
폭력 심각도 수준
| 심각도 수준 | 설명 | 이미지 예 |
|---|---|---|
| Safe | 콘텐츠는 안전하지만 일반적인 의미로 사용되는 폭력 관련 이미지를 포함하고 있습니다. 다음 내용이 포함됩니다.
|
비현실적인 무기 및 칼날이 달린 도구에 대한 묘사 |
| 낮음 | 폭력 관련 이미지를 포함하고 현실 세계 또는 허구의 컨텍스트에서 행위를 하는 콘텐츠로 고어 수준이 낮습니다. 다음 내용이 포함됩니다.
|
ISIS/알카에다 깃발 묘사 |
| 중간 | 식별된 대상을 겨냥한 적당한 노골적인 폭력 및 폭력적인 행위가 포함된 콘텐츠입니다. 다음 내용이 포함됩니다.
|
개인을 공격적으로 지배하거나 위협하기 위해 힘과 강압을 사용하는 것에 대한 묘사 |
| 높음 | 고어(Gore) 수준의 폭력 행위에 대한 노골적이고 상세한 묘사가 포함된 콘텐츠입니다. 다음 내용이 포함됩니다.
|
ISIS 깃발과 상징으로 식별 가능한 테러리스트 집단의 죽음에 대한 묘사 |
자해 심각도 수준
| 심각도 수준 | 설명 | 이미지 예 |
|---|---|---|
| Safe | 콘텐츠는 안전하지만 일반적인 의미로 사용되는 자해 관련 이미지를 포함하고 있습니다. 다음 내용이 포함됩니다.
|
낙하산을 이용해 비행기에서 뛰어내리는 묘사 |
| 낮음 | 자해 관련 이미지를 포함하고 현실 세계 또는 고어 수준이 낮은 허구의 컨텍스트에서 행동하는 콘텐츠입니다. 다음 내용이 포함됩니다.
|
자해 관련 행위, 도구, 부상 및 감정 상태에 대한 표현 |
| 중간 | 자해 및 자살과 관련된 중간 정도의 노골적인 이미지가 포함된 콘텐츠입니다. 다음 내용이 포함됩니다.
|
개인을 공격적으로 지배하거나 위협하여 자해를 하도록 무력과 강압을 사용하는 표현 |
| 높음 | 고어의 자해 및 자살에 대한 노골적이고 상세한 묘사가 포함된 콘텐츠입니다. 다음 내용이 포함됩니다.
|
높은 건물에서 뛰어내려 자살하는 고의적인 자살 묘사 |
다중 모달(텍스트가 있는 이미지) 콘텐츠
Warning
이 문서의 심각도 정의 탭에는 일부 읽기 권한자에게 불편을 줄 수 있는 유해 콘텐츠의 예가 포함되어 있습니다.
증오심 및 공정성 심각도 수준
| 심각도 수준 | 설명 | 이미지 예 |
|---|---|---|
| Safe | 콘텐츠는 안전하지만 다음과 같이 일반적이고 안전한 컨텍스트에서 사용되는 증오심 및 공정성 관련 텍스트 및 시각적 개체를 포함할 수 있습니다.
|
시나리오: 텍스트가 있는 이미지 오버레이 이미지: 사람의 평온한 사진 텍스트 : "운동화를 신고 집회에 참석" |
| 낮음 | 정체성 그룹에 대한 긍정적인 특징이나 보호를 포함하고, 불쾌한 표현이나 정체성 그룹을 대상으로 삼는 것과 관련된 차별, 고정관념, 편견, 비판적 또는 독선적인 견해나 태도를 나타내는 콘텐츠입니다. 여기에는 다음이 포함됩니다.
|
시나리오: 텍스트가 있는 이미지 오버레이 이미지: 사람의 평온한 사진 텍스트: "모두가 내가 아시아인이기 때문에’수학에서 높은 성적을 얻었다고 생각합니다. 그랬습니다." 근거: 인종적 고정 관념을 의미합니다. |
| 중간 | 개인이나 집단에 대한 모욕, 괴롭힘, 위협, 비인간화 또는 경멸을 포함하는 콘텐츠입니다. 여기에는 다음이 포함됩니다.
|
시나리오: 텍스트가 있는 이미지 오버레이 이미지: 파킨슨병이 있는 사람의 평온한 사진 텍스트: "이 사람은 15초 만에 45번이나 나를 친구로 추가했다가 삭제했습니다. 그를 아시는 분 있나요?" 근거: 장애로 인한 조롱을 의미합니다. |
| 높음 | 정체성 집단에 대한 폭력을 조장하거나 위협하거나 과격화하거나 사람들을 모집하거나 선동하여 극단주의 활동에 가담하거나 불쾌한 표현을 퍼뜨리도록 선동하는 불쾌한 표현이 포함된 콘텐츠입니다. 여기에는 다음이 포함됩니다.
|
시나리오: 이미지 및 텍스트 인터리브 "독일에서 [아돌프 히틀러의 이미지]가 한 모든 짓이 합법적이었다는 사실을 절대 잊지 마세요." |
성적 심각도 수준
| 심각도 수준 | 설명 | 이미지 예 |
|---|---|---|
| Safe | 콘텐츠는 안전하지만 다음과 같이 일반적이고 안전한 컨텍스트에서 사용되는 성적인 관련 용어 또는 시각적 개체를 포함할 수 있습니다.
|
시나리오: 텍스트가 있는 이미지 오버레이 이미지: 스컹크 텍스트 : "외모가 모든 것이 아니며, 결혼할 대상을 고를 때 신중하고 거울에 비친 자신의 모습도 확인하세요." |
| 낮음 | 성적으로 관련된 항목에 대한 편견, 비판적 또는 독선적인 견해를 표현하거나 극도로 생생하지 않은 가상 또는 실제 환경에서 성적으로 관련된 용어를 언급하는 콘텐츠입니다. 여기에는 다음이 포함됩니다.
|
시나리오: 이미지 및 텍스트 인터리브 "저는 그들이 대표가 여성 생식 기관을 규제하고자 하는 방법에 대한 [”듣는 모습"를 나타내는 손으로 귀를 받치는 사람의 이미지] 사회 문제를 논의하기를 바랍니다." |
| 중간 | 성적 흥분과 작업을 노골적인 용어 또는 시각적 개체로 설명하는 콘텐츠에는 성행위와 성적 학대에 대한 환상이 포함됩니다. 여기에는 다음이 포함됩니다.
|
시나리오: 이미지 및 텍스트 인터리브 "그 책에는 표지에 경고 레이블을 사용할 수 있는 너무 많은 [성 및 폭력"이라는 문구가 담긴 이미지] 콘텐츠가 있습니다." |
| 높음 | 성행위, 폭력적인 성적 학대 및 강간, 합의되지 않은 권력 교환, 학대, 관음증에 대한 자세한 설명을 포함하여 성적인 상업적 서비스의 권유를 설명하는 콘텐츠입니다. 여기에는 극단적이거나 불법적인 성행위를 조장, 지지 또는 미화하는 데 사용되는 콘텐츠도 포함됩니다. 여기에는 다음이 포함됩니다.
|
시나리오: 이미지 및 텍스트 인터리브 "너무 많은 [그래픽 외설물의 이미지] 콘텐츠가 실제로 당신을 죽일 수 있을까요? 여러분이 지금 우리와 함께 있으니까 분명히 아닐 것입니다." |
폭력 심각도 수준
| 심각도 수준 | 설명 | 이미지 예 |
|---|---|---|
| Safe | 콘텐츠는 안전하지만 다음과 같이 일반적이고 안전한 컨텍스트에서 사용되는 폭력과 관련된 용어 및 시각적 개체를 포함할 수 있습니다.
|
시나리오: 이미지 및 텍스트 인터리브 "[잔디 깎는 기계의 이미지]는 쉽게 50피트 이상 거리로 [바위의 이미지]를 던질 수 있습니다." |
| 낮음 | 미화, 보증 또는 악의적인 의도 없이 폭력적이거나 노골적인 장면을 묘사하는 허구적 컨텍스트(예: 게임, 문학, 예술)의 콘텐츠입니다. 여기에는 다음이 포함됩니다.
|
시나리오: 텍스트가 있는 이미지 오버레이 이미지: "컴퓨터만 아는 괴짜" 사람의 평온한 사진 텍스트: "농구 연습 중에 자살을 합니다. 죽습니다." 근거: 사람의 신체적 능력 부족으로 인한 피로를 의미합니다. |
| 중간 | 중간 강도의 폭력 및 죽음에 대한 노골적인 묘사와 폭력 행위 또는 위협에 대한 환상이 포함된 콘텐츠입니다. 여기에는 다음이 포함됩니다.
|
시나리오: 이미지 및 텍스트 인터리브 "그녀는 이미 [”죽는 것"이라고 표시되는 그래픽의 이미지]이 필요합니다." |
| 높음 | 테러 작업의 일환으로 살인을 묘사, 칭찬, 지원, 지지 또는 미화하고, 테러 조직이나 작업에 대한 지원을 제공하는 인터넷상의 테러리스트 또는 폭력적인 극단주의 선전과 폭력적인 이데올로기를 포함하는 콘텐츠입니다. 여기에는 다음이 포함됩니다.
|
시나리오: 이미지 및 텍스트 인터리브 "나는 이것[ISIS 이교도 참수 이미지]이 너무 보고 싶습니다." |
자해 심각도 수준
| 심각도 수준 | 설명 | 이미지 예 |
|---|---|---|
| Safe | 콘텐츠는 안전하지만 다음과 같이 일반적이고 안전한 컨텍스트에서 사용되는 자해 관련 용어 또는 시각적 개체를 포함할 수 있습니다.
|
시나리오: 이미지 및 텍스트 인터리브 "[밧줄 이미지]을 매는 방법은 무엇인가요?" |
| 낮음 | 허구의 컨텍스트(예: 문학, 영화)에서 캐릭터가 자살을 계획하거나 자살하는 것에 대한 언급이 포함되어 있거나 자해 행위 또는 자살에 대한 묘사가 낮은 강도로 포함되어 있는 콘텐츠입니다. 여기에는 다음이 포함됩니다.
|
시나리오: 텍스트가 있는 이미지 오버레이 이미지: 개구리 커밋 텍스트: "개구리의 삶은 좋지 않습니다. 심지어 커밋은 자살을 시도했습니다." |
| 중간 | 섭식장애, 자살 등 자해의 피해자나 생존자를 조롱하는 콘텐츠, 자해 행위를 선동하고 조장하는 괴롭힘, 협박을 포함하는 콘텐츠입니다. 여기에는 다음이 포함됩니다.
|
시나리오: 텍스트가 인터리브된 이미지 "나는 곧 [칼 이미지] 자살할 것입니다. 하지만 그때까지 어떻게 고통에 길들여질 수 있을까요?" |
| 높음 | 조언에 대한 연구를 포함하거나 사망으로 이어지는 자해에 참여하는 방법, 자살하는 방법, 자살 또는 기타 심각한 형식의 자해를 미화하고 지지하는 방법에 대한 지침과 방법을 제공하는 콘텐츠입니다. 여기에는 다음이 포함됩니다.
|
시나리오: 이미지 및 텍스트 인터리브 "블랙 프라이데이 ["내 자해 상처는 거의 완전히 흐려졌으므로 흉터가 없습니다.’"텍스트를 포함하는 자해 이미지] 그리고 [부엌의 믹서 이미지] 구매 |
다음 단계
애플리케이션에서 Azure AI 콘텐츠 보안 사용을 시작하려면 빠른 시작을 따르세요.
피드백
이 페이지가 도움이 되었나요?