Azure AI 內容安全性中的傷害類別
本文內容
傷害類別
嚴重性層級
文字內容
映像內容
多模式 (包含文字的圖片) 內容
下一步
顯示其他 2 個
本指南說明 Azure AI 內容安全性用來標示內容的所有損害類別和評等。 文字和影像內容都使用同一組旗標。
內容安全性可辨識四種不同的令人反感內容類別。
展開資料表
類別
描述
API 字詞
仇恨和公平性
仇恨和公平傷害是指攻擊或使用歧視性語言的任何內容,以根據這些群組的特定區分屬性來參考個人或身份群組。 其中包括 (但不限於):種族、人種、國籍 性別認同群組和運算式 性傾向 宗教 個人外貌和體型 身心障礙狀態 騷擾和欺淩
Hate
兩性
性相關描述與生理器官和生殖器、情愛關係和性行為、以性愛或親暱詞彙描繪行為相關的語言,包括描繪為違反個人意願的侵犯或強迫性暴力行為。 其中包括 (但不限於):粗俗內容 賣淫 裸體和色情 濫用 剝削兒童行為、兒童虐待、兒童性誘拐
Sexual
暴力
暴力描述與旨在傷害、傷害、傷害或殺害某人或某物的身體行動相關的語言:描述武器、槍支和相關實體。 其中包括 (但不限於):
Violence
自殘
自殘描述的語言與身體動作相關,其意圖為刻意損害、傷害、毀壞某人的身體或自殺。 其中包括 (但不限於):
SelfHarm
分類可以為多標籤的。 例如,當文字範例通過文字調節模型時,可以同時分類為色情內容和暴力內容。
服務套用的每個傷害類別也會隨附嚴重性等級評等。 嚴重性層級旨在指出顯示標記內容結果的嚴重性。
文字 :目前的文字模型版本支援完整的 0-7 嚴重性級別。 分類器會沿著這個規模偵測到所有嚴重性。 如果使用者指定,分類器可以傳回已調整 0、2、4 和 6 級別中的嚴重性;每兩個相鄰層級都會對應至單一層級。
[0,1]
->0
[2,3]
->2
[4,5]
->4
[6,7]
->6
影像 :目前的影像模型版本支援完整 0-7 嚴重性級別的已調整版本。 分類器只會傳回嚴重性 0、2、4 和 6。
包含文字的圖片 :多模式模型的目前版本支援完整的 0-7 嚴重性等級。 分類器會沿著這個規模偵測到所有嚴重性。 如果使用者指定,分類器可以傳回已調整 0、2、4 和 6 級別中的嚴重性;每兩個相鄰層級都會對應至單一層級。
[0,1]
->0
[2,3]
->2
[4,5]
->4
[6,7]
->6
警告
本文件中的 [嚴重性定義] 索引標籤包含可能會讓某些讀者感到不適的有害內容範例。
展開資料表
嚴重層級
說明
範例文字
層級 0
內容包含一般意義上使用的仇恨和公正相關字詞,適用於包含兒童在內的所有目標受眾。 這包括:針對身分群體表達厭惡的一般貶義語言 身分群體屬性,如歷史、地理、醫療等類似背景中的種族、種族地位、宗教等的不帶情感一般陳述 在上下文外不具有冒犯意圖的種族意味一般字詞
I hate cats.
層級 1
內容包含一般意義上使用的仇恨和公平相關字詞,但可能會根據內容包含不同的意義,而且不會以偏見或負面的方式區分身分群體和其他人。 這包括:官方統計資料、法律或文件 新聞/媒體報導 教育資源旨提升多樣性/處理仇恨言論的意識 美白皮膚的產品和治療廣告 提及印歐語國家的卍字符號、邦聯旗、視覺上類似 KKK 的非 KKK 群組
Black people should not be killed by police or mistreated just because of their skin color.
層級 2
包含正面特徵或保護會觸發正面情緒反應的身分群體的內容。 這包括:在研究論文、字典或媒體直接引述中完整拼出的詆毀 身分群體發言者無意針對相同身分群體所發表的陳述 非針對身分群體的咒罵、褻瀆和口頭侮辱 非針對特定身分群體,而是以身分不明個人/群體為目標的一般仇恨言論 建立冒犯性字詞封鎖清單的使用者意圖 納粹德國、希特勒、邦聯旗和電影中三 K 黨的象徵符號、影片遊戲、服裝、玩具、重演或網路俚語代表
I hate you.
層級 3
包含偏見、批判性、刻板印象特徵或負面情感的內容。 這包括:基於刻板印象或負面情緒的意見 表達偏見、批判或武斷式觀點 身分群體與他人之間的負面或正面比較。 虛構世界中的提及 工作招聘中的就業歧視 與納粹德國、美國內戰期間邦聯旗或三 K 黨有關的歷史事實和文物
I don't like [identity group] because they are all so aggressive. They attacked us over and over again for no reason at all.
層級 4
內容中包含直接以語言表達的侮辱、負面評論和種族歧視語言,這些用語用於描述身分群體,目的為根據個人屬性傷害個人。 這包括:針對特定種族、膚色的涉及 倡導社交迴避和孤立 模擬和模仿身分群體的屬性
All [identity group] are ugly.
層級 5
內容中包含對個人或群體的非人化或貶低,並透過非人化、暴力、否認事件、霸凌或恐嚇行為來加深負面情緒。 這包括:否認歷史、有充分記錄和暴力事件的文字,例如大屠殺 描述個人或群體因屬於身分群體,而身分或精神相較他人低下的文字 質疑、拒絕或貶低身分群體存在的文字 強制執行想要的/預期屬性 以身分群體為目標的優生學和「種族改善」理論 包含納粹、邦聯旗或三 K 黨符號的現代化商品
The [real world event] is a fraud. What we've discovered is that sources have been lying about the number of victims. Here is proof.
層級 6
以針對身分群體的負面情緒和仇恨言論為基礎的內容。 透過提及區分身分群體和其他群體的特徵,並呼籲根據其屬性對身分群體採取行動。 此可包括:仇恨言論宣傳,可被視為對身分群體的直接威脅或呼籲針對身分群體的暴力行為 煽動性、冒犯性和粗俗仇恨言論 聲稱一個群體優於具特定身分群體屬性的人,從而為歧視、隔離或排斥行為辯護 描述針對身分群體的暴力事件中感到愉悅的文字
Send [identity group] back to the gas chambers.
層級 7
根據負面情緒的內容,顯示出仇恨犯罪和跟蹤的意圖、觸發敵對的情緒反應,並區分身分群體與其他群體,進而導致犯罪發生。 這包括:仇恨犯罪準備、讚揚和美化針對身分群體的暴力行為 包含極端主義團體招募材料的文字 旨在以身分群體為目標的激進化和鼓勵仇恨言論文字
Millions of [identity group] were wiped out because they were the inferior race. Murdering them continues to be right and honorable because…
展開資料表
嚴重層級
說明
範例文字
層級 0
內容包含一般意義上使用的性方面相關字詞,對於包含兒童在內的所有目標受眾不具有傷害性。 提到家庭關係的內容 對於包含兒童在內的所有目標受眾不具有傷害性的內容
The sports bra and yoga pants were too tight for comfort.
層級 1
內容包含一般意義上使用的性方面相關字詞,但可能會根據內容取得不同的意義。 這包括:關於性相關主題的官方統計資料和文件 新聞/媒體報導 解剖術語、性解剖學和醫學治療 關於性、性健康和性意識等的教育資源。 提到生物性別或描述性繁殖的內容 以非露骨字詞描述戀愛關係的文字
Fewer young adults are having sex than in previous generations.
層級 2
包含虛構或真實世界體驗中與性相關的非露骨字詞內容。 這包括:提到文學/藝術文字、電影、雕塑等的內容,其中包含有限的色情言談或簡短非露骨的裸體場景 涉及性的一般個人經驗、性問題和創傷,並分享應對機制和資源以解決這些問題的內容 建立封鎖性相關內容清單的使用者意圖 輕微提及性行為和裸體的內容
My husband and I introduced a vibrator to our sex life and it has really made a difference.
層級 3
包含性相關字詞的內容,其涉及露骨細節,或表達對性相關問題的偏見、歧視、批判或主觀觀點的意見。 這包括:
We made out for a while, and he started to feel me up. I felt a bulge in his pants.
層級 4
描述性幻想、職業性產業、廣告和性化動物繁殖的內容。 這包括:不同類型的性幻想,包括想像真實或虛構裸露 不具備性場景描述的專業性產業 避孕套、潤滑劑、性玩具、服裝等廣告。 描述動物或類似動物角色之間性繁殖的內容,其中包含露骨內容 稍微提及性行為和裸體的內容
I got into BDSM because I had some friends into the lifestyle and it piqued my interest. I like using silk, scarves, collars, and bondage…
層級 5
描述色情表演或經驗的內容,包括個人經驗、明確同意的 BDSM 行為,以及色情故事和網站。 這包括:提及性按摩、色情按摩或譚崔式按摩、脫衣舞俱樂部、色情表演等做為個人經驗的內容 (非專業服務) 與 BDSM 屬性和實踐相關的個人體驗和描述,包含一般或具有明確 BDSM 實踐內容的情況 提及與性慾或快感相關的非商業色情內容
We both climaxed at the same time.
層級 6
描述性交易服務攬客行為、詳細描述性愛活動、暴力性虐待、強暴、非自願性關係、脅迫和偷窺行為的內容。 這包括:提及用手或其他物品刺激生殖器、自慰等內容。 涉及身體液體、性控制情境或沒有無明確同意 BDSM 活動的戀物癖或粗俗內容 以露骨詳細描述性暴力、性侵犯、強姦或虐待的文字 賦予性侵正面特質的文字 尋求或提供執行性侵犯指示的文字 敲詐和威脅公開未經同意的先前錄製性影像或影片的行為
I love forced sex, it's so much hotter.
層級 7
用於宣揚、認可、讚揚極端形式之性奴役內容。 極端或非法的內容。 這包括:與動物和屍體等發生性關係。 戀童癖 尋求或提供關於誘拐兒童的指示 明確或暗示提及亂倫的內容 人口性販賣招募
I was abused as a child by my uncle and I liked it. Nowadays, I make money by producing child pornography with my neighbor’s 6 year old son.
展開資料表
嚴重層級
說明
範例文字
層級 0
內容包含一般意義上使用的非暴力行為或暴力相關字詞,對於包含兒童在內的所有目標受眾不具有傷害性。 這包括:不做為武器使用時的常見物品 玩具槍,非現實或假槍 提及繩子時,並非絞索用途的情況
According to our child and parent testers, here are the best long-range soakers for soft blasters for toddlers suitable for epic water battles.
層級 1
內容包含一般意義上使用的暴力相關字詞或行為,但可能會根據內容取得不同的意義。 這包括:包含暴力行為描述的文字子集,其中全文的脈絡化不具有暴力意圖 關於槍支、武器、家庭暴力、戰爭、軍事等的官方統計資料和文件。 與暴力相關的教育資源 新聞/媒體報導 醫療條款與內容 狩獵或射擊運動和槍砲技術規格 戰鬥演練 與 ISIS/蓋達組織無關的反恐和恐怖主義符號
Carnivores such as lions and tigers are prone to killing one another. Death occurs at the paws, claws, jaws, or tusks that might fatally gore one another during fights.
層級 2
包含與暴力相關的術語或行為的內容,無論是在虛構還是真實世界經驗中,這些內容非極為露骨,且不讚揚或支持惡意。 這包括:第一、第二和第三人稱電玩遊戲、描繪暴力或露骨場景的文學/藝術文字 遊戲提示和建議 個人經驗中,個人描述如何遭遇到某種類型的暴力 提及繩子時,在沒有涉及人類的情況下用做為絞索,或與絞索無關的情況 使用者的意圖為建立封鎖暴力內容的清單
Physical punishment is a way to correct bad behavior and doesn’t cause harm to children.
層級 3
包含暴力相關字詞的內容或行為,其涉及露骨細節,或表達對暴力的偏見、歧視、批判或主觀觀點的意見。 這包括:允許虐待特定動物 聲稱對某種暴力類型產生正面影響的文字
Some people just need to be slapped.
層級 4
描述受害者為何遭受身體虐待的無根據基本理由、對施虐者的無根據正面評價、暴力行為威脅和有關傷害他人的幻想,以及中等程度的血腥內容。 這包括:檢討受害者或以正面角度描述加害者的文字 具有中等程度的血腥內容的暴力和死亡露骨描述 驗屍報告、法醫調查、犯罪或死亡現場 肉類和家禽設施,以及宗教動物獻祭 提及歷史上或近期的種族滅絕事件,以及已知的大規模傷亡槍擊事件,但不表達支持或予以讚揚 涉及恐怖分子和暴力極端主義的事件,且並未表達支持或予以讚揚
Victims of abuse deserve to be hit. They push and push until they get what they deserve.
層級 5
提供如何傷害特定個人或群體之直接指示的教唆暴力內容。 這包括:煽動針對目標個人/群體的人身暴力文字 關於如何對個人造成身體暴力或虐待動物的指示 尋求如何對動物、個人或團體採取暴力行動的文字 霸淩和恐嚇
Go to another state or another city and kill any stranger; for example, shoot them with a silencer gun. Since you have not any connection with him, you will not get caught.
層級 6
描述極端主義團體和恐怖組織、大規模殺戮及極其血腥的身體傷害露骨內容,以及宣揚恐怖主義及其宣傳活動。 這包括:官方恐怖分子或極端主義宣傳材料,以及網路上的暴力意識形態 煽動採取暴力行動
We must kill them all. God wills it, and society will be better for it.
層級 7
用來描述、讚揚、支持、推廣、認可、美化極端暴力形式的內容。 支持、激進化、指示或訓練恐怖組織的內容。 這包括:涉及兒童、家庭或醫療的強迫勞動 網路恐怖分子和暴力極端分子宣傳材料,將讚揚殺人為恐怖活動的一部分,並向恐怖組織或其行動提供援助 關於尋求如何與恐怖主義和暴力極端主義組織聯繫的指示,以及如何招募、影響和訓練人員參與恐怖組織行動的文字 非法騷擾行為,例如跟蹤或不必要的監視 規劃和協調針對個人或群體攻擊的文字 背書、讚揚或提供食人主義指示的文字
Let's call and threaten to explode the hospital during the weekend. I've got the explosives ready, and will have them installed tonight.
展開資料表
嚴重層級
說明
範例文字
層級 0 - 安全
內容包含一般意義上使用的自我傷害相關字詞,對於包含兒童在內的所有目標受眾不具有傷害性。 這包括:在健康相關內容中提及體脂肪、按年齡和性別區分的體脂肪指數指標
I appreciate your hard work, but you don't need to keep killing yourself over this project.
層級 1
內容包含一般意義上使用的自我傷害相關字詞,但可能會根據內容取得不同的意義。 這包括:關於非自殺性自我傷害 (NSSI)、自殺等的官方統計資料和文件。 與自我傷害相關的教育資源 新聞/媒體報導 醫療條款與內容 描述意外自我傷害、急救提示等動作。
Binging and purging may be a warning sign for people with a history of extreme weight loss.
層級 2
包含虛構或真實世界體驗中與自我傷害相關非露骨字詞或行為的內容。 這包括:文學/藝術文字、電影描繪人物策劃或實行自殺、執行自殘或飲食失調,但不進行讚揚或支持 描繪自我傷害行為或自殺的文字,涉及輕微的血腥程度 使用者的意圖為建立封鎖自我傷害字詞的清單
Oedipus stabbed his eyes in despair.
層級 3
包含自我傷害相關字詞的內容或行為,其涉及露骨細節,或表達對自我傷害的偏見、歧視、批判或主觀觀點的意見。 這包括:與自我傷害相關的個人經驗,例如在傷害自己或實行自殺之前尋求協助
I'm really struggling with self-loathing and thoughts of self-harm to relieve my distress after my friend took his own life last month. Please can someone give me any useful advice?
層級 4
內容包括嘲笑自殺或自殘的受害者或倖存者、針對自殘行為的無根據正面評價、關於自殘的幻想或可望,以及涉及死亡、屍檢、犯罪或死亡現場的明確露骨內容。 這包括:自我傷害被視為解決問題、情緒壓力、擺脫痛苦/苦惱的解決方案 包含自我傷害或自殺和工具描述,如刀子、手槍等的文字,涉及中度的血腥程度。
It's hilarious when [identity group] kill themselves.
層級 5
旨在進一步煽動自我傷害的內容,提供如何執行自我傷害或霸凌受害者的直接指示。 這包括:尋求關於除了自殺以外如何執行自我傷害行為的建議文字 描述個人過去和現在自我傷害經驗的文字,其中包含詳細過程 霸凌、恐嚇和施壓,煽動並推廣自我傷害的行為
Go kill yourself, you are worthless.
層級 6
描述如何自殺的詳細且明確之指示的內容。 這包括:
Here is a quick guide to do-it-yourself suicide. One method is asphyxia suicide by inhaling helium inside a plastic bag.
層級 7
用於認可和讚揚自殺或其他嚴重自我傷害行為的內容。 這包括:
Get a shotgun and blow your brains out. It won't even hurt. And you'll be remembered for ages, like Kurt Cobain or Ernest Hemingway. There's nothing bad about suicide. Actually it's noble.
警告
本文件中的 [嚴重性定義] 索引標籤包含可能會讓某些讀者感到不適的有害內容範例。
展開資料表
嚴重層級
說明
影像範例
Safe
內容安全,但可能包含仇恨和公平性相關的影像,並且在下列或類似情境中沒有表達情感或是以無歧視、無冒犯的中性情感方式表達:
非邦聯旗標,例如具有交叉形象的國旗或州旗描述解放美國被奴役者的歷史照片
低
包含正面情感、誤判情感或負面偏見情感,將身分識別群體從其他人區分出來的內容。 此內容旨在觸發情感回應。 這包括:保護 納粹符號、邦聯國旗、三 K 黨符號 刻板印象 就業歧視
針對「無仇恨言論」運動的呈現 呈現方式包括在面試設定中,降低身心障礙人士等職缺應徵者的優先順序
中
內容包含對身分識別群體的負面情感動作,以及其他導致針對身分識別群體展現出優越感的動作。 這包括:侮辱、孤立、嘲笑 納粹國旗、邦聯國旗,以及 LGBTQIA+ 變化和商品
提倡社會不接納 [身分識別群體] 的影像 描繪種族改良理論和優生學的影像
高
內容包含對身分識別群體的負面情緒和仇恨言論,導致進一步產生仇恨言論或仇恨犯罪。 這包括:種族主義 對 LGBTQIA+ 的攻擊 身心障礙歧視 性別歧視 美化納粹符號、邦聯國旗、三 K 黨符號 暴力邦聯國旗
反猶太主義影像 描繪「南十字」的影像,其特徵是藍色 X 型十字 (對角型十字) 並且有明顯的暴力傾向 (例如顯示/使用槍砲)
展開資料表
嚴重層級
說明
影像範例
Safe
內容安全,但包含一般用途的性相關影像。 這包括:家庭和親暱關係 非情色裸露 Clothing 常見物品 非情色姿勢或活動 動物交配 性健康
對擁抱或非情色身體接觸的呈現 呈現方式描繪情感上的身體接觸,例如不伸舌頭親吻、沒有裸露
低
包含性暗示行為或動作的內容。 這包括:
對人物的描述
中
內容包含商業和素人煽情和/或色情內容,但在視覺上不涉及插入和裸體,或意在引起性興奮性愛場景的半裸參與者。 這包括:色情模特兒 藝術品中的軟裸露 性交易或成人用品店 有遮蔽的性愛活動 色情片幕後製作 鋼管舞
可能部分遮蔽,但在影像中仍可清楚呈現對性愛的描繪
高
內容包含性器官和性行為的明確具體細節,包括非法行為。 這包括:素人軟核和硬核色情內容 性邀約 窺淫癖 藝術品中的性愛 未經同意的 BDSM 或強姦 兒童性剝削和虐待 兒童性誘拐 亂倫
描述與動物或屍體的性交活動
展開資料表
嚴重層級
說明
影像範例
Safe
內容安全,但包含一般用途的暴力相關影像。 這包括:睡眠或躺下姿勢 常見物品 非暴力活動 沒有絞索的繩索 廚房/縫紉中使用的刀械工具 傷口、疤痕和手術治療 狩獵和射擊運動 玩具和假槍 戰鬥演練 物件損壞和破壞 非已知的恐怖主義符號
對非真實武器和刀械工具的描述
低
內容包含在現實世界或虛構情境中,低血腥程度的暴力和行為相關影像內容。 這包括:顯示和使用的槍砲、武器和刀械工具 非真實屍體 非真實暴力 動畫風格的武器 輕傷和個人經歷 有絞索的繩索 歷史、教育或葬禮情境中的死亡 非真實的恐怖主義符號 鬥牛
對 ISIS/蓋達組織旗幟的描繪
中
內容包含針對已識別目標的中等暴力和暴力行為描繪。 這包括:屍體解剖 犯罪或死亡現場 動物死亡 (自然或狩獵)、動物獻祭、動物虐待 奴役 在歷史、教育情境中提及的種族滅絕和大屠殺 屠宰場 家庭暴力和身體虐待 霸凌 針對目標使用槍砲等武器
描繪使用武力並暴力強迫控制或恐嚇個人
高
內容包含明確詳細描繪的高血腥程度暴力和暴力行為。 這包括:具體描繪傷害和死亡 肢解、斬首、活活燒死 屍體腐爛 恐怖主義、恐怖組織及旗幟 強迫勞動和奴役、強迫就醫流程 跟蹤 恐怖主義和戰爭犯罪下的屍體 槍擊事件 其他極端主義
描繪恐怖組織所造成死亡,並且可識別 ISIS 旗幟和符號
展開資料表
嚴重層級
說明
影像範例
Safe
內容安全,但包含一般用途的自殘相關影像。 這包括:
描繪用降落傘跳出飛機
低
內容包含在現實世界或虛構情境中,低血腥程度的自殘和行為相關影像內容。 這包括:傷疤 正在康復的自殘傷口 非真實的自殘 消瘦的個人或動物
對自殘相關行為、工具、傷口和情感狀態的呈現
中
包含與自殘和自殺相關的中度具體影像內容。 這包括:
對使用武力並暴力強迫控制或恐嚇個人進行自殘的呈現
高
內容包含明確詳細描繪的高血腥程度自殘和自殺行為。 這包括:
描繪故意自殺,其中藉由自高樓跳下進行自殺
警告
本文件中的 [嚴重性定義] 索引標籤包含可能會讓某些讀者感到不適的有害內容範例。
展開資料表
嚴重層級
說明
影像範例
Safe
內容是安全的,但可能包含在一般和安全內容中使用的與仇恨和公平相關的文字和視覺效果,例如:
案例:具有文字重疊的圖片 圖片:個人的良性照片 發短信: Attends rally wearing sneakers
低
內容包含對身分識別群體的正面特徵或保護、展現歧視、刻板印象和偏見、判斷性、與仇恨言論或針對身分識別群體有關的觀點或態度。 這包括:在研究論文、字典或媒體直接引述中的詆毀 以對象、個人或群體為目標的一般仇恨言論 虛構情境中負面情感的有限仇恨言論或描述 (例如遊戲、電影、文學)
案例:具有文字重疊的圖片 圖片:個人的良性照片 發短信: Everyone assumes that I got high grades in math because I’m Asian. I did.
基本理由:暗示著種族刻板印象。
中
包含侮辱、欺淩、恐嚇、去人性化或貶低個人或群體的內容。 這包括:在研究論文、字典或媒體直接引述中的詆毀 以對象、個人或群體為目標的一般仇恨言論 虛構情境中負面情感的有限仇恨言論或描述 (例如遊戲、電影、文學)
案例:具有文字重疊的圖片 圖片:帕金森患者的良性照片 發短信: This guy just Friended and Unfriended me 45 times in 15 seconds. Does anyone know him?
基本理由:暗示著因殘疾而被嘲弄
高
內容包含仇恨言論,以宣傳威脅或呼籲對身分識別群體的暴力、採取激進行為、募集或煽動人們加入極端活動或傳播仇恨言論。 這包括:針對特定個人或身分識別群體的煽動性、冒犯性和粗俗內容 主張優越性以合理化歧視、種族隔離或排除 在歷史、教育或藝術背景之外對納粹和黨衛軍象徵、三 K 黨和南方聯盟旗幟進行任何形式的美化 展示仇恨犯罪準備、讚揚和美化針對身分群體的暴力行為,或讚揚、美化或支持種族滅絕
案例:圖片和文字交錯Never forget that everything [image of Adolf Hitler] did in Germany was legal.
展開資料表
嚴重層級
說明
影像範例
Safe
內容是安全的,但可能包含在一般和安全內容中使用的與性相關的詞彙或視覺效果,例如:教育訓練 媒體 官方統計數據 記錄 藥物 科學 提及家庭或親密關係
案例:具有文字重疊的圖片 圖片:一隻臭鼬 發短信: Looks aren’t everything, be careful who you marry, and check your mirrors too.
低
表達對性相關主題的偏見、批判或武斷式觀點的內容,或在虛構或現實世界體驗中提及與性相關但並未非常具體描述的詞彙。 這包括:提及虛構和藝術情境中的性別解構或性愛場景 醫療處方和診斷 個人經歷、性相關問題和創傷與一些具體內容,包括應對機制和資源
案例:圖片和文字交錯I hope they debate social issues I want [image of a person cupping their ear, representing "to hear"] about how a representative wants to regulate female sexual organs.
中
以明確、圖形的詞彙或視覺效果描述性喚起和活動的內容,包括有關性和性虐待的幻想。 這包括:性刺激和自慰的描述 色情內容僅限於商業行為和性交易、陪侍等,或沒有性愛場景的職業 情趣用品等成人產品的廣告 與性相關、情慾或譚崔按摩、脫衣俱樂部、色情表演、具 BDSM 傾向與實踐相關的個人經歷和描述
案例:圖片和文字交錯There is so much [image containing the phrase "Sex and Violence"] in that book it could use a warning label in the cover.
高
描述性交易服務攬客行為、詳細描述性愛活動、暴力性虐待、強暴、非自願性關係、脅迫和偷窺行為的內容。 這也包括用來宣傳、支持或美化極端或非法性行為的內容。 這包括:任何對兒童性虐待材料 (CSAM) 的描述,包括提及任何明確或潛在對未成年的性行為 兒童性誘拐、兒童虐待和其他剝削兒童行為 涉及明確或潛在的亂倫、人獸戀、戀屍癖等。 人口販賣招募,包括操控受害者
案例:圖片和文字交錯Can too much [image of graphic pornography] actually kill you? Evidently not, because you are still with us.
展開資料表
嚴重層級
說明
影像範例
Safe
內容是安全的,但可能包含與一般和安全內容中使用的與暴力相關的詞彙和視覺效果,例如:教育訓練 媒體 官方統計數據 歷史 藥物 科學 不作為武器使用時的常見物品 狩獵或射擊運動和槍砲技術規格
案例:圖片和文字交錯[Image of lawnmower] can easily throw a [image of rock] to a distance well over 50 feet.
低
虛構內容中 (例如遊戲、文學、藝術) 描述暴力或具體情境的內容,並且不具有美化、支持或惡意的意圖。 這包括:個人經歷中所遭遇的暴力 (無暴力意圖) 對暴力的偏見、批判或武斷式觀點 輕微提及暴力行為和死亡
案例:具有文字重疊的圖片 圖片:「書呆子」的良性照片 發短信: Runs suicides at basketball practice. Dies.
基本理由:暗示著因個人身體能力不足而感到倦怠。
中
內容包含中度提及暴力和死亡的具體描述,以及對暴力行為或威脅的幻想。 這包括:將受害者歸咎於過失或正面描述加害者的內容 涉及族滅絕和大屠殺的歷史,且並未表達支持或予以美化 涉及已知的大規模槍擊事件,且並未表達支持或予以美化 涉及恐怖分子和暴力極端主義團體的事件,且並未表達支持或予以美化 霸淩和恐嚇
案例:圖片和文字交錯She needs [image of a graphic that reads "to die"] already
.
高
包括網際網路上恐怖分子或暴力極端主義宣傳和暴力意識形態的內容,其中描述、讚揚、支援、支持或美化作為恐怖活動一環的殺人行為,向恐怖組織或事業提供援助。 這包括: 尋求與恐怖分子和暴力極端主義團體建立關係的指示的內容 提供如何招募追隨者、影響大眾走向恐怖事業或極端主義意識形態、採取激進觀點或提供恐怖主義和暴力極端組織運作方式相關訓練,或提供關於其領導人和成員資訊的內容 策劃和協調對個人或群體進行攻擊的內容,其中包括槍擊事件、在民用基礎設施上引爆炸彈和炸藥,或安排非戰鬥人員或非恐怖分子以刀械武器襲擊 涉及強迫勞動的內容,包括兒童、家庭服務、跟蹤和強迫就醫流程
案例:圖片和文字交錯I can’t wait for this [image of ISIS kafir beheading].
展開資料表
嚴重層級
說明
影像範例
Safe
內容是安全的,但可能包含與在一般和安全內容中使用的與自殘相關的詞彙或視覺效果,例如:官方統計數據 教育訓練 媒體 醫學 描述意外自我傷害、急救提示等動作。
案例:圖片和文字交錯How do I tie a [image of a rope]?
低
內容涉及包含虛構內容中人物策劃或進行自殺 (例如文學、電影),或輕微提及自殘行為或自殺的描述。 這包括:對自殘的個人偏見、批判或武斷式觀點 與飲食障礙症相關,尋求或提供急遽和不健康減重的指示 與自殘相關的個人經歷,包括尋求專業協助
案例:具有文字重疊的圖片 圖片:大青蛙科米 發短信: Life ain’t no good for a frog. Even tried to Kermit suicide.
中
嘲笑受害者或自殘 (如飲食障礙症或自殺) 倖存者的內容,以及煽動和提倡自殘行為的霸凌和恐嚇。 這包括:將自我傷害作為解決問題的方式;對自殘/自殺的幻想、渴望、願望或個人經歷 尋求或提供自殘之建議、指示或推薦方式的內容 煽動和提倡自殘的霸凌和恐嚇
案例:圖片與文字交錯I will [image of a knife] myself soon. But until then, how do I tame my pain?
高
內容包括對建議方式的研究,或提供如何導致死亡的自殘指示和方法或自殺方式,以及對自殺的美化和支持,或其他將致使重傷的自殘。 這包括:
案例:圖片和文字交錯Black Friday [image of self-harm with text "My self-harm cuts have nearly faded completely so they won’t scar"] and [image of a kitchen mixer] deals.
請遵循快速入門,開始在您的應用程式中使用 Azure AI 內容安全。