Kategori bahaya di Azure AI Content Brankas ty

Panduan ini menjelaskan semua kategori bahaya dan peringkat yang digunakan Azure AI Content Brankas ty untuk menandai konten. Konten teks dan gambar menggunakan serangkaian bendera yang sama.

Kategori bahaya

Konten Brankas ty mengenali empat kategori konten yang berbeda yang tidak dapat ditolak.

Kategori	Deskripsi
Kebencian dan Keadilan	Bahaya terkait kebencian dan keadilan mengacu pada konten apa pun yang menyerang atau menggunakan bahasa pejoratif atau diskriminatif dengan mengacu pada seseorang atau kelompok identitas berdasarkan atribut pembeda tertentu dari kelompok-kelompok ini termasuk tetapi tidak terbatas pada ras, etnis, kebangsaan, identitas dan ekspresi gender, orientasi seksual, agama, status imigrasi, status kemampuan, penampilan pribadi, dan ukuran tubuh. Kewajaran dikhawatirkan dengan memastikan bahwa sistem AI memperlakukan semua kelompok orang secara setara tanpa berkontribusi pada ketidaksetaraan masyarakat yang ada. Mirip dengan ujaran kebencian, kewajaran terkait bahaya engsel setelah perlakuan berbeda terhadap kelompok identitas.
Seksual	Seksual menggambarkan bahasa yang terkait dengan organ dan alat kelamin anatomi, hubungan romantis, tindakan yang digambarkan dalam istilah erotis atau kasih sayang, kehamilan, tindakan seksual fisik, termasuk yang digambarkan sebagai penyerangan atau tindakan kekerasan seksual paksa terhadap kehendak, prostitusi, pornografi, dan penyalahgunaan seseorang.
Kekerasan	Kekerasan menjelaskan bahasa yang terkait dengan tindakan fisik yang dimaksudkan untuk menyakiti, melukai, merusak, atau membunuh seseorang atau sesuatu; menjelaskan senjata, senjata dan entitas terkait, seperti manufaktur, asosiasi, undang-undang, dan sebagainya.
Melukai Diri Sendiri	Melukai diri sendiri menggambarkan bahasa yang terkait dengan tindakan fisik yang dimaksudkan untuk melukai, melukai, merusak tubuh seseorang, atau membunuh diri sendiri.

Klasifikasi dapat dilabeli secara multi-label. Misalnya, ketika sampel teks melewati model moderasi teks, sampel tersebut dapat diklasifikasikan sebagai Konten seksual dan Kekerasan.

Tingkat keparahan

Setiap kategori bahaya yang diterapkan layanan juga dilengkapi dengan peringkat tingkat keparahan. Tingkat keparahan dimaksudkan untuk menunjukkan tingkat keparahan konsekuensi dari menampilkan konten yang ditandai.

Teks: Versi model teks saat ini mendukung skala tingkat keparahan 0-7 penuh. Pengklasifikasi mendeteksi di antara semua tingkat keparahan di sepanjang skala ini. Jika ditentukan pengguna, pengguna dapat mengembalikan tingkat keparahan dalam skala 0, 2, 4, dan 6 yang dipangkas; masing-masing dua tingkat yang berdekatan dipetakan ke satu tingkat.

• [0,1] -> 0
• [2,3] -> 2
• [4,5] -> 4
• [6,7] -> 6

Gambar: Versi model gambar saat ini mendukung versi yang dipangkas dari skala tingkat keparahan 0-7 penuh. Pengklasifikasi hanya mengembalikan tingkat keparahan 0, 2, 4, dan 6; masing-masing dua tingkat yang berdekatan dipetakan ke satu tingkat.

• [0,1] -> 0
• [2,3] -> 2
• [4,5] -> 4
• [6,7] -> 6

Konten teks

Peringatan

Peringatan

Tab Definisi tingkat keparahan dalam dokumen ini berisi contoh konten berbahaya yang mungkin mengganggu beberapa pembaca.

Definisi tingkat keparahan

Tingkat keparahan kebencian dan keadilan

Tingkat Keparahan	Keterangan	Contoh Teks
Tingkat 0	Konten yang berisi istilah terkait kebencian dan keadilan yang digunakan dalam arti umum dan sesuai untuk semua audiens target, termasuk anak-anak. Drive ini termasuk: Umum, bahasa pejoratif yang mengekspresikan ketidaksukaan terhadap grup identitas Penyebutan umum atribut kelompok identitas, seperti ras, etnis, agama, dll dalam konteks historis, geografis, medis, dan konteks serupa lainnya tanpa sentimen Istilah umum yang tidak memiliki nada ras niat ofensif di luar konteks	"I hate cats."
Level 1	Konten yang berisi istilah terkait kebencian dan kewajaran yang digunakan dalam arti umum tetapi dapat memperoleh arti yang berbeda berdasarkan konteks dan tidak membedakan antara kelompok identitas dan orang lain dengan cara yang bias atau negatif. Drive ini termasuk: Statistik, undang-undang, atau dokumentasi resmi Liputan berita/media Sumber daya pendidikan dimaksudkan untuk meningkatkan kesadaran akan keragaman/mengatasi ujaran kebencian Produk pemutih kulit dan iklan perawatan Sebutkan swastika Indo-Eurasia, bendera konfederasi, kelompok non-KKK yang memiliki kesamaan visual dengan KKK	"Black people should not be killed by police or mistreated just because of their skin color."
Level 2	Konten yang berisi karakterisasi positif atau perlindungan grup identitas yang memicu respons emosional yang menguntungkan. Drive ini termasuk: Slur dieja sepenuhnya dalam makalah penelitian, kamus, atau media dengan kutipan langsung Pernyataan oleh pembicara yang termasuk dalam grup identitas tanpa niat untuk menargetkan grup identitas yang sama Mengutuk kata-kata kotor, kata-kata kotor, dan penghinaan verbal yang tidak menargetkan grup identitas Ujaran kebencian umum yang menargetkan individu/grup yang tidak dikenal tanpa menargetkan grup identitas Niat pengguna untuk membuat daftar blokir istilah yang menyinggung Representasi Nazi Jerman, Hitler, bendera konfederasi, dan simbolisme Ku Klux Klan dalam film, video game, kostum, mainan, reenactments, atau slang online	"I hate you."
Level 3	Konten yang berisi karakterisasi prasangka, penilaian, stereotip, atau sentimen negatif. Drive ini termasuk: Opini berdasarkan stereotip atau sentimen negatif Mengekspresikan pandangan berprasangka, menghakimen, atau berpendapat Perbandingan negatif atau positif membedakan antara grup identitas dan lainnya. Penyebutan di dunia fiktif Diskriminasi pekerjaan dalam posting pekerjaan Fakta sejarah dan artefak yang terkait dengan Nazi Jerman, bendera Konfederasi selama Perang Saudara AS, atau Ku Klux Klan	"I don't like [identity group] because they are all so aggressive. They attacked us over and over again for no reason at all."
Level 4	Konten yang berisi penghinaan termotivasi sentimen verbal langsung, komentar negatif, dan pelacur rasial yang digunakan sebagai deskripsi yang menargetkan grup identitas dengan niat untuk menyakiti individu berdasarkan atributnya. Drive ini termasuk: Referensi yang digunakan untuk menargetkan ras seseorang, warna kulit Promosi penghindarian dan isolasi sosial Meniru dan meniru atribut grup identitas	"All [identity group] are ugly."
Tingkat 5	Konten yang berisi dehumanisasi atau derogasi individu atau kelompok yang lebih lanjut sentimen negatif melalui dehumanisasi, kekerasan, penolakan peristiwa, perundungan, atau perilaku intimidasi. Drive ini termasuk: Teks yang menolak peristiwa historis, terdokumen dengan baik, dan kekerasan seperti Holocaust Teks yang menjelaskan individu atau grup sebagai inferior fisik atau mental berdasarkan keanggotaan dalam grup identitas Teks yang mempertanyakan, menolak, atau meniadakan keberadaan grup identitas Penegakan atribut yang diinginkan/diharapkan Teori Eugenics dan 'ras improvement' yang menargetkan grup identitas Barang dagangan modern yang berisi nazi, bendera konfederasi, atau simbol KKK	"The [real world event] is a fraud. What we've discovered is that sources have been lying about the number of victims. Here is proof."
Tingkat 6	Konten berdasarkan sentimen negatif dan ujaran kebencian terhadap grup identitas. Dengan merujuk pada karakteristik grup yang membedakan grup identitas dan orang lain dan menarik untuk mengambil tindakan terhadap grup identitas berdasarkan atribut mereka. Ini dapat mencakup: Propaganda ujaran kebencian yang dapat dianggap sebagai ancaman langsung terhadap atau seruan kekerasan terhadap kelompok identitas Pembakar, menyinggung, dan vulgar ujaran kebencian Teks yang diduga mengklaim keunggulan satu grup atas mereka yang memiliki atribut grup identitas untuk membenarkan diskriminasi, pemisahan, atau pengecualian Teks yang menjelaskan sukacita mengenai peristiwa kekerasan yang menargetkan grup identitas	"Send [identity group] back to the gas chambers."
Tingkat 7	Konten berdasarkan sentimen negatif, menampilkan niat kejahatan kebencian dan menguntit, memicu respons emosional yang bermusuhan dan membedakan kelompok identitas dan lainnya yang mengarah pada kejahatan. Drive ini termasuk: Persiapan kejahatan kebencian, pujian, dan pemuliaan kekerasan terhadap kelompok identitas Teks yang berisi materi perekrutan grup supremasi Teks yang dimaksudkan untuk radikalisasi dan mendorong ujaran kebencian terhadap grup identitas	"Millions of [identity group] were wiped out because they were the inferior race. Murdering them continues to be right and honorable because…"

Tingkat keparahan seksual

Tingkat Keparahan	Keterangan	Contoh Teks
Tingkat 0	Konten yang berisi istilah terkait seksual yang digunakan secara umum yang tidak berbahaya bagi semua audiens target, termasuk anak-anak. Penyebutan hubungan keluarga Konten yang tidak berbahaya untuk semua audiens target, termasuk anak-anak	"The sports bra and yoga pants were too tight for comfort."
Level 1	Konten yang berisi istilah terkait seksual yang digunakan secara umum tetapi dapat memperoleh arti yang berbeda berdasarkan konteks. Ini termasuk: Statistik dan dokumentasi resmi tentang topik terkait seks Liputan berita/media Istilah anatomi, anatomi seksual, dan perawatan medis Sumber daya pendidikan tentang seks, kesehatan seksual, kesadaran, dll. Penyebutan seks biologis atau deskripsi reproduksi seksual Teks yang menjelaskan hubungan romantis dalam istilah non-grafik	"Fewer young adults are having sex than in previous generations."
Level 2	Konten yang berisi istilah terkait seksual dalam pengalaman fiksi atau dunia nyata yang tidak sangat grafis. Ini termasuk: Sebutan teks sastra/artistik, film, patung, dll yang berisi pembicaraan kotor terbatas atau adegan kebisingan singkat yang tidak eksplisit Pengalaman pribadi yang terkait dengan seks secara umum, masalah seksual dan trauma, berbagi mekanisme dan sumber daya mengatasi masalah tersebut Niat pengguna untuk membuat daftar blokir untuk konten seksual Penyebutan tindakan seksual dan ke telanjang dengan inti ringan	"The first time I had sex, I found it painful."
Level 3	Konten dengan istilah terkait seksual dalam kasus yang berisi beberapa konten grafis, pendapat yang mengekspresikan pandangan bias, berprasangka, menghakimen, atau berpendapat tentang masalah terkait seks. Ini termasuk: Pengalaman seksual masa lalu atau masa kini pribadi dengan beberapa konten grafis	"We made out for a while, and he started to feel me up. I felt a bulge in his pants."
Level 4	Konten yang menjelaskan fantasi seksual, industri dan iklan seks profesional, dan reproduksi hewan seksual. Ini termasuk: Fantasi jenis kelamin dari berbagai jenis, termasuk membayangkan kelenjar nyata atau fiksi Industri seks profesional tanpa deskripsi adegan seks Iklan untuk kondom, pelumas, mainan seks, pakaian, dll.. Deskripsi reproduksi seksual antara hewan atau karakter seperti hewan dengan beberapa konten grafis Penyebutan tindakan seksual dan kelembaban dengan inti lunak	"I got into BDSM because I had some friends into the lifestyle and it piqued my interest. I like using silk, scarves, collars, and bondage…"
Tingkat 5	Konten yang menjelaskan pertunjukan atau pengalaman erotis sebagai pengalaman pribadi, BDSM dengan persetujuan yang jelas, serta cerita dan situs web erotis. Ini termasuk: Penyebutan pijat seksual, erotis atau tantric, klub strip, menunjukkan erotis sebagai pengalaman pribadi (bukan sebagai layanan profesional) Pengalaman dan deskripsi pribadi yang terkait dengan atribut dan praktik BDSM secara umum atau situasi dengan konten yang jelas untuk praktik BDSM Penyebutan konten erotis non-komersial yang terkait dengan hasrat atau kesenangan seksual	"We both climaxed at the same time."
Tingkat 6	Konten yang menjelaskan ajakan layanan komersial seksual, berisi deskripsi terperinci tentang aktivitas seksual, pelecehan seksual dan pemerkosaan kekerasan, dan pertukaran kekuasaan non-konsensual, penyalahgunaan, dan voyeurisme. Ini termasuk: Menyebutkan stimulasi alat kelamin dengan tangan atau benda lain, masturbasi, dll. Konten jimat atau kasar yang melibatkan cairan tubuh, situasi kontrol seks, atau aktivitas BDSM tanpa persetujuan yang jelas Teks yang menjelaskan kekerasan seksual, serangan seksual, pemerkosaan, atau pelecehan dalam detail grafis Teks yang mengaitkan kualitas positif terhadap serangan seksual Teks yang mencari atau memberikan instruksi untuk melakukan penyerangan seksual Tindakan pemerasan dan ancaman untuk mengungkapkan gambar atau video seksual yang tidak dikonsensentasikan yang sebelumnya direkam	"I love forced sex, it's so much hotter."
Tingkat 7	Konten yang digunakan untuk mempromosikan, mendukung, memuliakan bentuk-bentuk ekstrem dari perbudakan seksual. Konten yang ekstrem atau ilegal. Ini termasuk: Seks dengan hewan, mayat, dll. Paedophilia Mencari atau memberikan instruksi tentang perawatan anak Referensi eksplisit atau potensial ke incest Perekrutan perdagangan seks manusia	"I was abused as a child by my uncle and I liked it. Nowadays, I make money by producing child pornography with my neighbor’s 6 year old son."

Tingkat keparahan kekerasan

Tingkat Keparahan	Keterangan	Contoh Teks
Tingkat 0	Konten yang berisi tindakan tidak kekerasan atau istilah terkait kekerasan yang digunakan dalam arti umum yang tidak berbahaya bagi semua audiens target, termasuk anak-anak. Drive ini termasuk: Objek umum saat tidak digunakan sebagai senjata Senjata mainan, senjata non-realistis atau berpura-pura Penyebutan tali ketika tidak digunakan sebagai jerat	"According to our child and parent testers, here are the best long-range soakers for soft blasters for toddlers suitable for epic water battles."
Level 1	Konten yang berisi istilah atau tindakan terkait kekerasan yang digunakan dalam arti umum tetapi dapat memperoleh arti yang berbeda berdasarkan konteks. Drive ini termasuk: Subset teks yang berisi deskripsi tindakan kekerasan, di mana kontekstualisasi teks lengkap tidak memiliki niat kekerasan Statistik resmi dan dokumentasi tentang senjata, senjata, kekerasan dalam rumah tangga, perang, militer, dll. Sumber daya pendidikan yang terkait dengan kekerasan Liputan berita/media Istilah dan konten medis Spesifikasi teknis olahraga berburu atau menembak dan senjata Latihan tempur Simbol kontra-terorisme dan teroris yang tidak terkait dengan ISIS/al-Qaeda	"Carnivores such as lions and tigers are prone to killing one another. Death occurs at the paws, claws, jaws, or tusks that might fatally gore one another during fights."
Level 2	Konten yang berisi istilah atau tindakan terkait kekerasan dalam pengalaman dunia fiktif atau nyata yang tidak sangat grafis dan tanpa kemuliaan atau dukungan malinten. Drive ini termasuk: Narasi orang pertama, kedua, dan ketiga dalam video game, teks sastra/artistik yang menggambarkan adegan kekerasan atau grafis Tips dan rekomendasi game Pengalaman pribadi di mana seseorang menggambarkan bagaimana mereka terpapar oleh beberapa jenis kekerasan Sebutan tali ketika digunakan sebagai jerat tanpa subjek manusia hadir atau tidak terkait dengan jerat Tujuan pengguna adalah membuat daftar blokir dengan konten kekerasan	"She wishes she could have killed her whole family."
Level 3	Konten dengan istilah atau tindakan terkait kekerasan dalam kasus yang berisi beberapa konten grafis, pendapat yang mengekspresikan pandangan bias, berprasangka, menghakimen, atau berpendapat tentang kekerasan. Drive ini termasuk: Memungkinkan kekejaman bagi beberapa hewan Teks yang mengklaim dampak positif dari beberapa jenis kekerasan	"Some people just need to be slapped."
Level 4	Konten yang menjelaskan alasan alasan mengapa korban dilecehkan secara fisik, atribusi yang tidak berdasar dari kualitas positif pelecehan, ancaman tindakan kekerasan dan fantasi yang berkaitan dengan cara membahayakan orang lain, dan luka sedang. Drive ini termasuk: Teks yang membuat korban salah atau menggambarkan pelaku dalam cahaya positif Deskripsi grafis kekerasan dan kematian dengan gore sedang Laporan otopsi, investigasi forensik, kejahatan atau kematian Fasilitas daging dan unggas, dan pengorbanan hewan religius Referensi ke genosida historis atau terbaru dan peristiwa penembakan yang diketahui dengan korban massal tanpa dukungan atau kemuliaan Referensi ke peristiwa teroris dan ekstremis kekerasan tanpa dukungan atau kemuliaan	"Victims of abuse deserve to be hit. They push and push until they get what they deserve."
Tingkat 5	Konten yang bertujuan untuk kekerasan lebih lanjut, memberikan instruksi langsung tentang cara membahayakan individu atau grup tertentu. Drive ini termasuk: Teks yang menghasut kekerasan fisik terhadap individu/grup yang ditargetkan Petunjuk tentang cara menyebabkan kekerasan fisik pada individu atau penyalahgunaan terhadap hewan Teks yang mencari saran tentang cara melakukan tindakan kekerasan pada hewan, individu, atau grup Bullying dan intimidasi	"Go to another state or another city and kill any stranger; for example, shoot them with a silencer gun. Since you have not any connection with him, you will not get caught."
Tingkat 6	Konten yang menjelaskan kelompok ekstremis dan organisasi terorisme, pembunuhan massal dan kerusakan fisik eksplisit dalam gore tinggi, dan promosi terorisme dan propagandanya. Drive ini termasuk: Materi propaganda teroris atau ekstremis resmi dan ideologi kekerasan di internet Mengisyaratkan untuk mengambil tindakan kekerasan	"We must kill them all. God wills it, and society will be better for it."
Tingkat 7	Konten yang digunakan untuk menggambarkan, memuji, mendukung, mempromosikan, mendukung, memuliakan bentuk kekerasan yang ekstrem. Konten yang mendukung organisasi teroritis dan radikalisasi, instruksi, atau pelatihan. Drive ini termasuk: Kerja paksa termasuk anak-anak, pelayanan domestik, atau perawatan medis Bahan propaganda teroris online dan ekstremis kekerasan yang memuliakan pembunuhan sebagai bagian dari aktivitas teroris dan membantu penawaran kepada organisasi atau penyebab teroris Teks yang mencari petunjuk tentang afiliasi dengan teroris dan kelompok ekstremis kekerasan tentang cara merekrut, memengaruhi, dan melatih orang-orang menuju penyebabnya Perilaku pelecehan ilegal seperti menguntit atau pengawasan yang tidak diinginkan Teks yang merencanakan dan mengoordinasikan serangan pada individu atau kelompok orang Teks yang mendukung, memuliakan, atau memberikan instruksi tentang kanibalisme	"Let's call and threaten to explode the hospital during the weekend. I've got the explosives ready, and will have them installed tonight."

Tingkat keparahan yang membahayakan diri sendiri

Tingkat Keparahan	Keterangan	Contoh Teks
Tingkat 0 – Brankas	Konten yang berisi istilah terkait self-harm yang digunakan dalam arti umum yang tidak berbahaya untuk semua audiens target, termasuk anak-anak. Drive ini termasuk: Sebutan lemak tubuh, indikator indeks massa lemak berdasarkan usia dan jenis kelamin dalam konteks terkait kesehatan	"I appreciate your hard work, but you don't need to keep killing yourself over this project."
Level 1	Konten yang berisi istilah terkait self-harm yang digunakan dalam arti umum tetapi dapat memperoleh arti yang berbeda berdasarkan konteks. Drive ini termasuk: Statistik dan dokumentasi resmi tentang Non-Suicidal Self Injury (NSSI), bunuh diri, dll. Sumber daya pendidikan yang terkait dengan bahaya diri sendiri Liputan berita/media Istilah dan konten medis Tindakan yang menjelaskan bahaya diri sendiri yang tidak disengaja, tips pertolongan pertama, dll.	"Binging and purging may be a warning sign for people with a history of extreme weight loss."
Level 2	Konten yang berisi istilah atau tindakan terkait yang membahayakan diri sendiri dalam pengalaman fiksi atau dunia nyata yang tidak sangat grafis. Drive ini termasuk: Teks sastra/artistik, film, dll. menggambarkan karakter yang merencanakan atau melakukan bunuh diri, terlibat dalam menyakiti diri sendiri, atau mengganggu makan tanpa kemuliaan atau dukungan Teks di mana tindakan menyakiti diri sendiri atau bunuh diri digambarkan dengan luka rendah Niat pengguna adalah untuk membuat daftar blokir istilah yang merugikan diri sendiri	"Oedipus stabbed his eyes in despair."
Level 3	Konten dengan istilah atau tindakan terkait yang merugikan diri sendiri dalam kasus yang berisi beberapa konten grafis, pendapat yang menyatakan pandangan bias, berprasangka, menghakiaya atau berpendapat tentang bahaya diri sendiri. Drive ini termasuk: Pengalaman pribadi yang terkait dengan bahaya diri sendiri, seperti meminta bantuan sebelum menyakiti diri sendiri atau bunuh diri	"I'm really struggling with self-loathing and thoughts of self-harm to relieve my distress after my friend took his own life last month. Please can someone give me any useful advice?"
Level 4	Konten yang meniru korban atau penyintas bunuh diri atau melukai diri sendiri, atribusi kualitas positif yang tidak berdasar untuk membahayakan diri sendiri, fantasi atau keinginan membahayakan diri sendiri, dan berisi konten grafis eksplisit yang melibatkan kematian, otopsi, kejahatan, atau kematian. Drive ini termasuk: Cedera diri disajikan sebagai solusi untuk masalah, tekanan emosional, melarikan diri dari rasa sakit / penderitaan Teks yang membahayakan diri sendiri atau bunuh diri berisi luka sedang dan deskripsi alat seperti pisau, pistol, dll.	"It's hilarious when [identity group] kill themselves."
Tingkat 5	Konten yang bertujuan untuk meningkatkan bahaya diri lebih lanjut, memberikan instruksi langsung tentang cara melakukan bahaya diri sendiri atau menggertak korban. Drive ini termasuk: Teks yang mencari saran atau rekomendasi tentang cara melakukan tindakan melukai diri sendiri kecuali untuk bunuh diri Teks yang menjelaskan pengalaman masa lalu dan masa kini yang membahayakan diri sendiri yang berisi detail eksplisit Bullying, intimidasi, dan tekanan yang menghasut dan mempromosikan tindakan menyakiti diri sendiri	"Go kill yourself, you are worthless."
Tingkat 6	Konten yang menjelaskan instruksi terperinci dan eksplisit tentang cara melakukan bunuh diri. Drive ini termasuk: Teks yang menginstruksikan cara menulis pesan selamat tinggal kepada keluarga Anda	"Here is a quick guide to do-it-yourself suicide. One method is asphyxia suicide by inhaling helium inside a plastic bag."
Tingkat 7	Konten yang digunakan untuk mendukung dan memuliakan bunuh diri atau tindakan berat lainnya yang membahayakan diri sendiri. Drive ini termasuk: Pemisahan diri Membakar hidup-hidup	"Get a shotgun and blow your brains out. It won't even hurt. And you'll be remembered for ages, like Kurt Cobain or Ernest Hemingway. There's nothing bad about suicide. Actually it's noble."

Konten gambar

Peringatan

Peringatan

Tab Definisi tingkat keparahan dalam dokumen ini berisi contoh konten berbahaya yang mungkin mengganggu beberapa pembaca.

Definisi tingkat keparahan

Tingkat keparahan kebencian dan keadilan

Tingkat Keparahan	Keterangan	Contoh gambar
Aman	Konten aman tetapi mungkin mengandung citra terkait kebencian dan keadilan tanpa sentimen atau sentimen netral dalam cara non-diskriminasi yang tidak menyinggung dalam konteks berikut atau yang mirip dengan: Jurnalistik Historis Medis Hukum Pendidikan Geografis	Bendera non-konfederasi, misalnya Bendera negara atau negara bagian yang fiturnya bersilangan Gambar bendera Union Jack dari Inggris Raya Penggambatan emansipasi orang-orang yang diperbudak di AS dalam foto historis
Kurang Penting	Konten yang berisi sentimen positif, sentimen positif palsu, atau sentimen negatif dan bias yang membedakan grup identitas dari orang lain. Konten ini dimaksudkan untuk memicu respons emosional. Drive ini termasuk: Proteksi Simbolisme Nazi, bendera konfederasi, simbolisme Ku Klux Klan Stereotip Diskriminasi pekerjaan	Representasi gerakan 'Tidak Ada Ujaran Kebencian' Representasi dari kandidat pekerjaan yang diramalkan seperti kandidat penyandang disabilitas dalam pengaturan wawancara
Medium	Konten yang berisi tindakan sentimen negatif terhadap grup identitas dan lainnya yang mengarah pada promosi tindakan terhadap grup identitas dan sentimen keunggulan. Drive ini termasuk: Penghinaan, isolasi, tiruan Bendera Nazi, bendera konfederasi, dan variasi dan merchandise LGBTQIA+	Citra yang mempromosikan penghindarian sosial [grup identitas] Citra yang menggambarkan teori peningkatan rasial dan eugenika
Sangat Penting	Konten yang berisi sentimen negatif dan ujaran kebencian terhadap kelompok identitas yang mengarah ke generasi ujaran kebencian atau kejahatan kebencian. Drive ini termasuk: Rasisme Serangan pada LGBTQIA+ Disablisme Diskriminasi berbasis seks Simbolisme Nazi yang dimuliakan, bendera Konfederasi, simbolisme Ku Klux Klan Bendera konfederasi kekerasan	Gambar antimitik yang menggambarkan "Southern Cross" yang menampilkan saltire biru (saltire diagonal) dengan afiliasi kekerasan yang jelas (misalnya senjata dalam tampilan/penggunaan)

Tingkat keparahan seksual

Tingkat Keparahan	Keterangan	Contoh gambar
Aman	Konten aman tetapi mengandung citra terkait seksual yang digunakan dalam arti umum. Drive ini termasuk: Hubungan keluarga dan romantis Kelenjar non-seksual Pakaian Objek umum Pose atau aktivitas non-seksual Kawin hewan Kesehatan seksual	Representasi memeluk atau membuat kontak fisik non-seksual Representasi yang menggambarkan tampilan fisik kasih sayang seperti berciuman tanpa lidah dan tanpa kelenjar
Kurang Penting	Konten yang berisi perilaku atau tindakan sugestif seksual. Drive ini termasuk: Pengalaman pribadi Pemodelan mode Keakuratan dalam karya seni Seni tubuh Tampilan racy	Penggambatan orang
Medium	Konten yang berisi konten komersial dan erotis dan/atau pornografi amatir tanpa penetrasi fotografi visual dan peserta telanjang atau semi-telanjang yang terlibat dalam adegan seksual dimaksudkan untuk membangkitkan gaitur seksual. Drive ini termasuk: Pemodelan seksual Kelembutan lembut dalam karya seni Pekerjaan seks atau toko Aktivitas seksual yang tidak jelas Produksi porno di belakang panggung Tarian tiang	Penggambaran tentang hubungan inti yang mungkin terhalang sebagian tetapi masih jelas ada dalam gambar
Sangat Penting	Konten yang berisi penggambaran terperinci eksplisit tentang organ seksual dan tindakan seksual, termasuk tindakan ilegal. Drive ini termasuk: Pornografi inti lembut dan inti keras amatir Ajakan seksual Voyeurisme Seks dalam karya seni BDSM tanpa persetujuan atau Pemerkosaan Eksploitasi dan Pelecehan Seksual Anak Perawatan anak Inses	Penggambaran tentang keterlibatan dalam aktivitas seksual dengan hewan atau mayat

Tingkat keparahan kekerasan

Tingkat Keparahan	Keterangan	Contoh gambar
Aman	Konten aman tetapi berisi citra terkait kekerasan yang digunakan dalam arti umum. Drive ini termasuk: Pose tidur atau bertelur Objek umum Aktivitas tanpa kekerasan Tali bukan sebagai jerat Alat bladed yang digunakan di dapur/jahit Luka, bekas luka, dan perawatan bedah Olahraga berburu dan menembak Mainan dan berpura-pura senjata Latihan tempur Kerusakan objek dan vandalisme Simbolisme teroris yang tidak bermerek	Penggambutan senjata non-realistis dan alat blad
Kurang Penting	Konten yang berisi citra dan tindakan terkait kekerasan di dunia nyata atau konteks fiktif dengan gore rendah. Drive ini termasuk: Senjata, senjata, dan alat blad dipajang dan digunakan Mayat non-realistis Kekerasan non-realistis Senjata animasi Cedera ringan dan pengalaman pribadi Tali sebagai jerat Kematian dalam pengaturan historis, pendidikan, atau pemakaman Simbolisme teroris non-realistis Arung banteng	Penggambaran bendera ISIS/al-Qaeda
Medium	Konten yang berisi kekerasan grafis sedang dan tindakan kekerasan yang ditujukan pada target yang diidentifikasi. Drive ini termasuk: Otopsi TKP kejahatan atau kematian Kematian hewan (alami atau diburu), pengorbanan hewan, penyalahgunaan hewan Perbudakan Pembunuhan genosida dan massal dalam sejarah, pengaturan pendidikan Rumah jagal Kekerasan dalam rumah tangga dan penyalahgunaan fisik Bullying Senjata dan senjata yang digunakan melawan target	Penggambaran tentang penggunaan kekuatan dan pemaksaan untuk secara agresif mendominasi atau mengintimidasi individu
Sangat Penting	Konten yang berisi penggambaran terperinci eksplisit tentang kekerasan dan tindakan kekerasan dengan kecepatan tinggi. Drive ini termasuk: Cedera grafis dan kematian Pemisahan, pembegalan, pembakaran hidup-hidup Dekomposisi mayat Terorisme, Kelompok teroris, dan bendera Kerja paksa dan pelayanan, prosedur medis paksa Menguntit Mayat dalam terorisme dan kejahatan perang Peristiwa pemotretan Ekstremisme lainnya	Penggambaran kematian ketika dilakukan oleh kelompok teroris yang dapat diidentifikasi oleh bendera dan simbol ISIS

Tingkat keparahan yang membahayakan diri sendiri

Tingkat Keparahan	Keterangan	Contoh gambar
Aman	Konten aman tetapi berisi citra terkait yang membahayakan diri sendiri yang digunakan dalam arti umum. Drive ini termasuk: Rendah lemak tubuh Tindakan tidak membahayakan diri sendiri Cedera tubuh yang tidak disengaja	Penggambatan melompat dengan parasut keluar dari bidang
Kurang Penting	Konten yang berisi citra terkait bahaya diri sendiri dan bertindak di dunia nyata atau konteks fiksi dengan gore rendah. Drive ini termasuk: Bekas luka Cedera melukai diri sendiri dalam pemulihan Melukai diri sendiri yang tidak realistis Individu atau hewan yang dipanaskan	Representasi tindakan terkait bahaya diri sendiri, alat, cedera dan keadaan emosional
Medium	Konten yang berisi citra grafis sedang yang terkait dengan bahaya diri sendiri dan bunuh diri. Drive ini termasuk: Otopsi TKP kejahatan atau kematian Bullying	Representasi penggunaan kekuatan dan pemaksaan untuk secara agresif mendominasi atau mengintimidasi seseorang menjadi bahaya diri sendiri
Sangat Penting	Konten yang berisi penggambaran terperinci eksplisit tentang bahaya diri sendiri dan bunuh diri dengan kecepatan tinggi. Drive ini termasuk: Tindakan melukai diri sendiri yang akan segera Tindakan melukai diri sendiri Bunuh diri	Penggambatan bunuh diri yang disengaja, di mana seseorang telah bunuh diri dengan melompat dari gedung tinggi

Langkah berikutnya

Ikuti mulai cepat untuk mulai menggunakan Azure AI Content Brankas ty di aplikasi Anda.

Mulai cepat content Brankas ty