Bagikan melalui

Kategori kustom (cepat)

  • Artikel

Dalam skenario kon mode tenda rasi, kategori kustom (cepat) adalah proses mengidentifikasi, menganalisis, berisi, memberantas, dan memulihkan dari insiden cyber yang melibatkan konten yang tidak pantas atau berbahaya di platform online.

Insiden mungkin melibatkan serangkaian pola konten yang muncul (teks, gambar, atau modalitas lainnya) yang melanggar panduan komunitas Microsoft atau kebijakan dan harapan pelanggan sendiri. Insiden ini perlu dimitigasi dengan cepat dan akurat untuk menghindari potensi masalah situs langsung atau membahayakan pengguna dan komunitas.

Fitur API kategori kustom (cepat)

Salah satu cara untuk menangani insiden konten yang muncul adalah dengan menggunakan Daftar Blokir, tetapi itu hanya memungkinkan pencocokan teks yang tepat dan tidak ada pencocokan gambar. AZURE AI Content Brankas ty custom categories (rapid) API menawarkan kemampuan tingkat lanjut berikut:

  • pencocokan teks semantik menggunakan pencarian penyematan dengan pengklasifikasi ringan
  • pencocokan gambar dengan model pelacakan objek ringan dan pencarian penyematan.

Cara kerjanya

Pertama, Anda menggunakan API untuk membuat objek insiden dengan deskripsi. Kemudian Anda menambahkan sejumlah sampel gambar atau teks ke insiden tersebut. Tidak diperlukan langkah pelatihan.

Kemudian, Anda dapat menyertakan insiden yang ditentukan dalam analisis teks biasa atau permintaan analisis gambar. Layanan akan menunjukkan apakah konten yang dikirimkan adalah instans insiden Anda. Layanan ini masih dapat melakukan tugas kon mode tenda rasi lain dalam panggilan API yang sama.

Batasan

Ketersediaan bahasa

API kategori kustom teks (cepat) mendukung semua bahasa yang didukung oleh moderasi teks Content Brankas ty. Lihat Dukungan bahasa komputer.

Batasan input

Lihat tabel berikut untuk batasan input api kategori kustom (cepat):

Objek Pembatasan
Panjang maksimum nama insiden 100 karakter
Jumlah maksimum sampel teks/gambar per insiden 1000
Ukuran maksimum setiap sampel Teks: 500 karakter
Gambar: 4 MB
Jumlah maksimum insiden teks atau gambar per sumber daya 100
Format Gambar yang Didukung BMP, GIF, JPEG, PNG, TIF, WEBP

Ketersediaan wilayah

Untuk menggunakan API ini, Anda harus membuat sumber daya Azure AI Content Brankas ty di salah satu wilayah yang didukung. Lihat Ketersediaan wilayah.

Langkah berikutnya

Ikuti panduan cara menggunakan Azure AI Content Brankas ty custom categories (rapid) API.