Alat content Brankas ty (Text)

Azure AI Content Brankas ty adalah layanan con mode tenda ration yang dikembangkan oleh Microsoft yang membantu Anda mendeteksi konten berbahaya dari berbagai modalitas dan bahasa. Alat Content Brankas ty (Text) adalah pembungkus untuk Azure AI Content Brankas ty Text API, yang memungkinkan Anda mendeteksi konten teks dan mendapatkan hasil moderasi. Untuk informasi selengkapnya, lihat Azure AI Content Brankas ty.

Prasyarat

• Buat sumber daya Azure AI Content Brankas ty.
• Azure Content Safety Tambahkan koneksi dalam alur perintah. API key Isi bidang dengan Primary key dari bagian Keys and Endpoint sumber daya yang dibuat.

Input

Anda dapat menggunakan parameter berikut sebagai input untuk alat ini:

Nama	Tipe	Deskripsi	Wajib diisi
text	string	Teks yang perlu dimoderasi.	Ya
hate_category	string	Sensitivitas moderasi untuk Hate kategori. Pilih dari empat opsi: disable, low_sensitivity, medium_sensitivity, atau high_sensitivity. Opsi ini disable berarti tidak ada moderasi untuk Hate kategori. Tiga opsi lainnya berarti tingkat ketegasan yang berbeda dalam memfilter konten kebencian. Default adalah medium_sensitivity.	Ya
sexual_category	string	Sensitivitas moderasi untuk Sexual kategori. Pilih dari empat opsi: disable, low_sensitivity, medium_sensitivity, atau high_sensitivity. Opsi ini disable berarti tidak ada moderasi untuk Sexual kategori. Tiga opsi lainnya berarti tingkat ketegasan yang berbeda dalam menyaring konten seksual. Default adalah medium_sensitivity.	Ya
self_harm_category	string	Sensitivitas moderasi untuk Self-harm kategori. Pilih dari empat opsi: disable, low_sensitivity, medium_sensitivity, atau high_sensitivity. Opsi ini disable berarti tidak ada moderasi untuk Self-harm kategori. Tiga opsi lainnya berarti tingkat ketegasan yang berbeda dalam memfilter konten yang membahayakan diri sendiri. Default adalah medium_sensitivity.	Ya
violence_category	string	Sensitivitas moderasi untuk Violence kategori. Pilih dari empat opsi: disable, low_sensitivity, medium_sensitivity, atau high_sensitivity. Opsi ini disable berarti tidak ada moderasi untuk Violence kategori. Tiga opsi lainnya berarti tingkat ketegasan yang berbeda dalam memfilter konten kekerasan. Default adalah medium_sensitivity.	Ya

Untuk informasi selengkapnya, lihat Azure AI Content Brankas ty.

Output

Sampel berikut adalah contoh respons format JSON yang dikembalikan oleh alat:

{
    "action_by_category": {
      "Hate": "Accept",
      "SelfHarm": "Accept",
      "Sexual": "Accept",
      "Violence": "Accept"
    },
    "suggested_action": "Accept"
  }

Bidang memberi action_by_category Anda nilai biner untuk setiap kategori: Accept atau Reject. Nilai ini menunjukkan apakah teks memenuhi tingkat sensitivitas yang Anda tetapkan dalam parameter permintaan untuk kategori tersebut.

Bidang ini suggested_action memberi Anda rekomendasi keseluruhan berdasarkan empat kategori. Jika ada kategori yang memiliki Reject nilai, suggested_action juga .Reject