Bagikan melalui

Pagar pembatas & alat kontrol untuk alur di portal Azure AI Foundry

Penting

Item-item yang ditandai (pratinjau) dalam artikel ini saat ini sedang berada dalam pratinjau publik. Pratinjau ini disediakan tanpa kesepakatan tingkat layanan, dan kami tidak merekomendasikannya untuk penggunaan dalam lingkungan produksi. Fitur tertentu mungkin tidak didukung atau mungkin memiliki kemampuan terbatas. Untuk informasi lebih lanjut, lihat Supplemental Terms of Use for Microsoft Azure Previews.

Alat Content Safety alur perintah memungkinkan Anda menggunakan Azure AI Content Safety di portal Azure AI Foundry.

Azure AI Content Safety adalah layanan moderasi konten yang membantu mendeteksi konten berbahaya dari berbagai modalitas dan bahasa. Untuk informasi selengkapnya, lihat Keamanan Konten Azure AI.

Prasyarat

Nota

Anda harus menggunakan proyek berbasis hub untuk fitur ini. Proyek Foundry tidak didukung. Lihat Bagaimana cara mengetahui jenis proyek mana yang saya miliki? dan Membuat proyek berbasis hub.

Untuk membuat koneksi Azure Content Safety:

  1. Masuk ke Azure AI Foundry.
  2. Buka Pengaturan proyek>Koneksi.
  3. Pilih + Koneksi baru.
  4. Selesaikan semua langkah dalam dialog Buat koneksi baru . Anda dapat menggunakan hub Azure AI Foundry atau sumber daya Azure AI Content Safety. Kami menyarankan agar Anda menggunakan hub yang mendukung beberapa layanan Azure AI.

Bangun dengan alat Keamanan Konten

  1. Membuat atau membuka alur di Azure AI Foundry. Untuk informasi selengkapnya, lihat Membuat alur.

  2. Pilih + Alat lainnya>Keamanan Konten (Teks) untuk menambahkan alat Keamanan Konten ke alur Anda.

    Cuplikan layar yang memperlihatkan alat Keamanan Konten ditambahkan ke alur di portal Azure AI Foundry.

  3. Pilih koneksi ke salah satu sumber daya yang disediakan. Misalnya, pilih AzureAIContentSafetyConnection jika Anda membuat koneksi dengan nama tersebut. Untuk informasi selengkapnya, lihat Prasyarat.

  4. Masukkan nilai untuk parameter input alat Keamanan Konten yang dijelaskan dalam tabel Input.

  5. Tambahkan lebih banyak alat ke alur Anda, sesuai kebutuhan. Atau pilih Jalankan untuk menjalankan alur.

  6. Output dijelaskan dalam tabel Output.

Masukan

Parameter input berikut tersedia.

Nama Tipe Deskripsi Diperlukan
Teks benang Teks yang perlu dimoderasi. Ya
hate_category benang Sensitivitas moderasi untuk kategori Kebencian. Anda dapat memilih dari empat opsi: disable, , low_sensitivity, medium_sensitivityatau high_sensitivity. Opsi ini disable berarti tidak ada moderasi untuk kategori Kebencian. Tiga opsi lainnya berarti tingkat ketegasan yang berbeda dalam memfilter konten kebencian. Opsi defaultnya adalah medium_sensitivity. Ya
sexual_category benang Sensitivitas moderasi untuk kategori Seksual. Anda dapat memilih dari empat opsi: disable, , low_sensitivity, medium_sensitivityatau high_sensitivity. Opsi ini disable berarti tidak ada moderasi untuk kategori Seksual. Tiga opsi lainnya berarti tingkat ketegasan yang berbeda dalam menyaring konten seksual. Opsi defaultnya adalah medium_sensitivity. Ya
self_harm_category benang Sensitivitas moderasi untuk kategori Self-harm. Anda dapat memilih dari empat opsi: disable, , low_sensitivity, medium_sensitivityatau high_sensitivity. Opsi ini disable berarti tidak ada moderasi untuk kategori Bahaya mandiri. Tiga opsi lainnya berarti tingkat ketegasan yang berbeda dalam memfilter konten yang membahayakan diri sendiri. Opsi defaultnya adalah medium_sensitivity. Ya
violence_category benang Sensitivitas moderasi untuk kategori Kekerasan. Anda dapat memilih dari empat opsi: disable, , low_sensitivity, medium_sensitivityatau high_sensitivity. Opsi ini disable berarti tidak ada moderasi untuk kategori Kekerasan. Tiga opsi lainnya berarti tingkat ketegasan yang berbeda dalam memfilter konten kekerasan. Opsi defaultnya adalah medium_sensitivity. Ya

Output

Respons format JSON berikut adalah contoh yang dikembalikan oleh alat:

{
    "action_by_category": {
      "Hate": "Accept",
      "SelfHarm": "Accept",
      "Sexual": "Accept",
      "Violence": "Accept"
    },
    "suggested_action": "Accept"
  }

Anda dapat menggunakan parameter berikut sebagai input untuk alat ini.

Nama Tipe Deskripsi
action_by_category benang Nilai biner untuk setiap kategori: Accept atau Reject. Nilai ini menunjukkan apakah teks memenuhi tingkat sensitivitas yang Anda tetapkan dalam parameter permintaan untuk kategori tersebut.
suggested_action benang Rekomendasi keseluruhan berdasarkan empat kategori. Jika ada kategori yang memiliki Reject nilai, suggested_action juga .Reject

Langkah selanjutnya