Bagikan melalui

Mulai cepat: Deteksi bahan yang dilindungi untuk teks

  • Artikel

Fitur Protected Material for Text menyediakan solusi komprehensif untuk mengelola risiko yang terkait dengan konten yang dihasilkan AI (hanya konten bahasa Inggris). Dengan mendeteksi dan mencegah tampilan materi yang dilindungi, organisasi dapat memastikan kepatuhan terhadap undang-undang kekayaan intelektual, mempertahankan orisinalitas konten, dan melindungi reputasi mereka. Materi yang dilindungi mengacu pada konten yang cocok dengan teks yang diketahui dari sumber berhak cipta, seperti lirik lagu, artikel, resep, atau konten web lain yang dipilih.

Tujuan utama fitur Deteksi Bahan Terproteksi untuk Teks untuk konten yang dihasilkan AI adalah:

  • Untuk mendeteksi dan mencegah tampilan konten yang dilindungi yang dihasilkan oleh model AI.
  • Untuk memungkinkan organisasi mengelola risiko yang terkait dengan konten yang dihasilkan AI.
  • Untuk memastikan bahwa konten yang dihasilkan AI mematuhi pedoman kebijakan hukum, etika, dan konten.

Untuk informasi selengkapnya tentang deteksi bahan yang dilindungi, lihat halaman Konsep deteksi material yang dilindungi. Untuk batas input API, lihat bagian Persyaratan input dari Gambaran Umum.

Prasyarat

  • Langganan Azure - buat langganan gratis
  • Setelah Anda memiliki langganan Azure, buat sumber daya Content Safety di portal Azure untuk mendapatkan kunci dan titik akhir Anda. Masukkan nama unik untuk sumber daya Anda, pilih langganan Anda, dan pilih grup sumber daya, wilayah yang didukung (lihat Ketersediaan wilayah), dan tingkat harga yang didukung. Lalu pilih Buat.
    • Sumber daya membutuhkan waktu beberapa menit untuk disebarkan. Setelah selesai, Pilih buka sumber daya. Di panel kiri, di bawah Manajemen Sumber Daya, pilih Kunci Langganan dan Titik Akhir. Titik akhir dan salah satu kunci digunakan untuk memanggil API.
  • cURL terpasang

Menganalisis teks untuk deteksi bahan yang dilindungi

Bagian berikut memancang permintaan sampel dengan cURL. Tempelkan perintah di bawah ini ke editor teks, dan buat perubahan berikut.

  1. Ganti <endpoint> dengan URL titik akhir yang terkait dengan sumber daya Anda.
  2. Ganti <your_subscription_key> dengan salah satu kunci yang disertakan dengan sumber daya Anda.
  3. Secara opsional, ganti "text" bidang dalam isi dengan teks Anda sendiri yang ingin Anda analisis.

    Tip

    Lihat Persyaratan input untuk batasan panjang teks maksimum. Deteksi material yang dilindungi dimaksudkan untuk dijalankan pada penyelesaian LLM, bukan permintaan pengguna.

curl --location --request POST '<endpoint>/contentsafety/text:detectProtectedMaterial?api-version=2024-09-01' \
--header 'Ocp-Apim-Subscription-Key: <your_subscription_key>' \
--header 'Content-Type: application/json' \
--data-raw '{
  "text": "Kiss me out of the bearded barley Nightly beside the green, green grass Swing, swing, swing the spinning step You wear those shoes and I will wear that dress Oh, kiss me beneath the milky twilight Lead me out on the moonlit floor Lift your open hand Strike up the band and make the fireflies dance Silver moon's sparkling So, kiss me Kiss me down by the broken tree house Swing me upon its hanging tire Bring, bring, bring your flowered hat We'll take the trail marked on your father's map."
}'

Bidang di bawah ini harus disertakan dalam url:

Nama Wajib diisi? Deskripsi Jenis
Versi API Wajib Ini adalah versi API yang akan diperiksa. Versi saat ini adalah: api-version=2024-09-01. Contoh: <endpoint>/contentsafety/text:detectProtectedMaterial?api-version=2024-09-01 String

Parameter dalam isi permintaan ditentukan dalam tabel ini:

Nama Wajib diisi? Deskripsi Jenis
text Wajib Ini adalah teks mentah yang akan diperiksa. Karakter non-ascii lainnya dapat disertakan. String

Lihat contoh isi permintaan berikut:

{
  "text": "string"
}

Buka jendela prompt perintah dan jalankan perintah cURL.

Menginterpretasikan respons API

Anda akan melihat hasil deteksi material yang dilindungi ditampilkan sebagai data JSON dalam output konsol. Contohnya:

{
  "protectedMaterialAnalysis": {
    "detected": true
  }
}

Bidang JSON dalam output ditentukan di sini:

Nama Deskripsi Jenis
protectedMaterialAnalysis Setiap kelas output yang diprediksi API. String
Terdeteksi Apakah bahan yang dilindungi terdeteksi atau tidak. Boolean

Membersihkan sumber daya

Jika Anda ingin membersihkan dan menghapus langganan layanan Azure AI, Anda dapat menghapus sumber daya atau grup sumber daya. Menghapus grup sumber daya juga menghapus sumber daya apa pun yang terkait dengannya.

Konten terkait