Cara mengonfigurasi filter konten dengan Azure OpenAI Service

  • Artikel

Catatan

Semua pelanggan memiliki kemampuan untuk memodifikasi filter konten dan mengonfigurasi ambang keparahan (rendah, sedang, tinggi). Persetujuan diperlukan untuk menonaktifkan filter konten sebagian atau sepenuhnya. Pelanggan terkelola hanya dapat mengajukan kontrol pemfilteran konten penuh melalui formulir ini: Tinjauan Akses Terbatas Azure OpenAI: Filter Konten yang Dimodifikasi.

Sistem pemfilteran konten yang diintegrasikan ke dalam Azure OpenAI Service berjalan bersama model inti dan menggunakan ansambel model klasifikasi multi-kelas untuk mendeteksi empat kategori konten berbahaya (kekerasan, kebencian, seksual, dan membahayakan diri sendiri) masing-masing pada empat tingkat keparahan (aman, rendah, sedang, dan tinggi), dan pengklasifikasi biner opsional untuk mendeteksi risiko jailbreak, teks yang ada, dan kode di repositori publik. Konfigurasi pemfilteran konten default diatur untuk memfilter pada ambang keparahan sedang untuk keempat kategori konten membahayakan untuk perintah dan penyelesaian. Itu berarti bahwa konten yang terdeteksi pada tingkat keparahan sedang atau tinggi difilter, sementara konten yang terdeteksi pada tingkat keparahan rendah atau aman tidak difilter oleh filter konten. Pelajari selengkapnya tentang kategori konten, tingkat keparahan, dan perilaku sistem pemfilteran konten di sini. Deteksi risiko Jailbreak dan model teks dan kode yang dilindungi bersifat opsional dan nonaktif secara default. Untuk model teks dan kode material yang dilindungi dan jailbreak, fitur konfigurasi memungkinkan semua pelanggan untuk mengaktifkan dan menonaktifkan model. Model secara default nonaktif dan dapat diaktifkan per skenario Anda. Beberapa model harus aktif untuk skenario tertentu untuk mempertahankan cakupan berdasarkan Komitmen Hak Cipta Pelanggan.

Filter konten dapat dikonfigurasi pada tingkat sumber daya. Setelah konfigurasi baru dibuat, konfigurasi dapat dikaitkan dengan satu atau beberapa penyebaran. Untuk informasi selengkapnya tentang penyebaran model, lihat panduan penyebaran sumber daya.

Fitur konfigurasi tersedia dalam pratinjau dan memungkinkan pelanggan untuk menyesuaikan pengaturan, secara terpisah untuk permintaan dan penyelesaian, untuk memfilter konten untuk setiap kategori konten pada tingkat keparahan yang berbeda seperti yang dijelaskan dalam tabel di bawah ini. Konten yang terdeteksi pada tingkat keparahan 'aman' diberi label dalam anotasi tetapi tidak tunduk pada pemfilteran dan tidak dapat dikonfigurasi.

Tingkat keparahan difilter Dapat dikonfigurasi untuk perintah Dapat dikonfigurasi untuk penyelesaian Deskripsi
Rendah, sedang, tinggi Ya Ya Konfigurasi pemfilteran paling ketat. Konten yang terdeteksi pada tingkat keparahan rendah, sedang, dan tinggi difilter.
Sedang, tinggi Ya Ya Pengaturan awal. Konten yang terdeteksi pada tingkat keparahan rendah tidak difilter, konten pada sedang dan tinggi difilter.
Sangat Penting Ya Ya Konten yang terdeteksi pada tingkat keparahan rendah dan sedang tidak difilter. Hanya konten pada tingkat keparahan tinggi yang difilter.
Tidak ada filter Jika disetujui* Jika disetujui* Tidak ada konten yang difilter terlepas dari tingkat keparahan yang terdeteksi. Memerlukan persetujuan*.

* Hanya pelanggan yang disetujui yang memiliki kontrol pemfilteran konten penuh dan dapat menonaktifkan sebagian atau sepenuhnya filter konten. Pelanggan terkelola hanya dapat mengajukan kontrol pemfilteran konten lengkap melalui formulir ini: Tinjauan Akses Terbatas Azure OpenAI: Filter Konten yang Dimodifikasi

Pelanggan bertanggung jawab untuk memastikan bahwa aplikasi yang mengintegrasikan Azure OpenAI mematuhi Kode Etik.

Kategori filter Pengaturan default Diterapkan untuk perintah atau penyelesaian? Deskripsi
Deteksi risiko Jailbreak Nonaktif Prompt Dapat diaktifkan untuk memfilter atau membuat anotasi permintaan pengguna yang mungkin menampilkan Risiko Jailbreak. Untuk informasi selengkapnya tentang menggunakan anotasi, kunjungi Pemfilteran konten Azure OpenAI Service
Bahan yang dilindungi - kode off Penyelesaian Dapat diaktifkan untuk mendapatkan contoh kutipan dan informasi lisensi dalam anotasi untuk cuplikan kode yang cocok dengan sumber kode publik apa pun. Untuk informasi selengkapnya tentang menggunakan anotasi, lihat panduan konsep pemfilteran konten
Bahan yang dilindungi - teks off Penyelesaian Dapat diaktifkan untuk mengidentifikasi dan memblokir konten teks yang diketahui agar tidak ditampilkan dalam output model (misalnya, lirik lagu, resep, dan konten web yang dipilih).

Mengonfigurasi filter konten melalui Azure OpenAI Studio (pratinjau)

Langkah-langkah berikut menunjukkan cara menyiapkan konfigurasi pemfilteran konten yang dikustomisasi untuk sumber daya Anda.

  1. Buka Azure OpenAI Studio dan navigasi ke tab Filter Konten (di navigasi kiri bawah, seperti yang ditunjuk oleh kotak merah di bawah).

    Cuplikan layar antarmuka pengguna AI Studio dengan Filter Konten disorot

  2. Buat konfigurasi pemfilteran konten baru yang dikustomisasi.

    Cuplikan layar UI konfigurasi pemfilteran konten dengan buat dipilih

    Ini mengarah ke tampilan konfigurasi berikut, di mana Anda dapat memilih nama untuk konfigurasi pemfilteran konten kustom.

    Cuplikan layar UI konfigurasi pemfilteran konten

  3. Ini adalah tampilan konfigurasi pemfilteran konten default, di mana konten difilter pada tingkat keparahan sedang dan tinggi untuk semua kategori. Anda dapat mengubah tingkat keparahan pemfilteran konten untuk permintaan pengguna dan penyelesaian model secara terpisah (konfigurasi untuk perintah ada di kolom kiri dan konfigurasi untuk penyelesaian berada di kolom kanan, seperti yang ditunjuk dengan kotak biru di bawah) untuk masing-masing dari empat kategori konten (kategori konten tercantum di sisi kiri layar, seperti yang ditunjuk dengan kotak hijau di bawah). Ada tiga tingkat keparahan untuk setiap kategori yang dapat dikonfigurasi: Rendah, sedang, dan tinggi. Anda dapat menggunakan penggeser untuk mengatur ambang keparahan.

    Cuplikan layar UI konfigurasi pemfilteran konten dengan perintah pengguna dan penyelesaian model disorot

  4. Jika Anda menentukan bahwa skenario aplikasi atau penggunaan Memerlukan pemfilteran yang lebih ketat untuk beberapa atau semua kategori konten, Anda dapat mengonfigurasi pengaturan, secara terpisah untuk permintaan dan penyelesaian, untuk memfilter pada tingkat keparahan yang lebih besar daripada pengaturan default. Contoh ditunjukkan pada gambar di bawah ini, di mana tingkat pemfilteran untuk permintaan pengguna diatur ke konfigurasi paling ketat untuk kebencian dan seksual, dengan konten tingkat keparahan rendah yang difilter bersama dengan konten yang diklasifikasikan sebagai tingkat keparahan sedang dan tinggi (diuraikan dalam kotak merah di bawah). Dalam contoh, tingkat pemfilteran untuk penyelesaian model diatur pada konfigurasi paling ketat untuk semua kategori konten (kotak biru di bawah). Dengan konfigurasi pemfilteran yang dimodifikasi ini, konten tingkat keparahan rendah, sedang, dan tinggi akan difilter untuk kategori kebencian dan seksual dalam permintaan pengguna; konten tingkat keparahan sedang dan tinggi akan difilter untuk kategori bahaya diri dan kekerasan dalam permintaan pengguna; dan konten tingkat keparahan rendah, sedang, dan tinggi akan difilter untuk semua kategori konten dalam penyelesaian model.

    Cuplikan layar konfigurasi pemfilteran konten dengan rendah, sedang, tinggi, disorot.

  5. Jika kasus penggunaan Anda disetujui untuk filter konten yang dimodifikasi seperti yang diuraikan di atas, Anda menerima kontrol penuh atas konfigurasi pemfilteran konten dan dapat memilih untuk menonaktifkan pemfilteran sebagian atau sepenuhnya. Pada gambar di bawah ini, pemfilteran dinonaktifkan untuk kekerasan (kotak hijau di bawah), sementara konfigurasi default dipertahankan untuk kategori lain. Meskipun ini menonaktifkan fungsionalitas filter untuk kekerasan, konten masih akan diannotasi. Untuk menonaktifkan semua filter dan anotasi, alihkan Filter dan anotasi (kotak merah di bawah).

    Cuplikan layar konfigurasi pemfilteran konten dengan bahaya diri sendiri dan kekerasan diatur ke nonaktif.

    Anda dapat membuat beberapa konfigurasi pemfilteran konten sesuai kebutuhan Anda.

  6. Untuk mengaktifkan model opsional, Anda dapat memilih salah satu kotak centang di sisi kiri. Saat setiap model opsional diaktifkan, Anda dapat menunjukkan apakah model harus Membuat Anotasi atau Filter.

  7. Memilih Anotasi menjalankan model masing-masing dan mengembalikan anotasi melalui respons API, tetapi tidak akan memfilter konten. Selain anotasi, Anda juga dapat memilih untuk memfilter konten dengan mengalihkan tombol Filter ke aktif.

  8. Anda dapat membuat beberapa konfigurasi pemfilteran konten sesuai kebutuhan Anda.

    Cuplikan layar beberapa konfigurasi konten di portal Azure.

  9. Selanjutnya, untuk membuat konfigurasi pemfilteran konten kustom beroperasi, tetapkan konfigurasi ke satu atau beberapa penyebaran di sumber daya Anda. Untuk melakukan ini, buka tab Penyebaran dan pilih Edit penyebaran (diuraikan di dekat bagian atas layar dalam kotak merah di bawah).

    Cuplikan layar konfigurasi pemfilteran konten dengan penyebaran edit disorot.

  10. Buka opsi tingkat lanjut (diuraikan dalam kotak biru di bawah) pilih konfigurasi filter konten yang cocok untuk penyebaran tersebut dari dropdown Filter Konten (diuraikan di dekat bagian bawah kotak dialog di kotak merah di bawah).

    Cuplikan layar edit konfigurasi penyebaran dengan opsi tingkat lanjut dipilih.

  11. Pilih Simpan dan tutup untuk menerapkan konfigurasi yang dipilih ke penyebaran.

    Cuplikan layar konfigurasi edit penyebaran dengan filter konten dipilih.

  12. Anda juga dapat mengedit dan menghapus konfigurasi filter konten jika diperlukan. Untuk melakukan ini, navigasikan ke tab filter konten dan pilih tindakan yang diinginkan (opsi yang diuraikan di dekat bagian atas layar dalam kotak merah di bawah). Anda hanya dapat mengedit/menghapus satu konfigurasi pemfilteran pada satu waktu.

    Cuplikan layar konfigurasi filter konten dengan edit dan hapus disorot.

    Catatan

    Sebelum menghapus konfigurasi pemfilteran konten, Anda harus menghapus penetapannya dari penyebaran apa pun di tab Penyebaran.

Praktik terbaik

Sebaiknya informasikan keputusan konfigurasi pemfilteran konten Anda melalui identifikasi berulang (misalnya, pengujian tim merah, pengujian stres, dan analisis) dan proses pengukuran untuk mengatasi potensi bahaya yang relevan untuk model, aplikasi, dan skenario penyebaran tertentu. Setelah Anda menerapkan mitigasi seperti pemfilteran konten, ulangi pengukuran untuk menguji efektivitas. Rekomendasi dan praktik terbaik untuk AI yang Bertanggung Jawab untuk Azure OpenAI, yang beralasan Microsoft Responsible AI Standard dapat ditemukan di Gambaran Umum AI yang Bertanggung Jawab untuk Azure OpenAI.

Langkah berikutnya