Pemantauan Penyalahgunaan

Layanan Azure OpenAI mendeteksi dan mengurangi instans konten dan/atau perilaku berulang yang menyarankan penggunaan layanan dengan cara yang dapat melanggar Kode Etik atau ketentuan produk lain yang berlaku. Detail tentang bagaimana data ditangani dapat ditemukan di halaman Data, Privasi, dan Keamanan. Terapkan untuk pemantauan penyalahgunaan yang dimodifikasi menggunakan formulir ini: Tinjauan Akses Terbatas Azure OpenAI: Pemantauan Penyalahgunaan yang Dimodifikasi.

Komponen pemantauan penyalahgunaan

Ada beberapa komponen untuk menyalahgunakan pemantauan:

• Klasifikasi Konten: Model pengklasifikasi mendeteksi bahasa dan/atau gambar berbahaya dalam perintah pengguna (input) dan penyelesaian (output). Sistem mencari kategori bahaya seperti yang didefinisikan dalam Persyaratan Konten, dan menetapkan tingkat keparahan seperti yang dijelaskan secara lebih rinci di halaman Pemfilteran Konten.

• Tangkapan Pola Penyalahgunaan: Pemantauan penyalahgunaan Layanan Azure OpenAI melihat pola penggunaan pelanggan dan menggunakan algoritma dan heuristik untuk mendeteksi indikator potensi penyalahgunaan. Pola yang terdeteksi mempertimbangkan, misalnya, frekuensi dan tingkat keparahan di mana konten berbahaya terdeteksi dalam permintaan dan penyelesaian pelanggan.

• Tinjauan dan Keputusan Manusia: Ketika permintaan dan/atau penyelesaian ditandai melalui klasifikasi konten dan pengambilan pola penyalahgunaan seperti yang dijelaskan di atas, karyawan Microsoft yang berwenang dapat menilai konten yang ditandai, dan mengonfirmasi atau memperbaiki klasifikasi atau penentuan berdasarkan pedoman dan kebijakan yang telah ditentukan sebelumnya. Data hanya dapat diakses untuk peninjauan manusia oleh karyawan Microsoft yang berwenang melalui Stasiun Kerja Akses Aman (SAW) dengan persetujuan permintaan Just-In-Time (JIT) yang diberikan oleh manajer tim. Untuk sumber daya Azure OpenAI Service yang disebarkan di Area Ekonomi Eropa, karyawan Resmi Microsoft terletak di Area Ekonomi Eropa.

• Pemberitahuan dan Tindakan: Ketika ambang perilaku kasar telah dikonfirmasi berdasarkan tiga langkah sebelumnya, pelanggan diberitahu tentang penentuan melalui email. Kecuali dalam kasus penyalahgunaan yang parah atau berulang, pelanggan biasanya diberi kesempatan untuk menjelaskan atau memulihkan—dan menerapkan mekanisme untuk mencegah pengulangan—perilaku kasar. Kegagalan untuk mengatasi perilaku—atau penyalahgunaan berulang atau parah—dapat mengakibatkan penangguhan atau penghentian akses pelanggan ke sumber daya dan/atau kemampuan Azure OpenAI.

Langkah berikutnya

• Pelajari selengkapnya tentang model yang mendasari yang mendukung Azure OpenAI.
• Pelajari selengkapnya tentang memahami dan mengurangi risiko yang terkait dengan aplikasi Anda: Gambaran umum praktik AI yang Bertanggung Jawab untuk model Azure OpenAI.
• Pelajari selengkapnya tentang cara data diproses sehubungan dengan pemfilteran konten dan pemantauan penyalahgunaan: Data, privasi, dan keamanan untuk Azure OpenAI Service.