Pemantauan penyalahgunaan dalam deteksi liveness Wajah
Deteksi keaktifan Wajah Azure AI memungkinkan Anda mendeteksi dan mengurangi instans konten dan/atau perilaku berulang yang menunjukkan pelanggaran Kode Etik atau ketentuan produk lain yang berlaku. Panduan ini menunjukkan kepada Anda cara bekerja dengan fitur-fitur ini untuk memastikan aplikasi Anda mematuhi kebijakan Azure.
Detail tentang bagaimana data ditangani dapat ditemukan di halaman Data, Privasi, dan Keamanan .
Penting
SDK klien Face untuk keakuratan adalah fitur yang terjaga. Anda harus meminta akses ke fitur keaktivitas dengan mengisi formulir asupan Pengenalan Wajah. Saat langganan Azure Anda diberikan akses, Anda dapat mengunduh Face liveness SDK.
Komponen pemantauan penyalahgunaan
Ada beberapa komponen untuk pemantauan penyalahgunaan keaktivitas wajah:
- Manajemen sesi: Sistem aplikasi backend Anda membuat sesi deteksi liveness atas nama pengguna akhir Anda. Layanan Face mengeluarkan token otorisasi untuk sesi tertentu, dan masing-masing berlaku untuk panggilan API dalam jumlah terbatas. Ketika pengguna akhir mengalami kegagalan selama deteksi liveness, token baru diminta. Ini memungkinkan aplikasi backend untuk menilai risiko memungkinkan percobaan kembali keaktivitas tambahan. Sejumlah percobaan ulang yang berlebihan dapat menunjukkan upaya adversarial brute force untuk melewati sistem deteksi keaktifan.
- Pengidentifikasi korelasi sementara: Proses pembuatan sesi meminta Anda untuk menetapkan GUID korelasi 128-bit sementara (pengidentifikasi unik global) untuk setiap pengguna akhir sistem aplikasi Anda. Ini memungkinkan Anda mengaitkan setiap sesi dengan individu. Model pengklasifikasi pada backend layanan dapat mendeteksi istik serangan presentasi dan mengamati pola kegagalan di seluruh penggunaan GUID tertentu. GUID ini harus dapat diatur ulang sesuai permintaan untuk mendukung penimpaan manual sistem mitigasi penyalahgunaan otomatis.
- Pengambilan pola penyalahgunaan: Layanan deteksi keaktifan Wajah Azure AI melihat pola penggunaan pelanggan dan menggunakan algoritma dan heuristik untuk mendeteksi indikator potensi penyalahgunaan. Pola yang terdeteksi mempertimbangkan, misalnya, frekuensi dan tingkat keparahan di mana konten serangan presentasi terdeteksi dalam pengambilan gambar pelanggan.
- Tinjauan dan keputusan manusia: Ketika pengidentifikasi korelasi ditandai melalui pengambilan pola penyalahgunaan seperti yang dijelaskan di atas, tidak ada sesi lebih lanjut yang dapat dibuat untuk pengidentifikasi tersebut. Anda harus mengizinkan karyawan yang berwenang untuk menilai pola lalu lintas dan mengonfirmasi atau mengambil alih penentuan berdasarkan pedoman dan kebijakan yang telah ditentukan sebelumnya. Jika tinjauan manusia menyimpulkan bahwa penimpaan diperlukan, Anda harus menghasilkan GUID korelasi sementara baru untuk individu untuk menghasilkan lebih banyak sesi.
- Pemberitahuan dan tindakan: Ketika ambang perilaku kasar telah dikonfirmasi berdasarkan langkah-langkah sebelumnya, pelanggan harus diberi tahu tentang penentuan melalui email. Kecuali dalam kasus penyalahgunaan yang parah atau berulang, pelanggan biasanya diberi kesempatan untuk menjelaskan atau memulihkan—dan menerapkan mekanisme untuk mencegah pengulangan—perilaku kasar. Kegagalan untuk mengatasi perilaku, atau penyalahgunaan berulang atau parah, dapat mengakibatkan penangguhan atau penghentian kelayakan Akses Terbatas Anda untuk sumber daya dan/atau kemampuan Azure AI Face.