Apa itu Azure AI Content Brankas ty?
Azure AI Content Brankas ty mendeteksi konten yang dihasilkan pengguna dan buatan AI yang berbahaya dalam aplikasi dan layanan. Azure AI Content Brankas ty menyertakan API teks dan gambar yang memungkinkan Anda mendeteksi materi yang berbahaya. Kami juga memiliki Content Brankas ty Studio interaktif yang memungkinkan Anda melihat, menjelajahi, dan mencoba kode sampel untuk mendeteksi konten berbahaya di berbagai modalitas.
Perangkat lunak pemfilteran konten dapat membantu aplikasi Anda mematuhi peraturan atau mempertahankan lingkungan yang dimaksudkan untuk pengguna Anda.
Dokumentasi ini berisi jenis artikel berikut:
- Mulai cepat adalah instruksi awal untuk memandu Anda dalam membuat permintaan ke layanan.
- Panduan berisi instruksi untuk menggunakan layanan dengan cara yang lebih spesifik atau disesuaikan.
- Konsep memberikan penjelasan mendalam tentang fungsionalitas dan fitur layanan.
Tempat penggunaan
Berikut ini adalah beberapa skenario di mana pengembang atau tim perangkat lunak memerlukan layanan moderasi konten:
- Pasar online yang memoderasi katalog produk dan konten buatan pengguna lainnya.
- Perusahaan game yang memoderasi artefak game buatan pengguna dan ruang obrolan.
- Platform pesan sosial yang memoderasi gambar dan teks yang ditambahkan oleh pengguna mereka.
- Perusahaan media enterprise yang mengimplementasikan moderasi terpusat untuk konten mereka.
- Penyedia solusi pendidikan K-12 yang memfilter konten yang tidak sesuai untuk siswa dan pendidik.
Penting
Anda tidak dapat menggunakan Azure AI Content Brankas ty untuk mendeteksi gambar eksploitasi anak ilegal.
Jenis produk
Ada berbagai jenis analisis yang tersedia dari layanan ini. Tabel berikut ini menjelaskan API yang saat ini tersedia.
| Jenis | Fungsi |
|---|---|
| Menganalisis API teks | Memindai teks untuk konten seksual, kekerasan, kebencian, dan bahaya diri dengan tingkat keparahan multi-tingkat. |
| Menganalisis API gambar | Memindai gambar untuk konten seksual, kekerasan, kebencian, dan bahaya diri dengan tingkat keparahan multi-tingkat. |
| Prompt Shields (pratinjau) | Memindai teks untuk risiko serangan input Pengguna pada Model Bahasa Besar. Mulai Cepat |
| Deteksi groundedness (pratinjau) | Mendeteksi apakah respons teks model bahasa besar (LLM) di-grounded dalam materi sumber yang disediakan oleh pengguna. Mulai Cepat |
| Deteksi teks material yang dilindungi (pratinjau) | Memindai teks yang dihasilkan AI untuk konten teks yang diketahui (misalnya, lirik lagu, artikel, resep, konten web yang dipilih). Mulai Cepat |
| API respons insiden (pratinjau) | Memungkinkan Anda menentukan pola konten berbahaya yang muncul dan memindai teks dan gambar untuk kecocokan. Panduan cara penggunaan |
Content Brankas ty Studio
Azure AI Content Brankas ty Studio adalah alat online yang dirancang untuk menangani konten yang berpotensi menyinggung, berisiko, atau tidak diinginkan menggunakan model ML kon mode tenda rasi mutakhir. Ini menyediakan templat dan alur kerja yang disesuaikan, memungkinkan pengguna untuk memilih dan membangun sistem con mode tenda ration mereka sendiri. Pengguna dapat mengunggah konten mereka sendiri atau mencobanya dengan konten sampel yang disediakan.
Content Brankas ty Studio tidak hanya berisi model AI out-of-the-box tetapi juga menyertakan daftar blokir istilah bawaan Microsoft untuk menandai kata-kata koceh dan tetap mendapatkan informasi terbaru tentang tren baru. Anda juga dapat mengunggah daftar blokir Anda sendiri untuk meningkatkan cakupan konten berbahaya yang khusus untuk kasus penggunaan Anda.
Studio juga memungkinkan Anda menyiapkan alur kerja moderasi, di mana Anda dapat terus memantau dan meningkatkan performa con mode tenda ration. Ini dapat membantu Anda memenuhi persyaratan konten dari semua jenis industri seperti game, media, pendidikan, E-niaga, dan banyak lagi. Bisnis dapat dengan mudah menghubungkan layanan mereka ke Studio dan memiliki con mode tenda rated secara real time, baik yang dihasilkan pengguna atau buatan AI.
Semua kemampuan ini ditangani oleh Studio dan backend-nya; pelanggan tidak perlu khawatir tentang pengembangan model. Anda dapat melakukan onboarding data untuk validasi cepat dan memantau KPI, seperti metrik teknis (latensi, akurasi, pengenalan), atau metrik bisnis (laju blok, volume blok, proporsi kategori, proporsi bahasa, dan banyak lagi). Dengan operasi dan konfigurasi sederhana, pelanggan dapat menguji solusi yang berbeda dengan cepat dan menemukan yang paling cocok, alih-alih menghabiskan waktu bereksperimen dengan model kustom atau melakukan moderasi secara manual.
Fitur Content Brankas ty Studio
Di Content Brankas ty Studio, fitur layanan Azure AI Content Brankas ty berikut ini tersedia:
Memoderasi Konten Teks: Dengan alat moderasi teks, Anda dapat dengan mudah menjalankan pengujian pada konten teks. Baik Anda ingin menguji satu kalimat atau seluruh himpunan data, alat kami menawarkan antarmuka yang mudah digunakan yang memungkinkan Anda menilai hasil pengujian langsung di portal. Anda dapat bereksperimen dengan tingkat sensitivitas yang berbeda untuk mengonfigurasi filter konten dan manajemen daftar blokir Anda, memastikan bahwa konten Anda selalu dimoderasi sesuai spesifikasi Anda. Plus, dengan kemampuan untuk mengekspor kode, Anda dapat mengimplementasikan alat langsung di aplikasi Anda, menyederhanakan alur kerja Anda dan menghemat waktu.
Konten Gambar Moderat: Dengan alat moderasi gambar, Anda dapat dengan mudah menjalankan pengujian pada gambar untuk memastikan bahwa mereka memenuhi standar konten Anda. Antarmuka ramah pengguna kami memungkinkan Anda mengevaluasi hasil pengujian langsung di portal, dan Anda dapat bereksperimen dengan tingkat sensitivitas yang berbeda untuk mengonfigurasi filter konten Anda. Setelah menyesuaikan pengaturan, Anda dapat dengan mudah mengekspor kode untuk mengimplementasikan alat di aplikasi Anda.
Pantau Aktivitas Online: Halaman pemantauan yang kuat memungkinkan Anda untuk dengan mudah melacak penggunaan dan tren API moderasi Anda di berbagai modalitas. Dengan fitur ini, Anda dapat mengakses informasi respons terperinci, termasuk distribusi kategori dan tingkat keparahan, latensi, kesalahan, dan deteksi daftar blokir. Informasi ini memberi Anda gambaran lengkap tentang performa con mode tenda ration, memungkinkan Anda mengoptimalkan alur kerja dan memastikan bahwa konten Anda selalu dimoderasi sesuai spesifikasi anda. Dengan antarmuka ramah pengguna kami, Anda dapat dengan cepat dan mudah menavigasi halaman pemantauan untuk mengakses informasi yang Anda butuhkan untuk membuat keputusan berdasarkan informasi tentang strategi con mode tenda ration Anda. Anda memiliki alat yang Anda butuhkan untuk tetap berada di atas performa con mode tenda ration Anda dan mencapai tujuan konten Anda.
Persyaratan input
Panjang maksimum default untuk pengiriman teks adalah 10K karakter. Jika Anda perlu menganalisis blok teks yang lebih panjang, Anda dapat membagi teks input (misalnya, dengan tanda baca atau spasi) di beberapa pengiriman terkait.
Ukuran maksimum untuk pengiriman gambar adalah 4 MB, dan dimensi gambar harus antara 50 x 50 piksel dan 2.048 x 2.048 piksel. Gambar dapat dalam format JPEG, PNG, GIF, BMP, TIFF, atau WEBP.
Keamanan
Menggunakan ID Microsoft Entra atau Identitas Terkelola untuk mengelola akses
Untuk keamanan yang ditingkatkan, Anda dapat menggunakan ID Microsoft Entra atau Identitas Terkelola (MI) untuk mengelola akses ke sumber daya Anda.
- Identitas Terkelola diaktifkan secara otomatis saat Anda membuat sumber daya Content Brankas ty.
- MICROSOFT Entra ID didukung dalam skenario API dan SDK. Lihat panduan layanan AI umum Autentikasi dengan ID Microsoft Entra. Anda juga dapat memberikan akses ke pengguna lain dalam organisasi Anda dengan menetapkan peran Pengguna dan Pembaca Cognitive Services kepada mereka. Untuk mempelajari selengkapnya tentang memberikan akses pengguna ke sumber daya Azure menggunakan portal Azure, lihat panduan kontrol akses berbasis Peran.
Enkripsi data tidak aktif
Pelajari bagaimana Azure AI Content Brankas ty menangani enkripsi dan dekripsi data Anda. Kunci yang dikelola pelanggan (CMK), juga dikenal sebagai Bring Your Own Key (BYOK), menawarkan fleksibilitas yang lebih besar untuk membuat, memutar, menonaktifkan, dan mencabut kontrol akses. Anda juga dapat mengaudit kunci enkripsi yang digunakan untuk melindungi data Anda.
Harga
Saat ini, Azure AI Content Brankas ty memiliki tingkat harga F0 dan S0. Lihat halaman harga Azure untuk informasi selengkapnya.
Batas layanan
Dukungan bahasa
Model konten Brankas ty telah dilatih dan diuji secara khusus dalam bahasa berikut: Inggris, Jerman, Jepang, Spanyol, Prancis, Italia, Portugis, dan Cina. Namun, layanan ini dapat bekerja dalam banyak bahasa lain, tetapi kualitasnya mungkin bervariasi. Dalam semua kasus, Anda harus melakukan pengujian Anda sendiri untuk memastikan bahwa itu berfungsi untuk aplikasi Anda.
Untuk informasi selengkapnya, lihat Dukungan bahasa.
Wilayah/lokasi
Untuk menggunakan Content Brankas ty API, Anda harus membuat sumber daya Azure AI Content Brankas ty di wilayah yang didukung. Saat ini, tersedia di wilayah Azure berikut:
- Australia Timur
- Kanada Timur
- US Tengah
- US Timur
- AS Timur 2
- Prancis Tengah
- Jepang Timur
- US Tengah Utara
- US Tengah Selatan
- Swiss Utara
- UK Selatan
- Eropa Barat
- US Barat 2
- Swedia Tengah
Fitur pratinjau publik, seperti Prompt Shields dan deteksi material yang dilindungi, tersedia di wilayah Azure berikut:
- AS Timur
- Eropa Barat
Jangan ragu untuk menghubungi kami jika Anda membutuhkan wilayah lain untuk bisnis Anda.
Laju kueri
| Tingkat Harga | Permintaan per 10 detik (RPS) |
|---|---|
| F0 | 1000 |
| S0 | 1000 |
Jika Anda memerlukan tarif yang lebih cepat, silakan hubungi kami untuk meminta.
Hubungi kami
Jika Anda macet, kirim email kepada kami atau gunakan widget umpan balik di kanan atas halaman dokumen apa pun.
Langkah berikutnya
Ikuti mulai cepat untuk mulai menggunakan Azure AI Content Brankas ty di aplikasi Anda.