Apa yang baru dalam Azure AI Content Safety
Pelajari apa yang baru di layanan ini. Item ini mungkin catatan rilis, video, posting blog, dan jenis informasi lainnya. Gunakan artikel ini untuk tetap mendapatkan informasi terbaru mengenai penyempurnaan fitur, perbaikan, dan pembaruan dokumentasi.
Oktober 2024
Penghentian yang akan datang
Untuk menyelaraskan dengan penerapan versi Keamanan Konten dan kebijakan manajemen siklus hidup, versi berikut dijadwalkan untuk penghentian:
- Efektif 28 Januari 2024: Semua versi kecuali
2024-09-01, ,2024-09-15-previewdan2024-09-30-previewtidak akan digunakan lagi dan tidak lagi didukung. Kami mendorong pengguna untuk beralih ke versi terbaru yang tersedia untuk terus menerima dukungan dan pembaruan penuh. Jika Anda memiliki pertanyaan tentang proses ini atau memerlukan bantuan terkait transisi, silakan hubungi tim dukungan kami.
September 2024
Analisis multimodal (pratinjau)
API Multimodal menganalisis materi yang berisi konten gambar dan konten teks untuk membantu membuat aplikasi dan layanan lebih aman dari konten yang dihasilkan pengguna atau yang dihasilkan AI yang berbahaya. Menganalisis gambar dan konten teks terkait bersama-sama dapat mempertahankan konteks dan memberikan pemahaman yang lebih komprehensif tentang konten. Ikuti mulai cepat untuk memulai.
Deteksi material yang dilindungi untuk kode (pratinjau)
API kode material yang dilindungi menandai konten kode yang dilindungi (dari repositori GitHub yang diketahui, termasuk pustaka perangkat lunak, kode sumber, algoritma, dan konten pemrograman kepemilikan lainnya) yang mungkin dihasilkan oleh model bahasa besar. Ikuti mulai cepat untuk memulai.
Perhatian
Pemindai/pengindeks kode layanan keselamatan konten hanya saat ini hingga 6 November 2021. Kode yang ditambahkan ke GitHub setelah tanggal ini tidak akan terdeteksi. Gunakan kebijaksanaan Anda sendiri saat menggunakan Materi Terproteksi untuk Kode untuk mendeteksi isi kode terbaru.
Koreksi groundedness (pratinjau)
API deteksi groundedness mencakup fitur koreksi yang secara otomatis mengoreksi ketidakalahan yang terdeteksi dalam teks berdasarkan sumber grounding yang disediakan. Saat fitur koreksi diaktifkan, respons menyertakan corrected Text bidang yang menyajikan teks yang dikoreksi yang selaras dengan sumber dasar. Ikuti mulai cepat untuk memulai.
Agustus 2024
Fitur baru adalah GA
PROMPT Shields API dan Bahan Terlindungi untuk API teks sekarang tersedia secara umum (GA). Ikuti mulai cepat untuk mencobanya.
Juli 2024
Pratinjau publik API kategori kustom (standar)
API kategori kustom (standar) memungkinkan Anda membuat dan melatih kategori konten kustom Anda sendiri dan memindai teks untuk kecocokan. Lihat Kategori kustom untuk mempelajari selengkapnya.
Mei 2024
Pratinjau publik API kategori kustom (cepat)
API kategori kustom (cepat) memungkinkan Anda dengan cepat menentukan pola konten berbahaya yang muncul dan memindai teks dan gambar untuk kecocokan. Lihat Kategori kustom untuk mempelajari selengkapnya.
Maret 2024
Pratinjau publik Prompt Shields
Sebelumnya dikenal sebagai deteksi risiko Jailbreak, fitur yang diperbarui ini mendeteksi serangan prompt, di mana pengguna sengaja mengeksploitasi kerentanan sistem untuk memunculkan perilaku tidak sah dari model bahasa besar. Prompt Shields menganalisis serangan prompt pengguna langsung dan serangan tidak langsung yang disematkan dalam dokumen atau gambar input. Lihat Prompt Shields untuk mempelajari selengkapnya.
Pratinjau publik deteksi groundedness
API deteksi Groundedness mendeteksi apakah respons teks model bahasa besar (LLM) di-grounded dalam materi sumber yang disediakan oleh pengguna. Ungroundedness menjelaskan instans di mana LLM menghasilkan informasi yang tidak faktual atau tidak akurat sesuai dengan apa yang ada dalam bahan sumber. Lihat Deteksi groundedness untuk mempelajari lebih lanjut.
January 2024
Content Safety SDK GA
Layanan Azure AI Content Safety sekarang tersedia secara umum melalui SDK pustaka klien berikut:
- C#: Sampel referensi | API paket | | Mulai Cepat: Teks, Gambar
- Python: Sampel referensi | API paket | | Mulai Cepat: Teks, Gambar
- Java: Sampel referensi | API paket | | Mulai Cepat: Teks, Gambar
- JavaScript: Sampel referensi | API paket | | Mulai Cepat: Teks, Gambar
Penting
Versi pratinjau publik SDK Azure AI Content Safety akan ditolak pada 31 Maret 2024. Harap perbarui aplikasi Anda untuk menggunakan versi GA.
November 2023
Risiko Jailbreak dan deteksi material yang dilindungi (pratinjau)
DETEKSI risiko Jailbreak baru dan API deteksi material yang dilindungi memungkinkan Anda mengurangi beberapa risiko saat menggunakan AI generatif.
- Deteksi risiko Jailbreak memindai teks untuk risiko serangan jailbreak pada Model Bahasa Besar. Mulai Cepat
- Deteksi teks material yang dilindungi memindai teks yang dihasilkan AI untuk konten teks yang diketahui (misalnya, lirik lagu, artikel, resep, konten web yang dipilih). Mulai Cepat
Risiko Jailbreak dan deteksi material yang dilindungi hanya tersedia di wilayah tertentu. Lihat Ketersediaan wilayah.
Oktober 2023
Azure AI Content Safety umumnya tersedia (GA)
Layanan Azure AI Content Safety sekarang tersedia secara umum sebagai layanan cloud.
- Layanan ini tersedia di lebih banyak wilayah Azure. Lihat Gambaran Umum untuk daftar.
- Format pengembalian Api Analisis telah berubah. Lihat Mulai Cepat untuk contoh terbaru.
- Nama dan format pengembalian beberapa API lain telah berubah. Lihat Panduan migrasi untuk daftar lengkap perubahan yang melanggar. Panduan dan mulai cepat lainnya sekarang mencerminkan versi GA.
Azure AI Content Safety Java dan JavaScript SDK
Layanan Azure AI Content Safety sekarang tersedia melalui Java dan JavaScript SDK. SDK masing-masing tersedia di Maven dan npm . Ikuti mulai cepat untuk memulai.
Juli 2023
Azure AI Content Safety C# SDK
Layanan Azure AI Content Safety sekarang tersedia melalui C# SDK. SDK tersedia di NuGet. Ikuti mulai cepat untuk memulai.
Mei 2023
Pratinjau publik Azure AI Content Safety
Azure AI Content Safety mendeteksi materi yang berpotensi menyinggung, berisiko, atau tidak diinginkan. Layanan ini menawarkan model teks dan gambar canggih yang mendeteksi konten bermasalah. Azure AI Content Safety membantu membuat aplikasi dan layanan lebih aman dari konten yang dihasilkan pengguna dan buatan AI yang berbahaya. Ikuti mulai cepat untuk memulai.