Bagikan melalui

Apa yang baru dalam Azure AI Content Safety

Pelajari apa yang baru di layanan ini. Item ini mungkin catatan rilis, video, posting blog, dan jenis informasi lainnya. Gunakan artikel ini untuk tetap mendapatkan informasi terbaru mengenai penyempurnaan fitur, perbaikan, dan pembaruan dokumentasi.

Oktober 2024

Penghentian yang akan datang

Untuk menyelaraskan dengan pengaturan versi Keamanan Konten dan kebijakan manajemen siklus hidup, versi berikut dijadwalkan untuk dihentikan:

  • Efektif 1 Maret 2025: Semua versi API kecuali 2024-09-01, , 2024-09-15-previewdan 2024-09-30-preview tidak akan digunakan lagi dan tidak lagi didukung. Kami mendorong pengguna untuk beralih ke versi terbaru yang tersedia untuk terus menerima dukungan dan pembaruan penuh. Jika Anda memiliki pertanyaan tentang proses ini atau memerlukan bantuan terkait transisi, silakan hubungi tim dukungan kami.

September 2024

Analisis multimodal (pratinjau)

API Multimodal menganalisis materi yang berisi konten gambar dan konten teks untuk membantu membuat aplikasi dan layanan lebih aman dari konten yang dihasilkan pengguna atau yang dihasilkan AI yang berbahaya. Menganalisis gambar dan konten teks terkait bersama-sama dapat mempertahankan konteks dan memberikan pemahaman yang lebih komprehensif tentang konten. Ikuti mulai cepat untuk memulai.

Deteksi bahan terlindungi untuk koding (pratinjau)

API kode material yang dilindungi menandai konten kode yang dilindungi (dari repositori GitHub yang diketahui, termasuk pustaka perangkat lunak, kode sumber, algoritma, dan konten pemrograman kepemilikan lainnya) yang mungkin dihasilkan oleh model bahasa besar. Ikuti panduan cepat untuk memulai.

Perhatian

Pemindai/pengindeks kode layanan Content Safety hanya saat ini hingga 6 April 2023. Kode yang ditambahkan ke GitHub setelah tanggal ini tidak akan terdeteksi. Gunakan kebijaksanaan Anda sendiri saat menggunakan Materi Terproteksi untuk Kode untuk mendeteksi isi kode terbaru.

Koreksi Keterkaitan (Pratinjau)

API deteksi groundedness mencakup fitur koreksi yang secara otomatis mengoreksi ketidakberdasaran yang terdeteksi dalam teks berdasarkan sumber pembenaran yang disediakan. Saat fitur koreksi diaktifkan, respons menyertakan corrected Text bidang yang menyajikan teks yang dikoreksi yang selaras dengan sumber acuan. Ikuti panduan cepat untuk memulai.

Agustus 2024

Fitur baru adalah GA

Prompt Shields API dan Material Terlindungi untuk API Teks sekarang tersedia secara umum (GA). Ikuti panduan cepat untuk mencoba mereka.

Juli 2024

Pratinjau publik API untuk kategori kustom standar

API kategori kustom (standar) memungkinkan Anda membuat dan melatih kategori konten kustom Anda sendiri dan memindai teks untuk kecocokan. Lihat Kategori kustom untuk mempelajari selengkapnya.

Mei 2024

Pratinjau publik API kategori kustom (cepat)

API kategori kustom (cepat) memungkinkan Anda dengan cepat menentukan pola konten berbahaya yang muncul dan memindai teks dan gambar untuk kecocokan. Lihat Kategori kustom untuk mempelajari selengkapnya.

Maret 2024

Pratinjau versi publik Prompt Shields

Sebelumnya dikenal sebagai Deteksi risiko Jailbreak, fitur yang diperbarui ini mendeteksi serangan prompt, di mana pengguna sengaja mengeksploitasi kerentanan sistem untuk memunculkan perilaku tidak sah dari model bahasa besar. Prompt Shields menganalisis serangan prompt langsung pengguna dan serangan tidak langsung yang tertanam dalam dokumen atau gambar masukan. Lihat Prompt Shields untuk mempelajari selengkapnya.

Pratinjau publik deteksi groundedness

API deteksi Groundedness mendeteksi apakah respons teks model bahasa besar (LLM) di-grounded dalam materi sumber yang disediakan oleh pengguna. Ungroundedness menjelaskan kasus di mana LLM menghasilkan data yang tidak faktual atau tidak akurat yang tidak sesuai dengan informasi dalam bahan sumber. Lihat Deteksi Kedasaran untuk mempelajari lebih dalam.

Januari 2024

Keamanan Konten SDK GA

Layanan Azure AI Content Safety sekarang tersedia secara umum melalui SDK pustaka klien berikut:

Penting

Versi pratinjau publik SDK Azure AI Content Safety akan dihentikan dukungannya pada 31 Maret 2024. Harap perbarui aplikasi Anda untuk menggunakan versi GA.

November 2023

Risiko Jailbreak dan deteksi materi yang dilindungi (pratinjau)

API deteksi risiko Jailbreak baru dan deteksi materi yang dilindungi memungkinkan Anda mengurangi beberapa risiko saat menggunakan AI generatif.

  • Deteksi risiko jailbreak memindai teks untuk risiko serangan jailbreak pada model bahasa besar. Mulai Cepat
  • Deteksi teks material yang dilindungi memindai teks yang dihasilkan AI untuk konten teks yang diketahui (misalnya, lirik lagu, artikel, resep, konten web yang dipilih). Mulai Cepat

Risiko peretasan dan deteksi materi yang dilindungi hanya tersedia di wilayah tertentu. Lihat Ketersediaan wilayah.

Oktober 2023

Azure AI Content Safety umumnya tersedia (GA)

Layanan Azure AI Content Safety sekarang tersedia secara umum sebagai layanan cloud.

  • Layanan ini tersedia di lebih banyak wilayah Azure. Lihat Gambaran Umum untuk daftar.
  • Format pengembalian Api Analisis telah berubah. Lihat Panduan Cepat untuk contoh terbaru.
  • Nama dan format pengembalian beberapa API lain telah berubah. Lihat panduan migrasi untuk daftar lengkap perubahan signifikan. Panduan dan mulai cepat lainnya sekarang mencerminkan versi GA.

Azure AI Content Safety Java dan JavaScript SDKs

Layanan Azure AI Content Safety sekarang tersedia melalui Java dan JavaScript SDK. SDK masing-masing tersedia di Maven dan npm . Ikuti panduan cepat untuk memulai.

Juli 2023

Azure AI Content Safety C# SDK

Layanan Azure AI Content Safety sekarang tersedia melalui C# SDK. SDK tersedia di NuGet. Ikuti panduan cepat untuk memulai.

Mei 2023

Pratinjau publik Azure AI Content Safety

Azure AI Content Safety mendeteksi materi yang berpotensi menyinggung, berisiko, atau tidak diinginkan. Layanan ini menawarkan model teks dan gambar canggih yang mendeteksi konten bermasalah. Azure AI Content Safety membantu membuat aplikasi dan layanan lebih aman dari konten yang dihasilkan pengguna dan buatan AI yang berbahaya. Ikuti panduan cepat untuk memulai.

Pembaruan layanan Azure AI

Pengumuman pembaruan Azure untuk layanan Azure AI