Catatan
Akses ke halaman ini memerlukan otorisasi. Anda dapat mencoba masuk atau mengubah direktori.
Akses ke halaman ini memerlukan otorisasi. Anda dapat mencoba mengubah direktori.
Pastikan agen AI Anda secara konsisten selaras dengan instruksi pengguna dan tujuan tugas. Sinyal Kepatuhan Tugas mengidentifikasi perbedaan, seperti pemanggilan alat yang tidak sejalan, input atau output alat yang tidak tepat relatif terhadap niat pengguna, dan inkonsistensi antara respons dan input pelanggan. Fungsionalitas ini memberdayakan pengembang sistem untuk secara proaktif mengurangi tindakan yang tidak selaras dengan memblokirnya atau meningkatkan masalah untuk intervensi manusia.
Tujuan utama fitur Kepatuhan Tugas adalah:
- Untuk mendeteksi tindakan alat yang tidak sejalan dengan tujuan atau niat pengguna, atau input/output alat yang tidak sesuai dengan niat pengguna, atau ketidakkonsistenan antara respons agen dan input pelanggan.
- Untuk memberikan penjelasan ketika panggilan alat tidak sinkron.
- Untuk memberikan sinyal untuk pemblokiran dan eskalasi pemanggilan alat hilir ke tinjauan human-in-the-loop (HITL) saat penyelarasan tugas berisiko.
- Untuk mempromosikan kepercayaan pengguna pada sistem agenik dengan menguatkan konsistensi perilaku, transparansi, dan kontrol.
Prasyarat
- Langganan Azure - Buat langganan secara gratis
- Setelah Anda memiliki langganan Azure, buat sumber daya Keamanan Konten di portal Azure untuk mendapatkan kunci dan titik akhir Anda. Masukkan nama unik untuk sumber daya Anda, pilih langganan Anda, dan pilih grup sumber daya, wilayah, dan tingkat harga yang didukung. Lalu pilih Buat.
- Sumber daya membutuhkan waktu beberapa menit untuk disebarkan. Setelah selesai, pilih buka sumber daya. Di panel kiri, di bawah Manajemen Sumber Daya, pilih Kunci Langganan dan Titik Akhir. Titik akhir dan salah satu kunci digunakan untuk memanggil API.
- cURL terinstal.
Permintaan
Catatan
Untuk contoh perisai perintah, lihat perisai perintah.
Versi API:2024-12-15-preview
Bidang dalam URL
| Nama | Diperlukan | Deskripsi | Jenis |
|---|---|---|---|
| Endpoint | Ya | URL dasar untuk API Keamanan Konten. Ganti <endpoint> dengan titik akhir yang disediakan untuk layanan Azure Anda. |
String |
| Versi API | Ya | Versi API yang akan digunakan. Untuk fitur ini, versinya adalah 2024-12-15-preview. Contoh: <endpoint>/contentsafety/agent:analyzeTaskAdherence?api-version=2024-12-15-preview |
String |
Parameter dalam isi permintaan
| Nama | Diperlukan | Deskripsi | Jenis |
|---|---|---|---|
| Alat | Ya | Daftar alat yang menentukan fungsi yang akan digunakan dalam tugas. Setiap alat menyertakan jenis (misalnya, "fungsi") dan detail tentang fungsi, termasuk nama dan deskripsinya. | Array objek JSON |
| Pesan | Ya | Daftar pesan yang dipertukarkan antara pengguna, asisten, dan alat. Setiap pesan mencakup sumber (misalnya, "Prompt", "Completion"), peran (misalnya, "User", "Assistant", "Tool"), isi (teks pesan), dan secara opsional *toolCalls* atau *toolCallId*. | Array objek JSON |
Contoh skema isi permintaan
Tabel berikut ini adalah deskripsi bidang kunci dalam isi permintaan:
bidang alat
| Nama | Diperlukan | Deskripsi | Jenis |
|---|---|---|---|
| jenis | Ya | Jenis alat yang digunakan. Untuk fitur ini, disebut "fungsi" | String |
| function.name | Ya | Nama fungsi. Misalnya, "read_emails" | String |
| function.deskripsi | Ya | Deskripsi singkat tentang apa yang dilakukan fungsi. Misalnya, "Membaca email pengguna" | String |
kolom pesan
| Nama | Diperlukan | Deskripsi | Jenis |
|---|---|---|---|
| sumber | Ya | Asal pesan. Nilai yang mungkin: "Prompt", "Completion" | String |
| peran | Ya | Peran yang terkait dengan pesan. Nilai yang mungkin: "Pengguna", "Asisten", "Alat" | String |
| Isi | Ya | Isi pesan Misalnya, "Ringkas email saya" | String atau array |
| toolCalls | Tidak | Daftar pemanggilan alat yang dilakukan oleh agen, termasuk tipe (misalnya, "fungsi"), nama fungsi, argumen fungsi, dan ID unik. | Array objek JSON |
| toolCallId | Tidak | (Untuk pesan Alat) ID panggilan alat yang sedang direspons. Cocok dengan ID yang disediakan dalam panggilan alat agen. | String |
Respons API
Setelah mengirimkan permintaan, Anda akan menerima data JSON yang mencerminkan analisis yang dilakukan oleh Kepatuhan Tugas. Data ini menandai potensi kerentanan dalam alur kerja agen Anda. Berikut tampilan output umumnya:
{
"taskRiskDetected": true,
"details": "Agent attempts to share a document externally without user request or confirmation."
}
| Nama | Deskripsi | Jenis |
|---|---|---|
| risikoTugasTerdeteksi | Berisi hasil deteksi risiko untuk input | Boolean |
| Rincian | Mengembalikan penalaran, ketika risiko terdeteksi | String |
Nilai true untuk taskRiskDetected menandakan risiko yang terdeteksi, dalam hal ini kami merekomendasikan agar dilakukan peninjauan dan tindakan, seperti memblokir permintaan aktivasi alat atau melakukan eskalasi yang melibatkan manusia dalam proses.
Prasyarat
Akun Azure. Jika Anda tidak memilikinya, Anda dapat membuatnya secara gratis. Sumber daya AI Azure.
Menyiapkan dan menggunakan Kepatuhan Tugas
Ikuti langkah-langkah berikut untuk menggunakan halaman Content Safety try it out :
- Buka Azure AI Foundry dan navigasikan ke proyek/hub Anda. Lalu pilih tab Pagar Pembatas + kontrol di navigasi kiri dan pilih tab Cobalah.
- Pada halaman Coba , Anda dapat bereksperimen dengan berbagai fitur Pagar Pembatas & kontrol seperti konten teks dan gambar, menggunakan ambang batas yang dapat disesuaikan untuk memfilter konten berbahaya.
- Navigasi ke Alur Kerja Agenik dan pilih Kepatuhan Tugas.
- Anda dapat memilih salah satu contoh dengan panggilan alat agen yang selaras atau tidak selaras, atau membuat contoh sendiri untuk menguji Pemenuhan Tugas.
- Pilih Jalankan pengujian. Kepatuhan Tugas mengembalikan penanda risiko untuk setiap sampel, dan jika terdeteksi adanya risiko, maka mengembalikan alasan risiko.
Skenario pengguna
Dukungan Pelanggan
Skenario: Asisten dukungan pelanggan yang terintegrasi ke dalam platform perusahaan membantu pengguna memeriksa penggunaan data, memecahkan masalah, dan mengelola pengaturan akun. Untuk mempertahankan otomatisasi yang akurat, sistem menggabungkan Kepatuhan Tugas untuk memvalidasi rencana agen sebelum menjalankan panggilan alat backend.
Pengguna: Pengguna akhir, agen dukungan, dan tim pengalaman pelanggan.
Tindakan: Pengguna mengirim pesan ke chatbot: "Bisakah Anda memeriksa berapa banyak data yang telah saya gunakan bulan ini?" Asisten berencana untuk memanggil change_data_plan() alat. Kepatuhan Tugas mendeteksi ketidakselarasan antara niat pengguna (permintaan informasi) dan tindakan yang diusulkan (perubahan langganan). Pemanggilan alat dapat diblokir, dan sistem menghentikan eksekusi atau meminta pengguna untuk ditinjau.
Sumber Daya Manusia
Skenario: Asisten perusahaan mengotomatiskan alur kerja terkait SDM rutin seperti cuti pemesanan, mengirimkan pengeluaran, dan memeriksa detail kebijakan. Kepatuhan Tugas memastikan bahwa tindakan agen tetap berada dalam cakupan yang diharapkan dan tidak mengambil pintasan yang tidak diinginkan.
Pengguna: Karyawan, mitra bisnis SDM, dan tim otomatisasi alur kerja.
Tindakan: Karyawan mengetik: "Saya ingin tahu berapa banyak cuti tahunan yang tersisa." Agen berencana untuk menggunakan apply_leave(). Kepatuhan Tugas mengidentifikasi ketidakcocokan tugas—pengguna meminta informasi, bukan untuk memulai proses. Eksekusi diblokir; agen menyusun ulang atau meminta konfirmasi.
Alat Produktivitas
Skenario: Asisten produktivitas yang disematkan dalam platform email membantu para profesional terhubung ke database, dan membuat draf, meninjau, dan mengirim pesan. Kepatuhan Tugas digunakan untuk membedakan antara menulis draf dan menjalankan perintah kirim, terutama dalam kasus di mana niat pengguna ambigu.
Pengguna: Pekerja pengetahuan, asisten eksekutif, dan tim kepatuhan TI.
Tindakan: Pengguna meminta: "Tulis email ke klien tentang tenggat waktu yang terlewat." Agen menghasilkan pesan dan rencana untuk memanggil send_email(). Kepatuhan Tugas menandai rencana sebagai berpotensi prematur; tidak ada instruksi eksplisit untuk mengirim. Sebagai gantinya, sistem memblokir panggilan alat yang dimaksud, dan meminta peninjauan pengguna.
Kepatuhan Tugas: Penggunaan Alat yang Selaras vs. Tidak Sejajar
Sinyal Task Adherence API membantu pengembang dan pemilik platform memahami kapan pemanggilan alat oleh agen sesuai atau menyimpang dari maksud pengguna.
Contoh
| Klasifikasi | Deskripsi | Contoh |
|---|---|---|
| Selaras | Agen mengambil informasi yang diminta tanpa mengambil tindakan yang tidak diinginkan. |
Pengguna: "Bisakah Anda menunjukkan kepada saya acara kalender saya baru-baru ini?" Alat yang Direncanakan: get_calendar_events()✅ Agen mengambil kejadian sesuai permintaan. Output: { "taskRiskDetected": false } |
| Tidak sejajar | Agen mencoba mengubah pengaturan pengguna padahal hanya permintaan informasi yang diajukan. |
Pengguna: "Bisakah Anda menunjukkan kepada saya acara kalender saya baru-baru ini?" Alat yang Direncanakan: clear_calendar_events()❌ Agen bersiap untuk menghapus data. Output: { "taskRiskDetected": true, "details": "Planned action deletes calendar events, but user only requested to view them."} |
| Selaras | Agen memulai alur pembuatan dokumen setelah permintaan pengguna untuk menghasilkan dokumen baru. |
Pengguna: "Buat dokumen proposal proyek baru untuk klien." Alat yang Direncanakan: create_document()✅ Cocok dengan permintaan tugas pengguna. Output: { "taskRiskDetected": false} |
| Tidak sejajar | Agen berbagi dokumen dengan kolaborator eksternal tanpa instruksi pengguna. |
Pengguna: "Buat dokumen proposal proyek baru untuk klien." Alat yang Direncanakan: share_document()❌ Tidak ada instruksi pengguna untuk berbagi. Output: { "taskRiskDetected": true, "details": "Agent attempts to share a document externally without user request or confirmation."} |
Keterbatasan
Ketersediaan bahasa
Kepatuhan Tugas telah diuji pada teks dalam bahasa Inggris; namun, fitur ini dapat berfungsi dalam banyak bahasa lain, meskipun kualitasnya mungkin bervariasi. Dalam semua kasus, kami sarankan pengujian untuk kasus penggunaan dan aplikasi Anda untuk memastikan bahwa ini berfungsi untuk skenario Anda.
Batasan panjang teks
Saat ini, API kepatuhan tugas memiliki batasan panjang input. Panjang teks maksimum adalah 100.000 karakter. Jika panjang input melebihi batasan ini, Anda akan menerima pesan kesalahan.
Ketersediaan wilayah dan pemrosesan data
Meskipun Kepatuhan Tugas dapat diaktifkan di semua wilayah Keamanan Konten Azure AI, data dapat dialihkan dan diproses di wilayah AS dan UE lainnya di luar wilayah Geo yang ditentukan.