Menampilkan hasil pengujian tim merah AI di proyek Azure AI Foundry (pratinjau)

Penting

Item-item yang ditandai (pratinjau) dalam artikel ini saat ini sedang berada dalam pratinjau publik. Pratinjau ini disediakan tanpa kesepakatan tingkat layanan, dan kami tidak merekomendasikannya untuk penggunaan dalam lingkungan produksi. Fitur tertentu mungkin tidak didukung atau mungkin memiliki kemampuan terbatas. Untuk informasi lebih lanjut, lihat Supplemental Terms of Use for Microsoft Azure Previews.

Setelah pemindaian otomatis Anda telah selesai dilakukan secara lokal atau jarak jauh, hasilnya juga dicatat ke proyek Azure AI Foundry yang Anda tentukan saat membuat agen tim merah AI Anda.

Menampilkan laporan setiap pemindaian

Di proyek Azure AI Foundry atau proyek berbasis hub Anda, buka halaman Evaluasi dan pilih tab AI red teaming untuk melihat laporan komprehensif dengan pemecahan detail dari setiap pemindaian.

Setelah memilih pemindaian, Anda dapat melihat laporan berdasarkan kategori risiko, yang menunjukkan jumlah keseluruhan serangan yang berhasil dan perincian serangan yang berhasil per kategori risiko:

Atau berdasarkan klasifikasi kompleksitas serangan:

Menelusuri lebih jauh ke tab data menyediakan tampilan tingkat baris dari setiap pasangan respons serangan, memungkinkan wawasan yang lebih mendalam tentang masalah dan perilaku sistem. Untuk setiap pasangan respons serangan, Anda dapat melihat informasi tambahan seperti apakah serangan berhasil atau tidak, strategi serangan apa yang digunakan dan kompleksitas serangannya. Ada juga opsi bagi peninjau manusia dalam sistem untuk memberikan umpan balik dengan memilih ikon jempol ke atas atau jempol ke bawah.

Untuk melihat setiap percakapan, memilih Tampilkan lebih membuka percakapan lengkap untuk analisis yang lebih rinci tentang respons sistem AI.

Konten terkait

Cobalah contoh alur kerja dalam sampel GitHub kami.