AI Bertanggung Jawab untuk Microsoft Foundry

Artikel ini memberikan gambaran umum tentang sumber daya untuk membangun dan menyebarkan agen AI yang dapat dipercaya. Ini termasuk keamanan, pengamatan, dan tata kelola end-to-end dengan kontrol dan titik pemeriksaan di semua tahap siklus hidup agen. Langkah-langkah pengembangan penting yang direkomendasikan kami direkomendasikan dalam Microsoft Responsible AI Standard, yang menetapkan persyaratan kebijakan yang diikuti oleh tim teknik kami sendiri. Sebagian besar konten Standar mengikuti pola, meminta tim untuk Menemukan, Melindungi, dan Mengatur potensi risiko konten.

Pada Microsoft, pendekatan kami dipandu oleh kerangka kerja tata kelola yang berakar pada prinsip-prinsip AI, yang menetapkan persyaratan produk dan berfungsi sebagai "bintang utara" kami." Ketika kami mengidentifikasi kasus penggunaan bisnis untuk AI generatif, kami pertama kali menemukan dan menilai potensi risiko sistem AI untuk menentukan area fokus penting.

Setelah kami mengidentifikasi risiko ini, kami mengevaluasi prevalensinya dalam sistem AI melalui pengukuran sistematis, membantu kami memprioritaskan area yang perlu diperhatikan. Kami kemudian menerapkan perlindungan yang sesuai pada tingkat model dan agen terhadap risiko tersebut.

Terakhir, kami memeriksa strategi untuk mengelola risiko dalam produksi, termasuk penyebaran dan kesiapan operasional dan menyiapkan pemantauan untuk mendukung tata kelola yang sedang berlangsung untuk memastikan kepatuhan dan memunculkan risiko baru setelah aplikasi ditayangkan.

Selaras dengan praktik RAI Microsoft, rekomendasi ini diatur ke dalam tiga tahap:

  • Temukan risiko kualitas, keselamatan, dan keamanan agen sebelum dan sesudah penerapan. Misalnya, uji agen Anda dengan perintah adversarial untuk mengidentifikasi potensi kerentanan jailbreak.
  • Lindungi – pada tingkat output model dan runtime agen – terhadap risiko keamanan, output yang tidak diinginkan, dan tindakan yang tidak aman. Gunakan filter konten dan Pagar pembatas untuk memblokir output berbahaya sebelum mencapai pengguna.
  • Mengatur agen melalui alat pelacakan dan pemantauan serta integrasi kepatuhan. Siapkan pemantauan berkelanjutan untuk melacak perilaku agen dan mendeteksi anomali dalam produksi.

Melihat dan merespons pemberitahuan keamanan

Anda dapat melihat pemberitahuan dan rekomendasi keamanan Defender untuk Cloud untuk meningkatkan postur keamanan Anda di bagian Risks + pemberitahuan. Pemberitahuan keamanan adalah pemberitahuan yang dihasilkan oleh Defender untuk paket Foundry Tools saat ancaman diidentifikasi dalam beban kerja AI Anda. Anda dapat mengambil tindakan di portal Azure atau di portal Defender untuk mengatasi pemberitahuan ini.

Untuk melihat pemberitahuan keamanan:

  1. Masuk ke portal Microsoft Foundry.
  2. Navigasi ke proyek Anda.
  3. Di navigasi kiri, pilih Risiko + pemberitahuan.
  4. Tinjau pemberitahuan dan rekomendasi aktif.
  5. Pilih pemberitahuan untuk melihat detail dan langkah-langkah remediasi.

Pelajari selengkapnya tentang AI yang bertanggung jawab

Melaporkan masalah keamanan atau keselamatan

Peneliti dan pelanggan keamanan memainkan peran penting dalam melindungi AI. Untuk melaporkan kerentanan keamanan atau masalah keselamatan dalam Model Foundry yang dijual oleh Azure, buka Microsoft Security Response Center (MSRC). Contoh kerentanan termasuk injeksi prompt, output tidak aman, dan paparan data. Saat melaporkan masalah, sertakan nama dan versi model, langkah-langkah yang menyebabkan masalah, dan dampak potensial.

  • Terakhir diperbarui pada