Menerapkan prinsip AI yang bertanggung jawab

Sistem AI tidak hanya mencakup teknologi, tetapi juga orang yang menggunakannya, orang yang terpengaruh olehnya, dan lingkungan penyebarannya. Agen harus mematuhi prinsip AI yang bertanggung jawab untuk memastikan keadilan, akuntabilitas, transparansi, dan perilaku etis.

Rancang sistem AI untuk memperlakukan semua pengguna secara adil, meminta pertanggungjawaban pengembang dan pengguna atas kinerjanya, memastikan transparansi dalam operasi AI, dan mematuhi standar etika.

Di Microsoft, kami berkomitmen untuk kemajuan AI yang didorong oleh prinsip-prinsip yang mengutamakan manusia. Model generatif memiliki potensi manfaat yang signifikan, tetapi tanpa desain yang cermat dan mitigasi yang bijaksana, model tersebut berpotensi menghasilkan konten yang salah atau bahkan berbahaya. Microsoft telah melakukan investasi yang signifikan untuk membantu melindungi dari penyalahgunaan dan bahaya yang tidak diinginkan, yang mencakup menggabungkan prinsip-prinsip Microsoft untuk penggunaan AI yang bertanggung jawab, mengadopsi Kode Etik, membangun filter konten untuk mendukung pelanggan, dan memberikan informasi dan panduan AI yang bertanggung jawab yang harus dipertimbangkan pelanggan saat menggunakan AI generatif.

Copilot Studio dan fitur AI generatif mengikuti serangkaian praktik keamanan dan privasi inti dan Microsoft Responsible AI Standard.

Pelajari lebih lanjut:

Prinsip inti AI yang bertanggung jawab

Prinsip inti AI yang bertanggung jawab mencakup keadilan, akuntabilitas, transparansi, dan etika. Memastikan bahwa agen yang dibangun dengan Copilot Studio mematuhi prinsip-prinsip inti ini melibatkan beberapa praktik utama:

  • Keadilan: Gunakan data pelatihan yang beragam dan representatif untuk meminimalkan bias. Perbarui data pelatihan secara teratur dan daftarkan auditor untuk memvalidasi keadilan dan kesetaraan.
  • Akuntabilitas: Tentukan peran dan tanggung jawab yang jelas untuk anggota tim yang terlibat dalam proyek AI. Menetapkan dan mematuhi standar etika yang mengutamakan keadilan dan akuntabilitas.
  • Transparansi: Pastikan pengguna tahu bahwa mereka menggunakan agen yang menggunakan kemampuan AI generatif. Komunikasikan dengan jelas mengapa solusi AI dipilih, bagaimana itu dirancang, dan bagaimana solusi tersebut dipantau dan diperbarui.
  • Etika: Menumbuhkan tenaga kerja yang inklusif dan mencari masukan dari beragam komunitas di awal proses pembangunan. Menilai dan menguji model secara teratur untuk masalah etis dan perbedaan kinerja. Tetapkan kerangka kerja tata kelola yang mencakup audit rutin.

Masukkan praktik ini ke dalam proses pengembangan dan penerapan Anda untuk membuat agen yang mematuhi prinsip inti AI yang bertanggung jawab.

Privasi dan keamanan data

Memastikan privasi data sangat penting, terutama karena agen mungkin menangani data sensitif. Saat merencanakan agen dengan Copilot Studio, penting untuk mengatasi beberapa risiko utama dan menerapkan strategi mitigasi yang efektif:

  • Fitur platform: Pahami kontrol native dan fitur platform yang melindungi data Anda. Tinjau FAQ 'Responsible AI untuk Copilot Studio' agar lebih memahami sistem dan fitur AI khusus yang dikembangkan oleh Microsoft.
  • Enkripsi data: Teknologi sisi layanan mengenkripsi konten organisasi saat tidak aktif dan dalam transit untuk keamanan yang kuat. Koneksi diamankan dengan Transport Layer Security (TLS), dan transfer data antara Dynamics 365, Power Platform, dan Azure OpenAI berlangsung melalui jaringan backbone Microsoft, memastikan keandalan dan keamanan. Pelajari selengkapnya tentang enkripsi di cloud Microsoft.
  • Kontrol akses: Data diberikan kepada agen berdasarkan tingkat akses pengguna saat ini. Terapkan kontrol akses berbasis peran (RBAC) menggunakan Microsoft Entra ID untuk memastikan bahwa hanya pengguna yang berwenang yang dapat mengakses data. Terapkan prinsip hak istimewa paling sedikit untuk membatasi akses hanya pada apa yang diperlukan. Tinjau panduan tentang cara mengamankan proyek Copilot Studio Anda dan konsep keamanan dan tata kelola Copilot Studio.
  • Pemantauan dan audit: Mendeteksi dan menanggapi potensi insiden keamanan dengan memantau akses dan penggunaan agen secara teratur. Pertahankan log audit terperinci untuk melacak akses dan modifikasi data.
  • Kepatuhan dan tata kelola: Memastikan kepatuhan terhadap peraturan privasi data yang relevan seperti GDPR (Peraturan Perlindungan Data Umum), HIPAA (Undang-Undang Portabilitas dan Akuntabilitas Asuransi Kesehatan), dan CCPA (Undang-Undang Privasi Konsumen California). Terapkan praktik AI etis untuk menghindari bias dan memastikan keadilan dalam output AI.
  • Edukasi pengguna dan hujan: Latih pengguna tentang praktik terbaik keamanan dan pentingnya privasi data. Terus beri informasi kepada pengguna tentang pembaruan dan perubahan pada kebijakan dan prosedur keamanan.

Kesadaran dan mitigasi bias

Kenali pentingnya mengatasi bias dalam sistem dan pastikan keadilan untuk menghindari bias dalam respons AI.

  • Data yang beragam dan representatif: Pastikan bahwa data pelatihan beragam dan mewakili demografi yang berbeda untuk meminimalkan bias yang melekat. Audit data secara teratur untuk bias dan ketidakseimbangan, dan ambil tindakan korektif sesuai kebutuhan.
  • Alat deteksi dan mitigasi bias: Gunakan alat dan teknik untuk mendeteksi bias dalam model AI, seperti analisis statistik dan metrik keadilan. Terapkan teknik debiasing, termasuk pengambilan sampel ulang, pembobotan ulang, atau debiasing adversarial, untuk mengurangi bias dalam model.
  • Human-in-the-loop: Gabungkan tinjauan manusia dan loop umpan balik untuk mengidentifikasi dan memperbaiki bias yang mungkin diperkenalkan AI. Membentuk komite etik atau dewan tata kelola untuk mengawasi pengembangan dan penerapan AI, memastikan standar etika terpenuhi.
  • Transparansi dan kepercayaan: Pastikan pengguna tahu bahwa mereka menggunakan agen yang menggunakan kemampuan AI generatif. Komunikasikan dengan jelas mengapa solusi AI dipilih dan berikan informasi tentang bagaimana solusi tersebut dirancang dan bagaimana solusi tersebut dipantau dan diperbarui.
  • Pemantauan dan peningkatan berkelanjutan: Pantau sistem AI secara terus-menerus untuk bias dan masalah kinerja, dan perbarui model sesuai kebutuhan. Pastikan model tetap adil dan tidak bias dengan melatih ulang model secara teratur dengan data yang diperbarui dan lebih beragam.

Pemantauan dan evaluasi berkelanjutan

Terus tingkatkan agen Anda. Tetapkan kerangka kerja untuk pemantauan dan evaluasi berkelanjutan, dan masukkan umpan balik pengguna dan standar etika yang berkembang ke dalam pembaruan.

  • Siklus umpan balik: Tetapkan mekanisme umpan balik di mana pengguna dapat melaporkan ketidakakuratan, yang kemudian dapat digunakan untuk menyempurnakan dan meningkatkan model.
  • Pemantauan dan audit: Mendeteksi dan menanggapi potensi insiden keamanan dengan memantau akses dan penggunaan sistem AI secara teratur. Pertahankan log audit terperinci untuk melacak akses dan modifikasi data.

Langkah selanjutnya

Gunakan daftar periksa ringkasan untuk memvalidasi apakah proyek Anda siap untuk dilanjutkan ke implementasi dan menerapkan info praktik terbaik untuk menyempurnakan pendekatan proyek Anda sebelum beralih ke fase implementasi.

Tinjau daftar periksa rencana

  • Last updated on