Kongsi melalui

Pertimbangan AI yang bertanggungjawab untuk beban kerja aplikasi pintar

Beban kerja aplikasi pintar mesti mematuhi prinsip AI yang bertanggungjawab untuk memastikan keadilan, akauntabiliti, ketelusan dan tingkah laku beretika.

Reka bentuk sistem AI untuk melayan semua pengguna dengan adil, memastikan pembangun dan pengguna bertanggungjawab terhadap prestasinya, memastikan ketelusan dalam operasi AI dan mematuhi piawaian etika.

Di Microsoft, kami komited terhadap kemajuan AI yang didorong oleh prinsip yang mengutamakan orang ramai. Model generatif mempunyai potensi faedah yang ketara, tetapi tanpa reka bentuk yang teliti dan pengurangan yang bijaksana, model sedemikian berpotensi menjana kandungan yang salah atau berbahaya. Microsoft telah membuat pelaburan yang besar untuk membantu melindungi daripada penyalahgunaan dan kemudaratan yang tidak disengajakan, termasuk menggabungkan prinsip Microsoft untuk penggunaan AI yang bertanggungjawab, menggunakan Tatakelakuan, membina penapis kandungan untuk menyokong pelanggan dan menyediakan maklumat dan panduan AI yang bertanggungjawab yang perlu dipertimbangkan oleh pelanggan apabila menggunakan AI generatif.

Power Platform copilot dan ciri AI generatif mengikut satu set amalan keselamatan dan privasi teras serta Piawaian AI Bertanggungjawab Microsoft. Power Platform Data dilindungi oleh kawalan pematuhan, keselamatan dan privasi yang komprehensif dan terkemuka dalam industri.

Ketahui lanjut:

Prinsip teras AI yang bertanggungjawab

Prinsip teras AI yang bertanggungjawab termasuk keadilan, akauntabiliti, ketelusan dan etika. Memastikan beban kerja aplikasi pintar yang dibina dengan Power Platform mematuhi prinsip teras ini melibatkan beberapa amalan utama:

  • Keadilan: Gunakan data latihan yang pelbagai dan mewakili untuk meminimumkan berat sebelah. Kemas kini data latihan secara berkala dan dapatkan juruaudit untuk mengesahkan keadilan dan ekuiti.
  • Akauntabiliti: Tentukan peranan dan tanggungjawab yang jelas untuk ahli pasukan yang terlibat dalam projek AI. Mewujudkan dan mematuhi piawaian etika yang mengutamakan keadilan dan akauntabiliti.
  • Ketelusan: Pastikan pengguna tahu bahawa mereka menggunakan beban kerja yang menggunakan keupayaan AI generatif. Sampaikan dengan jelas sebab penyelesaian AI dipilih, cara ia direka bentuk dan cara ia dipantau dan dikemas kini.
  • Etika: Memupuk tenaga kerja yang inklusif dan dapatkan input daripada komuniti yang pelbagai pada awal proses pembangunan. Kerap menilai dan menguji model untuk kebimbangan etika dan perbezaan dalam prestasi. Wujudkan rangka kerja tadbir urus yang merangkumi audit berkala.

Gabungkan amalan ini ke dalam proses pembangunan dan penggunaan anda untuk mencipta beban kerja aplikasi pintar yang mematuhi prinsip teras AI yang bertanggungjawab.

Privasi dan keselamatan data

Memastikan privasi data adalah penting, terutamanya kerana beban kerja aplikasi pintar boleh mengendalikan data sensitif. Apabila merancang beban Power Platform kerja aplikasi pintar, adalah penting untuk menangani beberapa risiko utama dan melaksanakan strategi mitigasi yang berkesan:

  • Ciri platform: Fahami kawalan asli dan ciri platform yang melindungi data anda. Microsoft Copilot dibina pada Perkhidmatan Microsoft Azure OpenAI dan berjalan sepenuhnya dalam awan Azure. Copilot menggunakan OpenAI model dengan semua keupayaan keselamatan Microsoft Azure. Copilot disepadukan dalam perkhidmatan Microsoft seperti Dynamics 365 dan Power Platform serta mewarisi dasar dan proses keselamatan, privasi dan pematuhan mereka, seperti pengesahan berbilang faktor dan sempadan pematuhan.
  • Penyulitan data: Teknologi bahagian perkhidmatan menyulitkan kandungan organisasi dalam keadaan rehat dan dalam transit untuk keselamatan yang mantap. Sambungan dilindungi dengan Keselamatan Lapisan Pengangkutan (TLS), dan pemindahan data antara Dynamics 365 Power Platform dan Azure OpenAI berlaku melalui rangkaian tulang belakang Microsoft, memastikan kebolehpercayaan dan keselamatan. Ketahui lebih lanjut tentang penyulitan dalam awan Microsoft.
  • Kawalan akses: Data diberikan kepada Copilot (atau ejen tersuai) berdasarkan tahap akses pengguna semasa. Laksanakan kawalan akses berasaskan peranan (RBAC) menggunakan Microsoft Entra ID untuk memastikan hanya pengguna yang dibenarkan boleh mengakses data. Gunakan prinsip keistimewaan paling sedikit untuk mengehadkan akses kepada hanya apa yang diperlukan.
  • Pemantauan dan pengauditan: Mengesan dan bertindak balas terhadap kemungkinan insiden keselamatan dengan sentiasa memantau akses dan penggunaan sistem AI. Kekalkan log audit terperinci untuk menjejaki akses dan pengubahsuaian data.
  • Pematuhan dan tadbir urus: Pastikan pematuhan dengan peraturan privasi data yang berkaitan seperti GDPR (Peraturan Perlindungan Data Am), HIPAA (Akta Mudah Alih dan Akauntabiliti Insurans Kesihatan) dan CCPA (Akta Privasi Pengguna California). Laksanakan amalan AI beretika untuk mengelakkan berat sebelah dan memastikan keadilan dalam output AI.
  • Pendidikan pengguna dan hujan: Latih pengguna tentang amalan terbaik keselamatan dan kepentingan privasi data. Maklumkan pengguna tentang kemas kini dan perubahan pada dasar dan prosedur keselamatan.

Ketahui lebih lanjut: Soalan Lazim untuk keselamatan dan privasi data Copilot untuk Dynamics 365 dan Power Platform

Kesedaran dan mitigasi berat sebelah

Kenali kepentingan menangani berat sebelah dalam sistem dan pastikan keadilan untuk mengelakkan berat sebelah dalam tindak balas AI.

  • Data yang pelbagai dan mewakili: Pastikan data latihan adalah pelbagai dan mewakili demografi yang berbeza untuk meminimumkan berat sebelah yang wujud. Kerap mengaudit data untuk berat sebelah dan ketidakseimbangan, dan mengambil tindakan pembetulan mengikut keperluan.
  • Alat pengesanan dan mitigasi berat sebelah: Gunakan alat dan teknik untuk mengesan berat sebelah dalam model AI, seperti analisis statistik dan metrik keadilan. Laksanakan teknik debiasing, termasuk pensampelan semula, wajaran semula atau debiasing musuh, untuk mengurangkan berat sebelah dalam model.
  • Manusia dalam gelung: Gabungkan semakan manusia dan gelung maklum balas untuk mengenal pasti dan membetulkan berat sebelah yang mungkin diperkenalkan oleh AI. Menubuhkan jawatankuasa etika atau lembaga tadbir urus untuk mengawasi pembangunan dan penggunaan AI, memastikan piawaian etika dipenuhi.
  • Ketelusan dan kepercayaan: Pastikan pengguna tahu bahawa mereka menggunakan beban kerja yang menggunakan keupayaan AI generatif. Sampaikan dengan jelas sebab penyelesaian AI dipilih dan berikan maklumat tentang cara ia direka bentuk dan cara ia dipantau dan dikemas kini.
  • Pemantauan dan penambahbaikan berterusan: Pantau sistem AI secara berterusan untuk berat sebelah dan isu prestasi, dan kemas kini model mengikut keperluan. Pastikan model kekal adil dan tidak berat sebelah dengan melatih semula model dengan kerap dengan data yang dikemas kini dan lebih pelbagai.

Pemantauan dan penilaian berterusan

Teruskan meningkatkan beban kerja aplikasi pintar anda. Mewujudkan rangka kerja untuk pemantauan dan penilaian berterusan, dan menggabungkan maklum balas pengguna dan standard etika yang berkembang ke dalam kemas kini.

  • Gelung maklum balas: Wujudkan mekanisme maklum balas di mana pengguna boleh melaporkan ketidaktepatan, yang kemudiannya boleh digunakan untuk memperhalusi dan menambah baik model.
  • Pemantauan dan pengauditan: Mengesan dan bertindak balas terhadap kemungkinan insiden keselamatan dengan sentiasa memantau akses dan penggunaan sistem AI. Kekalkan log audit terperinci untuk menjejaki akses dan pengubahsuaian data.