Bagikan melalui


Panduan untuk integrasi dan penggunaan Personalizer yang bertanggung jawab

Penting

Mulai tanggal 20 September 2023 Anda tidak akan dapat membuat sumber daya Personalizer baru. Layanan Personalizer dihentikan pada tanggal 1 Oktober 2026.

Microsoft bekerja untuk membantu pelanggan secara bertanggung jawab mengembangkan dan menyebarkan solusi dengan menggunakan Azure AI Personalizer. Pendekatan berprinsip kami menjunjung tinggi badan dan martabat pribadi dengan mempertimbangkan sistem AI:

  • Keadilan, keandalan, dan keamanan.
  • Privasi dan keamanan.
  • Inklusivitas.
  • Transparansi.
  • Akuntabilitas manusia.

Pertimbangan ini mencerminkan komitmen kami untuk mengembangkan AI yang bertanggung jawab.

Pedoman umum untuk integrasi dan prinsip penggunaan yang bertanggung jawab

Saat Anda bersiap untuk mengintegrasikan dan menggunakan produk atau fitur yang didukung AI secara bertanggung jawab, aktivitas berikut akan membantu menyiapkan Anda untuk sukses:

  • Memahami apa yang dapat dilakukannya. Menilai sepenuhnya potensi Personalizer untuk memahami kemampuan dan batasannya. Pahami bagaimana performanya dalam skenario dan konteks khusus Anda dengan mengujinya secara menyeluruh dengan kondisi dan data kehidupan nyata.

  • Menghormati hak individu atas privasi. Hanya mengumpulkan data dan informasi dari individu untuk tujuan yang sah dan dapat dibenarkan. Hanya gunakan data dan informasi yang anda miliki persetujuan untuk digunakan untuk tujuan ini.

  • Mendapatkan tinjauan hukum. Dapatkan saran hukum yang sesuai untuk meninjau Personalizer dan bagaimana Anda menggunakannya dalam solusi Anda, terutama jika Anda akan menggunakannya dalam aplikasi sensitif atau berisiko tinggi. Pahami batasan apa yang mungkin perlu Anda kerjakan dan tanggung jawab Anda untuk menyelesaikan masalah apa pun yang mungkin muncul di masa depan.

  • Manusia-dalam-perulangan. Sertakan pengawasan manusia sebagai area pola yang konsisten untuk dijelajahi. Pastikan pengawasan manusia yang konstan terhadap produk atau fitur yang didukung AI. Menjaga peran manusia dalam pengambilan keputusan. Pastikan Anda dapat memiliki intervensi manusia real-time dalam solusi untuk mencegah bahaya dan mengelola situasi ketika sistem AI tidak berkinerja seperti yang diharapkan.

  • Membangun kepercayaan dengan pemangku kepentingan yang terpengaruh. Mengomunikasikan manfaat yang diharapkan dan potensi risiko kepada pemangku kepentingan yang terkena dampak. Bantu orang memahami mengapa data diperlukan dan bagaimana penggunaan data akan mengarah pada manfaatnya. Menjelaskan penanganan data dengan cara yang dapat dimengerti.

  • Membuat perulangan umpan balik pelanggan. Berikan saluran umpan balik yang memungkinkan pengguna dan individu melaporkan masalah dengan layanan setelah disebarkan. Setelah Anda menyebarkan produk atau fitur yang didukung AI, produk atau fitur tersebut memerlukan pemantauan dan peningkatan yang sedang berlangsung. Bersiaplah untuk menerapkan umpan balik dan saran untuk perbaikan. Buat saluran untuk mengumpulkan pertanyaan dan kekhawatiran dari pemangku kepentingan yang terkena dampak. Orang-orang yang mungkin secara langsung atau tidak langsung terpengaruh oleh sistem termasuk karyawan, pengunjung, dan masyarakat umum.

  • Umpan balik: Mencari umpan balik dari beragam sampel masyarakat selama proses pengembangan dan evaluasi (misalnya, kelompok yang secara historis terpinggirkan, penyandang disabilitas, dan pekerja layanan). Untuk informasi selengkapnya, lihat Juri komunitas.

  • Studi Pengguna: Setiap rekomendasi persetujuan atau pengungkapan harus dibingkai dalam studi pengguna. Evaluasi pengalaman penggunaan pertama dan berkelanjutan dengan sampel representatif komunitas untuk memvalidasi bahwa pilihan desain mengarah pada pengungkapan yang efektif. Lakukan penelitian pengguna dengan 10-20 anggota komunitas (pemangku kepentingan yang terkena dampak) untuk mengevaluasi pemahaman mereka tentang informasi dan untuk menentukan apakah harapan mereka terpenuhi.

  • Transparansi & Penjelasan: Pertimbangkan untuk mengaktifkan dan menggunakan kemampuan penjelasan inferensi Personalizer untuk lebih memahami fitur mana yang memainkan peran penting dalam pilihan keputusan Personalizer di setiap panggilan Peringkat. Kemampuan ini memberdayakan Anda untuk memberikan transparansi kepada pengguna mengenai bagaimana data mereka berperan dalam menghasilkan tindakan terbaik yang direkomendasikan. Misalnya, Anda dapat memberi pengguna tombol berlabel "Mengapa Saran Ini?" yang menunjukkan fitur teratas mana yang memainkan peran dalam menghasilkan hasil Personalizer. Informasi ini juga dapat digunakan untuk lebih memahami atribut data apa tentang pengguna, konteks, dan tindakan Anda yang bekerja demi pilihan tindakan terbaik Personalizer, yang bekerja melawannya, dan yang mungkin memiliki sedikit atau tidak berpengaruh. Kemampuan ini juga dapat memberikan wawasan tentang segmen pengguna Anda dan membantu Anda mengidentifikasi dan mengatasi potensi bias.

  • Penggunaan adversarial: pertimbangkan untuk membuat proses untuk mendeteksi dan bertindak atas manipulasi berbahaya. Ada aktor yang akan memanfaatkan pembelajaran mesin dan kemampuan sistem AI untuk belajar dari lingkungan mereka. Dengan serangan terkoordinasi, mereka dapat secara artifisial memalsukan pola perilaku yang menggeser data dan model AI ke arah tujuan mereka. Jika penggunaan Personalizer Anda dapat memengaruhi pilihan penting, pastikan Anda memiliki sarana yang tepat untuk mendeteksi dan mengurangi jenis serangan ini.

  • Menolak: Pertimbangkan untuk memberikan kontrol bagi pengguna untuk menolak menerima rekomendasi yang dipersonalisasi. Untuk pengguna ini, Personalizer Rank API tidak akan dipanggil dari aplikasi Anda. Sebagai gantinya, aplikasi Anda dapat menggunakan mekanisme alternatif untuk memutuskan tindakan apa yang diambil. Misalnya, dengan menolak rekomendasi yang dipersonalisasi dan memilih tindakan default atau dasar, pengguna akan mengalami tindakan yang akan diambil tanpa rekomendasi Personalizer. Atau, aplikasi Anda dapat menggunakan rekomendasi berdasarkan ukuran agregat atau berbasis populasi (mis., sekarang sedang tren, 10 teratas paling populer, dll.).

Tanggung jawab Anda

Semua panduan untuk penetapan yang bertanggung jawab dibangun di atas dasar bahwa pengembang dan bisnis yang menggunakan Personalisasi bertanggung jawab dan bertanggung jawab atas dampak penggunaan algoritma ini di masyarakat. Jika mengembangkan aplikasi yang akan disebarkan oleh organisasi, Anda harus mengenali peran dan tanggung jawab untuk operasinya dan bagaimana hal itu memengaruhi orang-orang. Jika Anda merancang aplikasi untuk disebarkan oleh pihak ketiga, dapatkan pemahaman berbagi dengan mereka tentang siapa yang pada akhirnya bertanggung jawab atas perilaku aplikasi tersebut. Pastikan untuk mendokumentasikan pemahaman tersebut.

Pertanyaan dan umpan balik

Microsoft terus meningkatkan alat dan dokumen untuk membantu Anda menjalankan tanggung jawab ini. Tim kami mengundang Anda untuk memberikan umpan balik kepada Microsoft jika Anda yakin alat, fitur produk, dan dokumen lain akan membantu Anda menerapkan panduan ini untuk menggunakan Personalisasi.

  • Lihat enam prinsip Microsoft untuk pengembangan AI yang bertanggung jawab yang diterbitkan dalam buku Januari 2018, The Future Computed.

Langkah berikutnya

Pahami bagaimana Personalizer API menerima fitur: Fitur: Tindakan dan Konteks