Bagikan melalui

Panggilan penilaian

  • Artikel

Judgment Call adalah aktivitas berbasis game dan tim yang menempatkan prinsip-prinsip AI Microsoft tentang kewajaran, privasi dan keamanan, keandalan dan keselamatan, transparansi, inklusi, dan akuntabilitas ke dalam tindakan. Permainan ini menyediakan metode yang mudah digunakan untuk menumbuhkan empati pemangku kepentingan dengan membayangkan skenario mereka. Peserta permainan menulis ulasan produk dari sudut pandang pemangku kepentingan tertentu, menjelaskan jenis dampak dan bahaya apa yang dapat dihasilkan teknologi dari sudut pandang mereka.

Keuntungan

Pembuat teknologi membutuhkan metode praktis untuk menggabungkan etika dalam pengembangan produk, dengan mempertimbangkan nilai-nilai pemangku kepentingan yang beragam dan bagaimana teknologi dapat menegakkan atau tidak menjunjung tinggi nilai-nilai tersebut. Tujuan dari permainan ini adalah untuk membayangkan hasil potensial dari suatu produk atau platform dengan mendapatkan pemahaman yang lebih baik tentang pemangku kepentingan, dan apa yang mereka butuhkan dan harapkan.

Permainan ini membantu orang mendiskusikan topik yang menantang di tempat yang aman dalam konteks bermain, dan memberi pencipta teknologi kosakata untuk memfasilitasi diskusi etika selama pengembangan produk. Ini memberi manajer dan desainer alat interaktif untuk melakukan dialog etis dengan tim mereka untuk memasukkan desain etis ke dalam produk mereka.

Landasan teori dan hasil dari permainan Judgment Call dipresentasikan pada konferensi ACM Design Interactive Systems 2019 dan permainan tersebut menjadi finalis dalam Fast Company 2019 Innovation by Design Awards (kategori Social Goods). Permainan telah disajikan kepada ribuan orang di AS dan internasional. Sementara kelompok terbesar yang difasilitasi dalam permainan telah lebih dari 100, setiap dek kartu dapat melibatkan 1-10 pemain. Permainan ini tidak dimaksudkan sebagai pengganti untuk melakukan riset pengguna yang kuat. Sebaliknya, ini adalah latihan untuk membantu pembangun teknologi belajar bagaimana melatih imajinasi moral mereka.

Persiapan

Judgment Call menggunakan permainan peran untuk memunculkan masalah etika dalam pengembangan produk sehingga pemain akan mengantisipasi dampak sosial, menulis ulasan produk, dan mengeksplorasi mitigasi. Pemain memikirkan jenis bahaya dan dampak apa yang mungkin dihasilkan teknologi dengan menulis ulasan produk dari sudut pandang pemangku kepentingan.

Untuk mempersiapkan permainan ini, unduh kit permainan Judgment Call yang dapat dicetak.

Selama Permainan

Para pemain diharapkan melalui langkah-langkah berikut dalam permainan ini:

  1. Identifikasi produk

    Mulailah dengan mengidentifikasi produk yang sedang dibuat oleh tim Anda, atau skenario yang sedang Anda kerjakan. Misalnya, jika tim Anda mengembangkan teknologi suara sintetis, skenario Anda dapat mengembangkan asisten suara untuk pembelajaran daring.

  2. Kartu kelulusan

    Setelah Anda memutuskan skenarionya, bagikan kartunya. Setiap pemain menerima kartu pemangku kepentingan, kartu prinsip etika, kartu peringkat, dan formulir ulasan. Berikut penjelasan dari kartu-kartu tersebut:

    • Pemangku kepentingan: Ini mewakili sekelompok orang yang terpengaruh oleh teknologi atau skenario yang Anda pilih. Pemangku kepentingan juga dapat mencakup pembuat (mereka yang mengusulkan dan mengerjakan teknologi) serta sponsor proyek internal (manajer dan eksekutif yang mendukung proyek).

    • Prinsip: Ini mencakup prinsip-prinsip etika Microsoft tentang keadilan, privasi dan keamanan, keandalan dan keselamatan, transparansi, penyertaan, dan akuntabilitas.

    • Rating:Kartu bintang memberi peringkat: bintang 1 buruk, bintang 3 biasa-biasa saja, bintang 5 sangat baik.

  3. Brainstorming dan identifikasi pemangku kepentingan

    Sebagai sebuah kelompok, brainstorming semua pemangku kepentingan yang secara langsung atau tidak langsung terpengaruh oleh teknologi. Kemudian tetapkan setiap pemain sebagai pemangku kepentingan dari daftar. Dalam beberapa kasus, dek Judgment Call mungkin memiliki kartu pemangku kepentingan yang telah diisi sebelumnya, tetapi pemain dapat menambahkan kartu tambahan yang relevan dengan situasi mereka.

    Dek menyediakan kategori pemangku kepentingan berikut:

    • Langsung: Ini menggunakan teknologi dan / atau teknologi yang digunakan pada mereka.

    • Langsung: Ini merasakan efek dari teknologi.

    • Populasi khusus: Berbagai kategori yang mencakup mereka yang tidak dapat menggunakan teknologi atau memilih untuk tidak menggunakannya, dan organisasi yang mungkin tertarik dengan penerapannya seperti kelompok advokasi atau pemerintah.

    Ada berbagai kerugian yang dapat dirasakan atau diabadikan pada setiap kelompok pemangku kepentingan. Jenis pemangku kepentingan dapat mencakup pengguna akhir produk, administrator, tim internal, kelompok advokasi, produsen, seseorang yang mungkin dikecualikan dari penggunaan produk. Pemangku kepentingan juga mencakup pembuat yang mengusulkan dan mengerjakan teknologi, serta sponsor proyek internal, yaitu manajer dan eksekutif yang mendukung proyek tersebut.

  4. Pemilihan moderator

    Moderator menjelaskan skenario untuk bermain, memandu diskusi, dan mengumpulkan kartu komentar di akhir. Mereka juga akan memberikan gambaran tentang prinsip-prinsip etika yang dipertimbangkan di geladak.

  5. Presentasi produk

    Moderator memperkenalkan produk, nyata atau imajiner, untuk dimainkan oleh para pemain. Mereka dapat memulai dengan pertanyaan tentang produk dengan petunjuk seperti:

    • Siapa yang akan menggunakan produk?

    • Fitur apa yang akan dimiliki?

    • Kapan akan digunakan?

    • Di mana akan digunakan?

    • Mengapa berguna?

    • Bagaimana produk akan digunakan?

  6. Menulis ulasan

    Masing-masing pemain menulis ulasan produk atau skenario berdasarkan kartu yang telah mereka tangani. Pemain bergiliran membaca ulasan mereka dengan keras. Dengarkan baik-baik masalah atau tema apa pun yang mungkin muncul. Catat setiap perubahan yang Anda buat pada produk berdasarkan wawasan yang dibahas.

    • Kartu pemangku kepentingan memberi tahu peran mereka sebagai siapa untuk putaran itu.

    • Kartu prinsip etika adalah salah satu dari enam prinsip AI Microsoft; kartu itu memberi tahu bidang apa yang mereka fokuskan dalam ulasan mereka.

    • Kartu peringkat memberi tahu seberapa besar pemangku kepentingan mereka menyukai teknologi (bintang 1, 3, atau 5).

    Pemain kemudian menulis ulasan tentang teknologi tersebut, dari sudut pandang pemangku kepentingannya, tentang mengapa mereka menyukai atau tidak menyukai produk tersebut dari sudut pandang prinsip etika yang mereka terima.

Diskusi

Moderator meminta setiap pemain membaca ulasan mereka. Setiap orang diundang untuk mendiskusikan perspektif yang berbeda dan pertimbangan lain yang mungkin tidak muncul.

Pertanyaan potensial moderator meliputi:

  • Siapa yang paling terdampak?

  • Fitur apa yang bermasalah?

  • Apa saja potensi bahayanya?

Mitigasi bahaya

Akhirnya, kelompok mengambil topik dari diskusi untuk mulai mengidentifikasi perubahan desain atau proses yang dapat mengurangi bahaya tertentu. Di akhir setiap putaran, dek dikocok, dan putaran lain dapat dimulai dengan skenario yang sama atau berbeda.

Langkah berikutnya

Setelah Anda memiliki pemahaman yang cukup tentang potensi bahaya atau dampak negatif yang mungkin ditimbulkan oleh produk atau skenario Anda, lanjutkan untuk mempelajari cara memodelkan bahaya ini sehingga Anda dapat merancang mitigasi yang efektif.