Share via

Judgment Call

  • 發行項

判斷通話是一種遊戲和小組式活動，可讓 Microsoft 的 AI 原則公平性、隱私權和安全性、可靠性和安全性、透明度、包容性和責任納入行動。 遊戲藉由虛構專案關係人案例，提供便於使用的方法，以利利害關係人同理心。 遊戲參與者會從特定專案關係人的觀點來撰寫產品評論，並從其觀點描述技術可能產生何種類型的影響和損害。

優點

技術建立者需要實際的方法，才能將道德納入軟體發展中，方法是考慮各種專案關係人的值，以及技術如何支援或不尊重這些值。 遊戲的目標是要藉由進一步瞭解專案關係人及其需求和預期，來想像產品或平臺的潛在結果。

遊戲可協助人們在遊戲內容內的安全空間中討論具挑戰性的主題，並提供技術建立者詞彙，以在軟體發展期間促進道德討論。 它為經理和設計人員提供了一個互動式工具，可引導其小組進行道德對話，以將道德設計納入其產品中。

判斷通話遊戲的理論基礎和初始結果是在 2019 ACM 設計互動式系統會議中呈現，而遊戲是 Fast Company 2019 Innovation by Design Awards (Social Goods 類別) 的最後一位。 遊戲已呈現給美國和國際的數千人。 雖然遊戲中促進的最大群組已超過 100 個，但每個卡片牌組可以牽涉到 1-10 位球員。 此遊戲並非用來替代執行強固的使用者研究。 相反地，這是一個練習，可協助技術建置者瞭解如何練習其思維。

準備

判斷通話使用角色扮演來呈現軟體發展的道德考慮，讓玩家預期社會影響、撰寫產品評論，以及探索風險降低。 玩家認為從專案關係人的觀點來看，技術可能會產生何種損害和影響。

若要準備此遊戲，請下載 可列印的判斷通話遊戲套件。

在遊戲期間

玩家預期會經歷此遊戲中的下列步驟：

  1. 識別產品

    從識別小組正在建置的產品，或您正在處理的案例開始。 例如，如果您的小組正在開發綜合語音技術，您的案例可能會開發語音助理以進行線上學習。

  2. 傳遞卡片

    一旦您決定案例之後，請傳遞卡片。 每位玩家都會收到專案關係人卡片、道德準則卡片、評等卡片和評論表單。 以下是這些卡片的描述：

    • 利益 相關 者： 這代表受所選技術或案例影響的人員群組。 專案關係人也可以包括製作者 (那些提議並處理技術) ，以及支援專案) 的內部專案贊助者 (經理和主管。

    • 原則： 這包括 Microsoft 公平性、隱私權和安全性、可靠性和安全性、透明度、包含和責任的道德原則。

    • 評級：星型卡片提供評等：1 star不佳、3 star很平常、5 star很棒。

  3. 腦力激蕩並識別專案關係人

    身為群組，腦力激蕩可能會直接或間接受到技術影響的所有專案關係人。 然後從清單中為每個玩家指派專案關係人。 在某些情況下，判斷通話牌組可能已預先填入專案關係人卡片，但玩家可以新增與其情況相關的其他卡片。

    此組提供下列專案關係人類別：

    • 直接： 這些會使用技術和/或技術。

    • 間接： 這些感覺技術的效果。

    • 特殊母體： 各種類別，包括無法使用技術或選擇不使用它的人員，以及可能有興趣部署的組織，例如宣傳群組或政府。

    有一系列的損害可以感覺或延續到每個專案關係人群組上。 專案關係人類型可以包含產品、系統管理員、內部小組、宣傳群組、製造商、可能排除使用產品的人員。 專案關係人也可以包含提出和處理技術的製作者，以及內部專案贊助者，也就是支援專案的經理和主管。

  4. 仲裁選取

    仲裁者描述遊戲、指南討論及收集結尾批註卡片的案例。 他們也會概述在牌組中考慮的道德原則。

  5. 產品簡報

    仲裁者引進了一個產品，也就是真實或虛構，讓玩家扮演角色。 他們可以使用下列提示，從產品相關問題開始：

    • 誰會使用產品？

    • 其有哪些功能？

    • 何時會使用它？

    • 其使用位置？

    • 為什麼它很有用？

    • 如何使用它？

  6. 撰寫評論

    玩家會根據已解除的卡片，撰寫產品或案例的檢閱。 玩家會大聲朗讀其評論。 請仔細聆聽任何可能發生的問題或主題。 根據所討論的深入解析，記下您對產品所做的任何變更。

    • 專案關係人卡片會告訴他們誰是用於回合。

    • 道德準則卡片是六個 Microsoft AI 原則的其中一個;它會告訴他們他們在其檢閱中著重于哪些領域。

    • 評等卡會告知專案關係人喜歡技術 (1、3 或 5 顆星) 。

    接著，玩家會從利害關係人的觀點撰寫技術檢閱，從他們收到的道德準則的觀點來看，他們喜歡或不喜歡產品的原因。

討論

仲裁者會讓每位玩家閱讀其評論。 每個人都受邀討論不同觀點，以及可能沒有出現的其他考慮。

可能的仲裁者問題包括：

  • 誰最受到影響？

  • 哪些功能有問題？

  • 有哪些潛在損害？

損害風險降低

最後，群組會從討論中挑選一個執行緒，以開始識別可減輕特定損害的設計或程式變更。 在每個四捨五入的結尾，牌組會隨機顯示，而另一個回合的開頭可以是相同或不同的案例。

下一步

在您充分瞭解產品或案例可能造成的潛在損害或負面影響之後，請繼續 瞭解如何建立這些損害的模型 ，以便您可以設計有效的緩和措施。