評估傷害的基礎

傷害模型化是一種做法，旨在協助您預測損害的可能性、找出產品中的差距，讓人員面臨風險，並最終建立主動解決傷害的方法。

為什麼要傷害模型化？

身為技術建置者，您的工作是全域的。 設計可信任的 AI 需要建立解決方案，以反映根深植於重要且永恆值的道德準則。 在設計和建置技術的過程中，不僅要評估理想的結果，而且評估可能的負面結果也是不可或缺的。

技術和人權

瞭解數字技術如何影響人權一樣重要。 除了繼續保護隱私權和安全性之外，我們必須解決 AI 和其他新興技術的風險，例如臉部辨識。 歷史教導我們，侵犯人權不僅源於惡意使用技術，而且源於那些有良好意圖的人缺乏認識。 作為公司致力於保護人權的一部分，Microsoft 與包括聯合國（UN）在內的行業外的重要項目關係人建立了合作關係。

我們公司堅決支援由250多個國家批准的聯合國一套重要原則是《人權宣言》（UDHR）。 UDHR 是里程碑檔。 宣言由一個多元化的全球法律和文化專家小組起草，1948年聯合國大會宣布為全體人民和所有國家的共同成就標準。 它首次提出了普遍保護的基本人權。 它已翻譯成超過 500 種語言。 此外，Microsoft是聯合國全球契約的4,700家企業簽署國之一，這是一項旨在促進負責任企業公民的國際商業倡議。

在 Microsoft Word 中 下載

人類理解

除了欣賞人權的重要性外，建立值得信任的系統還需要我們考慮許多人的觀點。 詢問利害關係人是誰、他們的價值、他們如何受益，以及技術如何受到傷害，是一個強大的步驟，可讓我們設計和建置更好的產品。

神秘 技術會影響嗎？

客戶 神秘 嗎？

• 它們的價值為何？
• 他們應該如何受益？
• 科技如何傷害他們？

神秘 非客戶項目關係人嗎？

• 它們的價值為何？
• 他們應該如何受益？
• 科技如何傷害他們？

詢問這些問題是「價值敏感性設計」中的一種做法，是進一步瞭解項目關係人的重要性，以及它如何發揮其與產品的關係。

項目關係人類型

專案贊助者

支援者、決策者和擁有者組成這個類別。 其價值觀在專案策略和目標中清楚說明。

技術建置者

設計工具、開發人員、項目經理和直接處理設計系統的人員組成此群組。 他們把自己的道德標準和職業特有的價值觀帶到了系統中。

直接和間接項目關係人

這些項目關係人受到系統的重大影響。 受影響的人包括使用者、軟體人員、客戶、旁觀者、中介機構，甚至過去或子孫後代。 非人為因素，例如歷史建築或神聖的空間，也可能包括。

邊緣化的人口

這一類別由經常被視為少數、脆弱或汙名化的人口組成。 這一類別包括兒童、老年人、LGBTQ+ 社區成員、少數民族和其他人口，他們經常經歷獨特和不成比例的後果。

評估傷害

定義技術用途、使用案例和專案關係人之後，請進行 Harms 模型化練習，以評估您正在建置之技術的潛在使用方式，可能會對人員和社會產生負面結果。

在 Microsoft Word 中 下載

上圖是傷害評估的範例。 此模型是一種定性的方法，用來瞭解潛在的傷害程度。

您可以個別完成此構想活動，但理想情況下，它會在開發人員、數據科學家、設計工具、使用者研究人員、商務決策者和其他涉及建置技術的其他專業領域之間進行共同作業。

傷害描述語句的建議：

• 預定用途：如果 [功能] 用於 [使用案例]，則 [項目關係人] 可能會遇到 [傷害描述]。
• 非預期的使用：如果 [使用者] 嘗試使用 [功能] 進行 [使用案例]，則 [項目關係人] 可能會遇到 [傷害描述]。
• 系統錯誤：如果使用 [使用案例] 時 [功能] 無法正常運作，則 [項目關係人] 可能會遇到 [損害描述]。
• 誤用：[惡意執行者] 可能會使用 [功能]，對 [項目關係人] 造成 [傷害描述]。

使用傷害類型中所述的類別、問題和範例，來產生特定的想法，以瞭解傷害的發生方式。 本文列出以常見負面影響區域為基礎的危害類別。 調整並採用與您相關的其他類別。

後續步驟

如需進一步的傷害分析，請閱讀 傷害 類型。