Základy posuzování škod

Modelování škod je postup navržený tak, aby vám pomohl odhadnout potenciální škody, identifikovat nedostatky produktu, které by mohly ohrozit lidi, a nakonec vytvořit přístupy, které potenciální škody aktivně řeší.

Proč modelování škod?

Vzhledem k tomu, že vytváříte technologie, je vaše práce globální. Návrh důvěryhodného AI vyžaduje vytvoření řešení, která odrážejí etické principy hluboko zakořeněné v důležitých a nadčasových hodnotách. Při navrhování a sestavování technologií je důležité vyhodnotit nejen ideální výsledky, ale také možná negativa.

Technologie a lidská práva

Je stále nesmírně důležité uvědomovat si, jakým způsobem digitální technologie mohou ovlivňovat lidská práva. Kromě setrvalé ochrany osobních údajů a zabezpečení je potřeba vyřešit rizika AI a dalších vznikajících technologií, jako je rozpoznávání obličeje. Historie nás učí, že porušování lidských práv nejen vede k nechutným využívání technologií, ale také z nedostatku povědomí těch, kteří mají dobré záměry. V rámci úsilí o ochranu lidských práv Microsoft posiluje partnerství s důležitými subjekty mimo svoje odvětví, včetně Organizace spojených národů (OSN).

Důležitou součástí principů OSN, kterou naše společnost pevně podporuje a která byla ratifikována více 250 členy, je Všeobecná deklarace lidských práv. Všeobecná deklarace lidských práv je zásadní dokument. Tato deklarace, jejíž koncept vypracovala mezinárodní skupina odborníků na právo a kulturní tradice, byla Organizací spojených národů v roce 1948 prohlášena za společný výchozí bod pro všechny mezinárodní lidskoprávní úmluvy. Poprvé stanovuje všeobecnou ochranu základních lidských práv. Byla přeložena do více než 500 jazyků. Microsoft je navíc jedním ze 4 700 firemních signatářů UN Global Compactu. Tato mezinárodní iniciativa je zaměřená na propagaci zodpovědných občanských praktik v podnikatelské sféře.

Stáhnout v Microsoft Wordu

Lidské porozumění

Sestavování důvěryhodných systémů kromě uznání důležitosti lidských práv po nás také vyžaduje, abychom zvážili různé pohledy celé řady osob. Důležitým krokem, který nám umožní navrhovat a sestavovat lepší produkty, je položit si otázky, kdo jsou zúčastněné strany, jaké získají výhody a jak jim naše technologie může uškodit.

Koho tato technologie ovlivní?

Kdo jsou její zákazníci?

• Jaké mají hodnotové žebříčky?
• Jaké získají výhody?
• Jak by jim mohla technologie uškodit?

Kdo jsou zúčastněné strany (kromě zákazníků)?

• Jaké mají hodnotové žebříčky?
• Jaké získají výhody?
• Jak by jim mohla technologie uškodit?

Kladení těchto otázek je jedním z postupů hodnotově citlivého designu a je základem lepšího porozumění tomu, co je pro zúčastněné strany důležité a jak to souvisí s jejich vztahem k danému produktu.

Typy zúčastněných stran

Sponzoři projektu

Tuto kategorii tvoří podporovatelé, osoby s rozhodovací pravomocí a vlastníci. Jejich hodnoty vyjadřují cíle a strategie projektu.

Tvůrci technologií

Tuto skupinu tvoří návrháři, vývojáři, projektoví manažeři a lidé pracující přímo na návrhu systémů. Do systému vnášejí vlastní etické standardy a hodnoty specifické pro konkrétní profese.

Přímí a nepřímí účastníci

Tyto zúčastněné strany jsou systémem výrazně ovlivněné. Mezi ovlivněné patří koncoví uživatelé, pracovníci softwaru, klienti, bystanderové, interfacingové instituce a dokonce i minulé nebo budoucí generace. Mohou sem spadat i jiné než lidské faktory, například historické budovy nebo posvátná místa.

Opomíjené obyvatelstvo

Tuto kategorii tvoří část obyvatelstva, která je často považovaná za minoritní, zranitelnou nebo stigmatizovanou. Tato kategorie zahrnuje děti, starší, členy komunity LGBTQ+, etnické menšiny a další populace, které často mají jedinečné a nepřiměřené důsledky.

Posouzení škod

Jakmile definujete technologický účel, případy použití a zúčastněné strany, proveďte modelování škod a vyhodnoťte potenciální způsoby využití vytvářené technologie, které by mohly vést k negativním výsledkům pro lidi a společnost.

Stáhnout v Microsoft Wordu

Příkladem posouzení škod je výše uvedený diagram. Tento model je kvalitativní přístup, který se používá k pochopení potenciálního rozsahu škod.

Tuto aktivitu můžete realizovat individuálně, ale v ideálním případě se v jejím rámci využívá spolupráce mezi vývojáři, odborníky na data, návrháři, uživatelským výzkumníkem, pracovníky s rozhodovací pravomocí a dalšími disciplínami, které se podílejí na sestavování příslušné technologie.

Návrhy pro vyjádření popisu škod:

• Zamýšlené použití: Pokud se [funkce] použila pro [případ použití], pak [účastník] mohl zaznamenat [popis škod].
• Nezamýšlené použití: Pokud se [uživatel] pokusil použít [funkci] pro [případ použití], pak [účastník] mohl zaznamenat [popis škod].
• Systémová chyba: Pokud se [funkce] při použití pro [případ použití] nepovedla správně, může dojít k [popisu škod].
• Zneužití: [Aktér se zlými úmysly] může potenciálně využít [funkci] k tomu, aby [zúčastněné straně] způsobil škodu ([popis škody]).

Kategorie, otázky a příklady popsané v článku Typy škod použijte k vygenerování konkrétních nápadů, jak by mohlo dojít ke škodám. V článku jsou uvedeny kategorie škod, které vycházejí z běžných oblastí negativních dopadů. Přizpůsobte a zařaďte další kategorie, které jsou pro vás relevantní.

Další kroky

Další analýzy škod najdete v článku Typy škod.