Podstawy oceniania szkody

Modelowanie szkody to metoda, która ułatwia przewidzenie potencjalnego wystąpienia szkody, zidentyfikowanie luk w produkcie, które mogą stanowić zagrożenie dla ludzi, i opracowanie sposobów proaktywnego reagowania na szkody.

Dlaczego warto modelować szkody?

Twoja praca, jako twórcy technologii, jest globalna. Projektowanie sztucznej inteligencji tak, aby była godna zaufania, wymaga tworzenia rozwiązań, które odzwierciedlają zasady etyczne głęboko zakorzenione w ważnych i ponadczasowych wartościach. W procesie projektowania i tworzenia technologii należy oszacować nie tylko idealne wyniki, ale również możliwe negatywne.

Technologia i prawa człowieka

Bardzo ważne jest, aby mieć świadomość, jaki wpływ może mieć technologia cyfrowa na prawa człowieka. Oprócz kontynuowania ochrony prywatności i bezpieczeństwa, należy rozważyć ryzyko zastosowania sztucznej inteligencji i innych powstających technologii, takich jak rozpoznawanie twarzy. Historia uczy nas, że naruszenia praw człowieka wynikają nie tylko z nikczemnego wykorzystania technologii, ale także z braku świadomości wśród tych, którzy mają dobre intencje. W ramach zaangażowania naszej organizacji w ochronę praw człowieka firma Microsoft nawiązała partnerstwo z ważnymi jednostkami spoza branży, takimi jak Organizacja Narodów Zjednoczonych (ONZ).

Ważnym zestawem zasad ONZ, które firma Microsoft wspiera i które zostały ratyfikowany przez ponad 250 krajów, jest Powszechna Deklaracja Praw Człowieka (UDHR, Universal Declaration of Human Rights). Deklaracja UDHR to niezwykle ważny dokument. Opracowana przez zróżnicowaną, globalną grupę ekspertów w zakresie prawa i kultury, Deklaracja została proklamowana przez Zgromadzenie Ogólne Organizacji Narodów Zjednoczonych w 1948 r. jako wspólny standard osiągnięć dla wszystkich ludzi i wszystkich narodów. Po raz pierwszy ustaliła ona uniwersalną ochronę podstawowych praw człowieka. Została przetłumaczona na ponad 500 języków. Ponadto firma Microsoft jest jednym z 4700 korporacyjnych sygnatariuszy dokumentu UN Global Compact, międzynarodowej inicjatywy biznesowej mającej na celu wspieranie odpowiedzialnego obywatelstwa korporacyjnego.

Pobieranie w programie Microsoft Word

Punkt widzenia człowieka

Poza uznaniem ważności praw człowieka, tworzenie systemów godnych zaufania wymaga wzięcia pod uwagę punktu widzenia wielu osób. Zadanie sobie pytania, kim są zainteresowane strony, co cenią, jakie mogą odnieść korzyści i jak nasza technologia może im zaszkodzić, to zaawansowany krok, który pozwala nam projektować i tworzyć lepsze produkty.

Na kogo ma wpływ technologia?

Kim są klienci?

• Jakie są ich wartości?
• Jak korzyści powinni odnieść?
• Jak technologia może im zaszkodzić?

Kim są uczestnicy projektu, którzy nie są naszymi klientami?

• Jakie są ich wartości?
• Jak korzyści powinni odnieść?
• Jak technologia może im zaszkodzić?

Zadanie tych pytań to sposób postępowania w podejściu Value Sensitive Design. Jest to początek lepszego zrozumienia, co jest ważne dla uczestników projektu i jak wpisuje się w ich relację z produktem.

Typy uczestników projektu

Sponsorzy projektu

Tę kategorię tworzą zwolennicy, osoby podejmujące decyzje i właściciele. Ich wartości są wyrażane w strategii i celach projektu.

Konstruktorzy techniczni

Projektant, deweloperzy, menedżerowie projektów i osoby pracujące bezpośrednio nad projektowaniem systemów tworzą tę grupę. Wnoszą oni do systemu własne standardy etyczne i wartości charakterystyczne dla ich zawodu.

Bezpośredni i pośredni uczestnicy projektu

Na tych uczestników projektu system ma znaczący wpływ. Osoby, których dotyczy wpływ, to użytkownicy końcowi, pracownicy oprogramowania, klienci, osoby postronne, instytucje międzyfakcjonujące, a nawet wcześniejsze lub przyszłe pokolenia. Może również uwzględniać czynniki inne, niż ludzkie, takie jak na przykład budynki historyczne lub miejsca kultu religijnego.

Populacje marginalne

Ta kategoria składa się z populacji często traktowanych jako mniejszości, narażone na zagrożenia lub napiętnowane. Ta kategoria obejmuje dzieci, osoby starsze, członków społeczności LGBTQ+, mniejszości etnicznych i innych populacji, które często doświadczają unikatowych i nieproporcjonalnych konsekwencji.

Ocenianie szkody

Po zdefiniowaniu przeznaczenia technologii, przypadków użycia i uczestników projektu, przeprowadź ćwiczenie modelowania szkód, aby ocenić, w jaki sposób użycie tworzonej przez Ciebie technologii może potencjalnie negatywnie wpłynąć na ludzi i społeczeństwo.

Pobieranie w programie Microsoft Word

Na powyższym diagramie przedstawiono przykład oceny szkód. Ten model jest jakościowym podejściem używanym do zrozumienia potencjalnej wielkości szkód.

To koncepcyjne działanie można wykonać indywidualnie, jednak w idealnych warunkach powinno być ono realizowane we współpracy między deweloperami, analitykami danych, projektantami, osobami prowadzącymi badania użytkowników, osobami podejmującym decyzje biznesowe i innymi dyscyplinami, które są związane z tworzeniem technologii.

Sugestie dotyczące opisu szkód:

• Zamierzone użycie: jeśli [funkcja] została użyta do [przypadku użycia], to [uczestnik projektu] może doświadczyć [opisu szkody].
• Niezamierzone użycie: jeśli [użytkownik] próbował użyć [funkcji] dla [przypadku użycia], to [uczestnik projektu] może napotkać [opis szkody].
• Błąd systemu: jeśli [funkcja] nie działa prawidłowo w przypadku użycia [przypadku użycia], [uczestnik projektu] może napotkać [opis szkody].
• Nadużycie: [Złośliwy użytkownik] może potencjalnie użyć [funkcja], aby spowodować [opis szkody] dla [uczestnik projektu].

Użyj kategorii, pytań i przykładów opisanych w sekcji Typy szkód, aby wygenerować konkretne przykłady dotyczące wystąpienia szkód. Artykuł zawiera listę kategorii szkód, które są oparte na wspólnych obszarach negatywnych wpływów. Dostosuj i zastosuj dodatkowe kategorie, które są dla Ciebie ważne.

Następne kroki

Przeczytaj Typy szkód, aby zapoznać się z dalszą analizą szkody.