Grunderna i skadebedömning

Skademodellering är ett sätt att hjälpa dig att förutse potentiella skador, att identifiera problem med produkter som kan utgöra en risk för personer samt att ta fram strategier för att proaktivt förebygga sådana skador.

Varför behövs skademodellering?

Arbetet som teknikutvecklare är globalt. Att utveckla tillförlitlig AI innebär att skapa lösningar som tar hänsyn till etiska normer som är djupt rotade i fundamentala och tidlösa värderingar. När du utformar och skapar dina tekniker är det viktigt att utvärdera inte bara idealiska resultat, utan även möjliga negativa resultat.

Teknik och mänskliga rättigheter

Det är lika viktigt som någonsin att vara medveten om hur digital teknik kan påverka mänskliga rättigheter. Förutom att skydda integriteten och säkerheten måste vi hantera riskerna med AI och andra nya tekniker, till exempel ansiktsigenkänning. Historien lär oss att kränkningar av de mänskliga rättigheterna inte bara beror på den skändliga användningen av teknik, utan också på bristande medvetenhet bland dem som har goda avsikter. Microsoft är engagerade i arbetet med att skydda mänskliga rättigheterna och har därför ingått partnerskap med viktiga aktörer utanför vår bransch, däribland Förenta nationerna (FN).

Vårt företag står bakom FN:s universella deklaration om mänskliga rättigheter (UDHR), som har ratificerats av 250 länder. UDHR är en milstolpe i historien. Deklarationen arbetades fram av ett globalt team med juridiska och kulturella experter och antogs av FN:s generalförsamling 1948 som en gemensam standard för alla människor och alla länder. Den kungör, för första gången, att grundläggande mänskliga rättigheter är universellt skyddade. Den har översatts till över 500 språk. Dessutom är Microsoft ett av 4 700 företag som har undertecknat FN:s Global Compact, ett internationellt företagsinitiativ för att främja ansvarsfullt företagande.

Ladda ned en Microsoft Word-fil i den här tabellen

Förstå andra

Förutom respekt för mänskliga rättigheter är det viktigt att vi tar hänsyn till människors olika perspektiv när vi bygger tillförlitliga system. Genom att fråga oss vilka intressenterna är, vad de värdesätter, hur de kan ha nytta av våra produkter och hur de kan skadas av vår teknik kan vi utforma och skapa bättre produkter.

Vem påverkar tekniken?

Vilka är kunderna?

• Vad värdesätter de?
• Hur kan de få nytta av våra produkter?
• Hur kan tekniken skada dem?

Vilka andra intressenter finns det utöver kunderna?

• Vad värdesätter de?
• Hur kan de få nytta av våra produkter?
• Hur kan tekniken skada dem?

Att ställa dessa frågor är en del av en värdekänslig design och är början till en bättre förståelse av vad som är viktigt för intressenterna, och hur det påverkar deras syn på produkten.

Typer av intressenter

Projektsponsorer

Den här kategorin utgörs av aktörer i bakgrunden, beslutsfattare och ägare. Deras värden formuleras i projektstrategin och målen.

Teknikutvecklare

Designers, utvecklare, projektledare och personer som arbetar direkt med att utforma system utgör den här gruppen. De tar med sig sina egna etiska standarder och yrkesspecifika värden till systemet.

Direkta och indirekta intressenter

Dessa intressenter påverkas i hög grad av systemet. De som påverkas är slutanvändare, programvarupersonal, kunder, åskådare, mellaninstitutioner och till och med tidigare eller framtida generationer. Även icke-mänskliga faktorer såsom platser, till exempel historiska byggnader eller heliga platser, kan ingå.

Marginaliserade grupper

Den här kategorin utgörs av grupper som brukar klassas som minoritetsgrupper, särskilt sårbara grupper eller stigmatiserade grupper. I den här kategorin ingår barn, äldre vuxna, medlemmar i hbtq+-communityn, etniska minoriteter och andra befolkningsgrupper som ofta upplever unika och oproportionerliga konsekvenser.

Bedöma skada

När du har definierat tekniksyftet, användningsfallen och intressenterna genomför du en övning om skademodellering för att utvärdera potentiella sätt att använda en teknik som du skapar kan leda till negativa resultat för människor och samhället.

Ladda ned en Microsoft Word-fil med det här diagrammet.

Diagrammet ovan är ett exempel på en skadebedömning. Den här modellen är en kvalitativ metod som används för att förstå den potentiella omfattningen av skada.

Du kan slutföra den här idéaktiviteten individuellt, men helst utförs den som samarbete mellan utvecklare, dataforskare, designers, användarforskare, beslutsfattare och andra områden som är involverade i att bygga tekniken.

Förslag på formulär för skadebedömning:

• Avsedd användning: Om [funktion] användes för [användningsfall], kan [intressent] uppleva [skadebeskrivning].
• Oavsiktlig användning: Om [användare] försökte använda [funktion] för [användningsfall], kan [intressent] uppleva [skadebeskrivning].
• Systemfel: Om [funktionen] inte fungerade korrekt när den användes för [användningsfall] kan [intressent] uppleva [skadebeskrivning].
• Missbruk: [Illvillig aktör] kan potentiellt använda [funktion] för att utsätta [intressent] för [skadebeskrivning].

Använd kategorierna, frågorna och exemplen som beskrivs i Typer av skada för att identifiera hur olika skador skulle kunna uppstå. Artikeln innehåller en lista över skadekategorier som baseras på vanliga områden med negativ påverkan. Anpassa och lägg till ytterligare kategorier som är relevanta för dig.

Nästa steg

Läs Typer av skada för ytterligare hjälp med skadeanalysen.