Vanlige feller å unngå

7 minutter

Veikartet vi har diskutert for å hjelpe deg med å komme i gang med gjennomgangsprosessen etter hendelsen, er nyttig, men det kan også være nyttig å vite om noen av hindringene du kan støte på på denne reisen.

I denne enheten finner du ut om noen vanlige feller som andre har falt i under gjennomgangsprosessen etter hendelsen, og hvordan du unngår dem.

Felle 1: Attribusjon til «menneskelige feil»

Du husker kanskje at «pilotfeil», en spesifikk form for den mer generelle «menneskelig feil»-betegnelsen, var konklusjonen de første etterforskerne kom til i B-17-historien vi startet i modulintroduksjonen. La oss gå tilbake til den historien.

I denne introen foreslo vi at konklusjonene som ble nådd, kunne være misfornøyde med deg. De var definitivt utilfredsstillende for Alphonse Chapanis, en militærpsykolog som ble bedt av US Army Air Forces (USAAF) om å undersøke disse hendelsene. Han la blant annet merke til at disse ulykkene var unike for B-17 og et lite antall andre fly. Det var tusenvis av C-47 transportfly i bruk i Vest-Europa samtidig, men ingen C-47 hadde noen gang opplevd en lignende hendelse.

Så han intervjuet piloter, og basert på hva han hørte fra dem, gikk han og så på B-17 cockpiter. Det han så var to brytere: tannhjulbryteren og klaffbryteren. Bryterne var omtrent 3 inches bortsett fra hverandre i cockpiten. Driftsmodusen deres var identisk. De var altfor lette å forveksle med hverandre, og det var det som hadde skjedd i disse hendelsene. Hvis du nettopp har landet et fly, klaffene kommer til å bli utvidet, og før du parkerer, du kommer til å trekke dem tilbake. Chapanis prøvde noe annet.

Han limte et lite gummihjul til bryteren for utstyret, og en hard vinkel "klaff" til bryteren for klaffene, og sikker nok ulykkene sluttet å skje.

Han er nå kjent som en av grunnleggerne av ergonomifeltet (studiet av designfaktorer i menneskelig ytelse), og han hadde en enkel observasjon: utformingen av cockpiten kunne påvirke sannsynligheten for menneskelige feil. Denne tilnærmingen kom til å påvirke designet av moderne fly. For eksempel krever transportkategori-flyregler i USA at landingshjulkontrollen skal være hjulformet og forskjellig fra klaffkontrollen.

Så hvorfor fortalte vi deg denne historien?

Mennesker gjør feil. menneskelig feil er imidlertid ikke en årsak. det er et symptom. Når menneskelig feil anses å være årsaken til en feil, stopper folk der i stedet for å analysere hendelsen ytterligere.

Systemdesign, organisatorisk kontekst og personlig kontekst påvirker alle når, hvordan og med hvilken innvirkning folk gjør feil. "Menneskelig feil" er en etikett som får deg til å slutte å undersøke akkurat nå når du er i ferd med å oppdage noe interessant om systemet.

Problemet med "menneskelig feil" konklusjon i undersøkelser er at det får deg til å miste av syne det faktum at det menneskene gjorde fornuftig for dem på den tiden. Feil per definisjon er ikke bevisste, så de hadde ikke tenkt å gjøre en feil.

Når vi ser eller hører «menneskelig feil», er det et signal om at vi må se dypere ut. Hvis vi ønsker å lære, må vi ikke slutte å undersøke når vi finner en menneskelig feil, som vi så ofte gjør. Som historien om B-17s demonstrerer, like utover den menneskelige feilen er der vi lærer interessante ting om systemet vårt.

Felle 2: Kontrafaktisk resonnement

kontrafaktiske betyr «i strid med fakta», og kontrafaktiske resonnement refererer til å fortelle en historie om hendelser som ikke skjedde for å forklare hendelsene som gjorde det. Dette gir ikke mye mening, selv om folk har en tendens til å gjøre det hele tiden.

Du kan identifisere kontrafaktiske setninger etter nøkkeluttrykk:

Kunne ha
Burde ha
Ville ha
Kan ikke
Ikke
Hvis bare

Noen eksempler på kontrafaktiske uttalelser relatert til gjennomganger etter hendelsen:

"Overvåkingssystemet oppdaget ikke problemet."

"Teknikeren sjekket ikke gyldigheten av konfigurasjonen før den ble vedtatt."

"Dette kunne ha blitt plukket opp i kanarifuglmiljøet."

Problemet med denne typen resonnement i en gjennomgang etter hendelsen er at du snakker om ting som ikke skjedde i stedet for å ta seg tid til å forstå hvordan det skjedde, skjedde. Du lærer ikke noe av denne spekulasjonen.

Trap 3: Normativt språk

normativt språk innebærer ofte at det var et "åpenbart riktig" handlingsforløp som operatørene burde ha tatt, og dømmer handlingene til disse operatørene med fordel for etterpåklokskap.

Normativt språk kan vanligvis identifiseres av adverb som "utilstrekkelig", "uforsiktig", "raskt", og så videre.

Normativ tenkning fører deg til å dømme beslutninger basert på deres resultater. Denne måten å snakke på er ikke logisk, fordi utfallet er eneste informasjonen som ikke var tilgjengelig for de som tok beslutninger og dommer.

Normativt språk kan også brukes i motsatt forstand. Folk kan rose operatører for å ha handlet "riktig", for eksempel. Men igjen, ofte denne dommen er gjort med fordel av informasjon de aktuelle ikke har.

Problemet med normativt språk ligner på problemet med kontrafaktisk resonnement: Hvis vi gjør vurderinger etter det faktum at bruk av informasjon som var utilgjengelig for menneskene som var involvert under hendelsen, unnlater vi å forstå hvordan operatørenes handlinger ga mening for dem på den tiden.

Trap 4: Mekanistisk resonnement

mekanistisk resonnement refererer til konseptet om at et bestemt resultat kan utledes fra intervensjon. Det kalles noen ganger innblanding barna syndrom (skapt av Jessica DeVita) basert på premisset om at "Vårt system ville ha fungert fint ... Hvis det ikke hadde vært for de innblanding barna."

Når du bruker mekanistisk resonnement i gjennomgangen etter hendelsen, bygger du dine konklusjoner på feilslutningen som systemene du arbeider med og innenfor, i utgangspunktet fungerer som de skal, og hvis bare de "innblandingsbarna" ikke hadde gjort noe de gjorde, ville feilen ikke ha skjedd.

Det er imidlertid ikke slik systemer fungerer.

Tenk deg følgende scenario for å illustrere dette punktet: Du arbeider med en produksjonstjeneste. Nå får du beskjed om at du ikke har lov til å berøre eller gjøre noe med denne tjenesten. Alt utenfor teamet fortsetter som før: Kunder fortsetter å bruke tjenesten, eksterne avhengigheter fortsetter å endre seg, Internett fungerer normalt.

Men du kan ikke gjøre noen endringer i koden eller konfigurasjonen. Ingen distribusjoner, ingen kontrollflyoperasjoner, ingenting.

Tror du tjenesten fremdeles kjører som forventet etter en dag? Etter en uke? Etter en måned? Etter et år? Hvor lenge kan du realistisk forvente at tjenesten skal fortsette å kjøre uten menneskelig inngripen? I de fleste tilfeller ville det ikke gjort det.

Denne tankeøvelsen fører oss til en viktig konklusjon:

menneskelig adaptiv kapasitet er nødvendig for å holde systemene oppe og går.

Den eneste grunnen til at systemene dine forblir oppe og går i første omgang er på grunn av handlingene til mennesker i kontrollløkken. Det er bare gjennom menneskelig handling og evne til å tilpasse seg endrede omstendigheter at systemet fortsetter å fungere.

Derfor er det feilaktig å konkludere med at systemet var "i utgangspunktet fungerer ... Hvis det ikke hadde vært for de innblanding barna." Faktisk er påliteligheten til tjenesten din ikke uavhengig av menneskene som jobber med den. I stedet er det et direkte resultat av arbeidet som menneskene gjør på det hver dag.

Problemet med mekanistisk resonnement er at det fører deg ned en vei hvor du tror at å finne det defekte mennesket tilsvarer å finne problemet. Men det samme defekte mennesket har improvisert og tilpasset seg for å holde systemet i gang i uker og måneder. Kanskje denne rollen er viktig nok til å reflektere over i gjennomgangen etter hendelsen.

Nå som du vet noen ting å unngå under en gjennomgang etter hendelsen, kan vi gå videre til neste enhet der vi utforsker noen av de nyttige praksisene for disse anmeldelsene.

Tilbakemeldinger

Var denne siden nyttig?

Vanlige feller å unngå

Kontroller kunnskapen din

Tilbakemeldinger