피해 평가의 기본 사항

해악 모델링은 피해 가능성을 예측하고, 사람들을 위험에 빠뜨릴 수 있는 제품의 격차를 식별하고, 궁극적으로 피해를 사전에 해결하는 접근법을 만들 수 있도록 설계된 사례입니다.

피해 모델링이 필요한 이유는 무엇인가요?

기술 빌더로서 귀하의 작업은 글로벌합니다. AI를 신뢰할 수 있도록 설계하려면 중요하고 시대를 초월한 가치에 깊이 뿌리를 둔 윤리적 원칙을 반영하는 솔루션을 만들어야 합니다. 기술을 설계하고 구축하는 과정에서 이상적인 결과뿐만 아니라 부정적인 결과도 평가해야 합니다.

기술 및 인권

디지털 기술이 인권에 미치는 영향을 인식하는 것이 그 어느 때보다 중요합니다. 개인 정보 보호 및 보안을 지속적으로 보호하는 것 외에도 AI 및 얼굴 인식과 같은 기타 새로운 기술의 위험을 해결해야 합니다. 역사는 인권 침해가 기술의 부정한 사용뿐만 아니라, 좋은 의도를 가진 사람의 인식 부족에서도 비롯된다고 가르칩니다. Microsoft는 인권 보호에 대한 회사의 헌신의 일환으로 유엔(UN)을 비롯한 업계 외부의 중요한 이해 관계자들과 파트너십을 맺었습니다.

250여 개국이 비준한 유엔 원칙의 중요한 집합은 UDHR(세계인권선언)입니다. UDHR은 중요 시점 문서입니다. 다양한 법률 및 문화 전문가 그룹이 작성한 이 선언문은 1948년 유엔 총회에서 모든 국민과 모든 국가를 위한 공통된 성과 표준으로 선포되었습니다. 그것은 처음으로 기본적인 인권이 보편적으로 보호되어야 한다고 명시하고 있습니다. 500개 이상의 언어로 번역되었습니다. 또한 Microsoft는 책임 있는 기업 시민권을 증진하기 위한 국제 비즈니스 이니셔티브인 UN Global Compact의 4,700개 기업 서명자 중 하나입니다.

Microsoft Word에서 다운로드

인간의 이해

인권의 중요성을 높이 평가하는 것 외에도 신뢰할 수 있는 시스템을 구축하려면 많은 사람들의 관점을 고려해야 합니다. 이해 관계자가 누구인지, 무엇을 소중히 여기는지, 어떻게 이익을 얻을 수 있는지, 그리고 기술로 인해 어떻게 상처를 입을 수 있는지 묻는 것은 더 나은 제품을 설계하고 구축할 수 있는 강력한 단계입니다.

기술이 누구에게 영향을 미치나요?

고객은 누구인가요?

• 그들은 무엇을 소중히 여니까?
• 혜택을 받으려면 어떻게 해야 하나요?
• 기술로 인해 어떻게 피해를 줄 수 있나요?

비고객 관련자는 누구인가요?

• 그들은 무엇을 소중히 여니까?
• 혜택을 받으려면 어떻게 해야 하나요?
• 기술로 인해 어떻게 피해를 줄 수 있나요?

이러한 질문을 하는 것은 가치 중요한 디자인의 관행이며 이해 관계자에게 중요한 사항과 제품과의 관계에 어떤 영향을 미치는지를 더 잘 이해하기 위한 시작입니다.

관련자 유형

프로젝트 스폰서

후원자, 의사 결정권자 및 소유자는 이 범주를 구성합니다. 해당 값은 프로젝트 전략 및 목표에 명시되어 있습니다.

기술 빌더

이 그룹은 설계자, 개발자, 프로젝트 관리자 및 시스템 설계에서 직접 작업하는 사람들로 구성됩니다. 자신의 윤리적 표준 및 직업 관련 가치를 시스템에 가져옵니다.

직접 및 간접 관련자

이러한 관련자는 시스템의 영향을 크게 받습니다. 영향을 받는 사람들에는 최종 사용자, 소프트웨어 직원, 고객, 방관자, 인터페이스 기관, 심지어 과거 또는 미래 세대도 포함됩니다. 역사적인 건물이나 신성한 공간과 같은 비인간적 요인도 포함될 수 있습니다.

소외된 인구

이 범주는 소수, 취약 또는 낙인으로 자주 간주되는 인구로 구성됩니다. 이 범주에는 어린이, 노인, LGBTQ+(성 소수자) 커뮤니티 구성원, 소수 민족 및 종종 독특하고 불균형한 결과를 경험하는 기타 집단도 포함됩니다.

피해 평가

기술 목적, 사용 사례 및 이해 관계자가 정의되면 피해 모델링 연습을 수행하여 구축하는 기술을 사용함으로써 사람과 사회에 부정적인 결과가 발생할 수 있는 잠재적 방법을 평가합니다.

Microsoft Word에서 다운로드

위의 다이어그램은 피해 평가의 예입니다. 이 모델은 잠재적 피해 규모를 파악하는 데 사용되는 정성적 접근 방식입니다.

이 아이디어 활동을 개별적으로 완료할 수 있지만 이상적으로는 개발자, 데이터 과학자, 디자이너, 사용자 연구원, 비즈니스 의사 결정자 및 기술 구축에 관련된 기타 분야 간의 협업으로 수행됩니다.

피해 설명 진술에 대한 제안:

• 의도된 사용: [기능]이 [사용 사례]에 사용된 경우 [이해 관계자]가 [피해 설명]을 경험할 수 있습니다.
• 의도되지 않은 사용: [사용자]가 [기능]을 [사용 사례]에 사용하려고 시도하는 경우 [이해 관계자]가 [피해 설명]을 경험할 수 있습니다.
• 시스템 오류: [기능]이 [사용 사례]에 사용될 때 제대로 작동하지 않는 경우 [이해 관계자]가 [피해 설명]을 경험할 수 있습니다.
• 오용: [악의적인 행위자]가 [기능]을 사용하여 [이해 관계자]에게 [피해 설명]을 일으킬 수 있습니다.

피해 유형에 설명된 범주, 질문 및 예제를 사용하여 피해 가 발생할 수 있는 방법에 대한 구체적인 아이디어를 생성합니다. 이 문서에는 일반적인 부정적 영향 영역에 기반한 피해 범주가 나와 있습니다. 사용자와 관련된 추가 범주를 조정하고 채택합니다.

다음 단계

자세한 피해 분석은 피해 유형을 참조하세요.