개인적 의견

  • 아티클

개인적 의견은 공정성, 개인 정보 보호와 보안, 안정성과 안전, 투명성, 포함 및 책임이라는 Microsoft의 AI 원칙을 작업에 배치하는 게임 및 팀 기반 활동입니다. 이 게임은 시나리오를 상상하여 관련자의 공감을 장려하는 사용하기 쉬운 방법을 제공합니다. 게임 참가자는 특정 이해 관계자의 관점에서 제품 리뷰를 작성하여 해당 관점에서 기술에서 생성할 수 있는 영향과 피해의 유형을 설명합니다.

이점

기술 작성자는 다양한 관련자의 가치와 기술이 이러한 가치를 지키거나 지키지 않을 수 있는 방법을 고려하여 제품 개발에 윤리를 통합하는 실용적인 방법이 필요합니다. 게임의 목표는 관련자와 그들이 필요로 하고 기대하는 것을 더 잘 이해함으로써 제품이나 플랫폼의 잠재적 결과를 상상하는 것입니다.

이 게임은 사람들이 게임 플레이의 컨텍스트 내의 안전한 공간에서 어려운 주제를 논의하는 데 도움이 되며, 기술 제작자에게 제품 개발 중에 윤리 토론을 용이하게 하는 어휘를 제공합니다. 관리자와 디자이너는 팀과 윤리적 대화를 주도하여 제품에 윤리적 디자인을 통합할 수 있는 대화형 도구를 제공합니다.

Judgment Call 게임의 이론적 기초와 초기 결과는 2019 ACM Design Interactive Systems 컨퍼런스에서 발표되었으며, 이 게임은 Fast Company 2019 Innovation by Design Awards(사회 상품 카테고리)의 최종 후보였습니다. 이 게임은 미국과 국제적으로 수천 명의 사람들에게 제공되었습니다. 게임 플레이에서 가장 큰 그룹은 100명이 넘는 반면, 각 카드 데크에는 1-10명의 플레이어가 참여할 수 있습니다. 이 게임은 강력한 사용자 연구를 수행하기 위한 대체물이 아닙니다. 오히려 기술 작성기가 도덕적 상상력을 발휘하는 방법을 배울 수 있도록 돕는 연습입니다.

준비

Judgment Call은 역할극을 사용하여 제품 개발에서 윤리적 문제를 표면화하여 플레이어가 사회적 영향을 예상하고, 제품 리뷰를 작성하고, 완화 방법을 탐색할 수 있습니다. 플레이어는 관련자의 관점에서 제품 리뷰를 작성하여 기술이 생성할 수 있는 피해와 영향을 생각합니다.

이 게임을 준비하려면 인쇄 가능한 Judgment Call 게임 키트를 다운로드합니다.

게임 중

플레이어는 이 게임에서 다음 단계를 거쳐야 합니다.

  1. 제품 식별

    먼저 팀이 빌드하는 제품 또는 작업 중인 시나리오를 식별합니다. 예를 들어 팀이 가상 음성 기술을 개발하는 경우 시나리오에서 온라인 학습을 위한 음성 도우미를 개발하는 것일 수 있습니다.

  2. 카드 전달

    시나리오를 결정했으면 카드를 전달합니다. 각 플레이어는 관련자 카드, 윤리적 원칙 카드, 등급 카드 및 검토 양식을 받습니다. 다음은 이 카드에 대한 설명입니다.

    • 관련자: 선택한 기술 또는 시나리오의 영향을 받는 사용자 그룹을 나타냅니다. 관련자에는 제작자(기술을 제안하고 작업하는 사람)뿐만 아니라 내부 프로젝트 스폰서(프로젝트를 지원하는 관리자 및 임원)도 포함될 수 있습니다.

    • 원리: 여기에는 공정성, 개인 정보 보호 및 보안, 안정성 및 안전, 투명성, 포용성 및 책임에 대한 Microsoft의 윤리적 원칙이 포함됩니다.

    • 등급: 별모양 카드는 등급을 제공합니다. 별 1개는 나쁨, 별 3개는 보통, 별 5개는 우수합니다.

  3. 브레인스토밍 및 관련자 식별

    그룹으로, 직접 또는 간접적으로 기술의 영향을 받을 수 있는 관련자를 브레인스토밍합니다. 그런 다음, 각 플레이어에게 목록에서 관련자를 할당합니다. 경우에 따라 Judgment Call 데크에 미리 채워진 관련자 카드가 있을 수 있지만 플레이어는 상황과 관련된 카드를 더 추가할 수 있습니다.

    데크는 다음과 같은 관련자 범주를 제공합니다.

    • 직접: 이러한 기술 및/또는 해당 기술을 사용합니다.

    • 간접: 기술의 효과를 느낍니다.

    • 특수 모집단: 기술을 사용할 수 없거나 사용하지 않기로 선택한 사용자와 옹호 단체 또는 정부와 같이 배포에 관심이 있는 조직을 포함하는 광범위한 범주입니다.

    각 관련자 그룹에 느껴지거나 영속될 수 있는 다양한 피해가 있습니다. 관련자 유형에는 제품의 최종 사용자, 관리자, 내부 팀, 옹호 단체, 제조업체, 제품 사용에서 제외될 수 있는 사람이 포함될 수 있습니다. 관련자에는 제작자(기술을 제안하고 작업하는 사람)와 내부 프로젝트 스폰서(즉, 프로젝트를 지원하는 관리자 및 임원)도 포함될 수 있습니다.

  4. 중재자 선택

    중재자는 게임 플레이 시나리오를 설명하고, 토론을 안내하고, 마지막에 댓글 카드를 수집합니다. 또한 데크에서 고려되는 윤리적 원칙에 대한 개요를 제공합니다.

  5. 제품 프레젠테이션

    중재자는 플레이어가 역할극을 할 수 있도록 실제 또는 가상의 제품을 소개합니다. 다음과 같은 프롬프트를 사용하여 제품에 대한 질문으로 시작할 수 있습니다.

    • 제품은 누가 사용하나요?

    • 어떤 기능이 있나요?

    • 언제 사용되나요?

    • 어디에 사용되나요?

    • 왜 유용한가요?

    • 어떻게 사용되나요?

  6. 리뷰 작성

    플레이어는 각자 자신이 처리한 카드에 따라 제품 또는 시나리오에 대한 리뷰를 작성합니다. 플레이어는 돌아가면서 리뷰를 소리 내어 읽습니다. 발생할 수 있는 문제나 테마를 주의 깊게 경청하세요. 논의된 인사이트를 기반으로 제품에 적용할 수 있는 변경 사항을 기록해 둡니다.

    • 관련자 카드는 그들이 라운드에서 누구인지 알려줍니다.

    • 윤리적 원칙 카드는 6가지 Microsoft AI 원칙 중 하나입니다. 리뷰에서 초점을 맞추고 있는 영역을 알려줍니다.

    • 등급 카드는 관련자가 기술을 얼마나 좋아하는지 알려줍니다(별 1개, 3개 또는 별 5개).

    그런 다음, 플레이어는 관련자의 관점에서 기술에 대한 리뷰를 작성하고, 그들이 받은 윤리적 원칙의 관점에서 제품을 좋아하거나 싫어하는 이유를 씁니다.

토론(Discussion)

중재자는 각 플레이어가 리뷰를 읽게 합니다. 모든 사람은 다른 관점과 아직 나타나지 않을 수 있는 기타 고려 사항에 대해 논의하도록 초대됩니다.

잠재적 중재자 질문은 다음과 같습니다.

  • 누가 가장 영향을 받나요?

  • 문제가 되는 기능은 무엇인가요?

  • 잠재적인 피해는 무엇인가요?

피해 완화

마지막으로, 그룹은 토론의 스레드를 선택하여 특정 피해를 완화할 수 있는 디자인 또는 프로세스 변경 내용을 식별하기 시작합니다. 각 라운드가 끝나면 데크가 섞이고 다른 라운드는 동일하거나 다른 시나리오로 시작할 수 있습니다.

다음 단계

제품 또는 시나리오에서 발생할 수 있는 잠재적 피해 또는 부정적인 영향에 대해 충분히 이해한 후에는 효과적인 완화를 고안할 수 있도록 이러한 피해를 모델링하는 방법을 알아봅니다.