Judgment Call

Judgment Call é um jogo e uma atividade em equipe que coloca em ação os princípios de imparcialidade, privacidade e segurança, confiabilidade, transparência, inclusão e responsabilidade de IA da Microsoft. O jogo fornece um método fácil de usar para cultivar a empatia do stakeholder ao imaginar os cenários em que eles se encontram. Os participantes do jogo gravam as revisões do produto da perspectiva de um determinado stakeholder, descrevendo que tipo de impacto e danos a tecnologia pode produzir de seu ponto de vista.

Benefícios

Os construtores de tecnologia precisam de métodos práticos para incorporar a ética no desenvolvimento de produtos, considerando os valores de diversos stakeholders e como a tecnologia pode defender ou não esses valores. A meta do jogo é imaginar possíveis resultados de um produto ou plataforma, obtendo uma melhor compreensão dos stakeholders e o que eles precisam e esperam.

O jogo ajuda as pessoas a discutir tópicos desafiadores em um espaço seguro dentro do contexto de jogabilidade e fornece ao criador de tecnologia um vocabulário para facilitar discussões éticas durante o desenvolvimento de produtos. Ele fornece aos gerentes e designers uma ferramenta interativa para liderar o diálogo ético com as equipes para incorporar o design ético nos produtos.

A base teórica e os resultados iniciais do jogo Judgment Call foram apresentados na conferência ACM Design Interactive Systems de 2019 e o jogo foi finalista do Fast Company 2019 Innovation by Design Awards (categoria Bens Sociais). O jogo foi apresentado a milhares de pessoas nos EUA e internacionalmente. Embora o maior grupo a utilizar o jogo tenha tido mais de 100 participantes, cada baralho de cartas pode envolver 1 a 10 jogadores. Esse jogo não se destina a ser um substituto para a realização de uma pesquisa de usuário robusta. Em vez disso, é um exercício para ajudar os construtores de tecnologia a aprender a exercer a imaginação moral.

Preparação

O Judgment Call usa encenação de papéis para expor preocupações éticas no desenvolvimento de produtos para que os jogadores antecipem o impacto social, escrevam revisões de produtos e explorem mitigações. Os jogadores pensam em que tipo de danos e impactos a tecnologia pode produzir escrevendo revisões de produtos do ponto de vista de um stakeholder.

Para se preparar para este jogo, baixe o kit do jogo Judgment Call imprimível.

Durante o jogo

Espera-se que os jogadores passem pelas seguintes etapas nesse jogo:

1. Identificar o produto

   Comece identificando um produto que sua equipe está criando ou um cenário no qual você está trabalhando. Por exemplo, se a sua equipe estiver desenvolvendo tecnologia de voz sintética, seu cenário poderá ser desenvolver um assistente de voz para aprendizado online.

2. Distribuir as cartas

   Depois de decidir sobre o cenário, distribua as cartas. Cada jogador recebe uma carta de stakeholder, um carta de princípios éticos, uma carta de classificação e um formulário de análise. Veja abaixo uma descrição dessas cartas:

   • Stakeholder: isso representa o grupo de pessoas afetadas pela tecnologia ou cenário escolhido. Os stakeholders também podem incluir os criadores (aqueles que propõem e trabalham com a tecnologia), bem como os patrocinadores internos do projeto (gerentes e executivos que apoiam o projeto).

   • Princípio: isso inclui os princípios éticos da Microsoft de imparcialidade, privacidade e segurança, confiabilidade e segurança, transparência, inclusão e responsabilidade.

   • Classificação: cartas de estrelas fornecem as seguintes classificações: uma estrela é ruim, três estrelas é medíocre, cinco estrelas é excelente.

3. Realizar brainstorm e identificar stakeholders

   Como um grupo, discuta quais são todos os stakeholders que podem ser afetados direta ou indiretamente pela tecnologia. Em seguida, atribua a cada jogador um stakeholder da lista. Em alguns casos, os baralhos do Judgment Call podem ter cartas de stakeholders pré-preenchidas, mas os jogadores podem adicionar cartas adicionais relevantes à situação deles.

   O baralho fornece as seguintes categorias de stakeholders:

   • Direto: eles usam a tecnologia e/ou a tecnologia é usada neles.

   • Indireto: eles sentem os efeitos da tecnologia.

   • Populações especiais: uma ampla gama de categorias que inclui aqueles que não podem usar a tecnologia ou optam por não usá-la e organizações que podem estar interessadas na implantação, como grupos de advocacia ou o governo.

   Há uma série de danos que podem ser sentidos ou perpetuados em cada grupo de stakeholders. Os tipos de stakeholders podem incluir usuários finais do produto, administradores, equipes internas, grupos de advocacia, fabricantes, alguém que pode ser excluído do uso do produto. Os stakeholders também podem incluir os criadores que propõem e trabalham com a tecnologia, bem como os patrocinadores internos do projeto, ou seja, os gerentes e executivos que apoiam o projeto.

4. Seleção do moderador

   O moderador descreve cenários para jogabilidade, orienta discussão e coleta as cartas de comentário no final. Ele também fornece uma visão geral dos princípios éticos considerados no baralho.

5. Apresentação de um produto

   O moderador apresenta um produto, real ou imaginário, para os jogadores encenarem. Ele pode começar com perguntas sobre o produto com prompts como:

   • Quem usará o produto?

   • Quais recursos ele terá?

   • Quando ele será usado?

   • Onde ele será usado?

   • Por que ele é útil?

   • Como será usado?

6. Como escrever análises

   Cada um dos jogadores escreve uma análise do produto ou cenário com base nas cartas que foram tratadas. Os jogadores se revezam lendo as análises em voz alta. Ouça atentamente todos os problemas ou temas que possam surgir. Anote todas as alterações que você pode fazer em seu produto com base em insights discutidos.

   • A carta de stakeholder informa quem eles são nesta rodada.

   • A carta de princípio ético é um dos seis princípios de IA da Microsoft; ele informa em qual área eles devem se concentrar na análise.

   • A carta de classificação informa o quanto o stakeholder gosta da tecnologia (1, 3 ou 5 estrelas).

   O jogador então escreve uma análise da tecnologia, da perspectiva dos stakeholders e de por que eles gostam ou não do produto da perspectiva do princípio ético que receberam.

Discussão

O moderador pede para que cada jogador leia a própria análise. Todos são convidados a discutir as diferentes perspectivas e outras considerações que podem não ter surgido.

As possíveis perguntas do moderador incluem:

• Quem é o mais impactado?

• Quais recursos são problemáticos?

• Quais são os possíveis danos?

Redução de danos

Por fim, o grupo escolhe um assunto da discussão para começar a identificar alterações de design ou de processo que podem reduzir um dano específico. No final de cada rodada, os baralhos são embaralhados e outra rodada pode começar com um cenário igual ou diferente.

Próximas etapas

Depois de ter uma compreensão suficiente de possíveis danos ou do impacto negativo que seu produto ou cenário pode causar, continue a aprender a lidar com esses danos para que você possa criar mitigações eficazes.