Judgment Call

Judgment Call no solo es un juego, sino también una actividad para realizar en equipo que pone en marcha los principios de equidad, privacidad y seguridad, fiabilidad, transparencia, inclusión y responsabilidad de la inteligencia artificial de Microsoft. El juego ofrece un método fácil de usar para cultivar la empatía de las partes interesadas mediante la imaginación de sus propios escenarios. Los participantes en el juego escriben reseñas de un producto desde la perspectiva de una parte interesada concreta, en las que se describen el impacto y los daños que la tecnología podría producir desde su punto de vista.

Ventajas

Los creadores de tecnología necesitan métodos prácticos para incorporar la ética en el desarrollo de los productos, teniendo en cuenta los valores de las distintas partes interesadas y la manera en que la tecnología puede preservar o no esos valores. El objetivo del juego es imaginar los posibles resultados de un producto o plataforma al obtener una mejor comprensión de las partes interesadas y de lo que necesitan y esperan.

El juego ayuda a las personas a debatir temas desafiantes en un espacio seguro dentro del contexto del juego y proporciona al creador de tecnología un vocabulario para facilitar las conversaciones éticas durante el desarrollo del producto. Ofrece a los administradores y diseñadores una herramienta interactiva que conduce al diálogo ético con sus equipos para incorporar un diseño ético en sus productos.

La base teórica y los resultados iniciales del juego Judgment Call se presentaron en la Conferencia de sistemas interactivos de diseño de ACM de 2019 y el juego fue finalista en los premios Fast Company 2019 de innovación por diseño (categoría de productos sociales). El juego se ha presentado a miles de personas tanto en Estados Unidos como internacionalmente. Aunque el grupo más grande facilitado en el juego ha superado los 100, cada baraja de cartas puede incluir de 1 a 10 jugadores. Este juego no pretende ser un sustituto de la realización de una investigación de usuarios sólida. En su lugar, se trata de un ejercicio que ayuda a los creadores técnicos a aprender cómo ejercitar su imaginación moral.

Preparación

Judgment Call utiliza el juego de roles para exponer las preocupaciones éticas en el desarrollo del producto, de modo que los jugadores prevean el impacto en la sociedad, escriban reseñas de los productos y exploren las mitigaciones. Los jugadores piensan en qué tipo de daños y efectos puede producir la tecnología mediante la redacción de reseñas de productos desde el punto de vista de una parte interesada.

Para prepararse para este juego, descargue el kit del juego Judgment Call imprimible.

Durante el juego

Se espera que los jugadores realicen los pasos siguientes en este juego:

1. Identificación del producto

   Empiece por identificar un producto que esté creando el equipo o un escenario en el que esté trabajando. Por ejemplo, si el equipo desarrolla una tecnología de voz sintética, su escenario podría ser desarrollar un asistente de voz para el aprendizaje en línea.

2. Reparto de las cartas

   Una vez que haya decidido el escenario, reparta las cartas. Cada jugador recibe una carta de parte interesada, una carta de principios éticos, una carta de calificación y un formulario de reseñas. A continuación se describen estas cartas:

   • Parte interesada: Representa el grupo de personas afectadas por la tecnología o el escenario que ha elegido. Las partes interesadas también pueden incluir a los creadores (aquellos que proponen y trabajan en la tecnología), así como a los patrocinadores internos del proyecto (administradores y ejecutivos que apoyan el proyecto).

   • Principio: Incluye los principios éticos de equidad, privacidad y seguridad, confiabilidad y seguridad, transparencia, inclusión y responsabilidad de Microsoft.

   • Clasificación: Las tarjetas de estrella dan una clasificación: 1 estrella es deficiente, 3 estrellas es mediocre, 5 estrellas es excelente.

3. Tormenta de ideas e identificación de las partes interesadas

   Como grupo, lleve a cabo una tormenta de ideas sobre todas las partes interesadas que podrían verse afectadas directa o indirectamente por la tecnología. A continuación, asigne a cada jugador una parte interesada de la lista. En algunos casos, las barajas de Judgment Call pueden tener cartas de partes interesadas rellenadas previamente, pero los jugadores pueden agregar cartas adicionales adecuadas a su situación.

   La baraja proporciona las siguientes categorías de partes interesadas:

   • Directas: Usan la tecnología o la tecnología se usa en ellos.

   • Indirectas: Aquellas que sienten los efectos de la tecnología.

   • Poblaciones especiales: Una amplia gama de categorías que incluye a los usuarios que no pueden usar la tecnología o que deciden no utilizarla, y las organizaciones que pueden estar interesadas en su implementación, como los grupos de apoyo o el Gobierno.

   Hay una serie de daños que se pueden sentir o perpetuar en cada grupo de partes interesadas. Los tipos de partes interesadas pueden incluir a usuarios finales del producto, administradores, equipos internos, grupos de apoyo, fabricantes, personas que podrían ser excluidas del uso del producto. Las partes interesadas también pueden incluir a los creadores que proponen y trabajan en la tecnología, así como a los patrocinadores internos del proyecto, es decir, los administradores y ejecutivos que apoyan el proyecto.

4. Selección de moderador

   El moderador describe los escenarios de juego, guía el debate y recopila las cartas de comentarios al final. También proporcionará una visión general de los principios éticos que se tienen en cuenta en la baraja.

5. Presentación de un producto

   El moderador presenta un producto, real o imaginario, para que los jugadores desempeñen su rol. Pueden comenzar con preguntas sobre el producto como:

   • ¿Quién usará el producto?

   • ¿Qué características tendrá?

   • ¿Cuándo se usará?

   • ¿Dónde se usará?

   • ¿Por qué es útil?

   • ¿Cómo se usará?

6. Redacción de reseñas

   Cada jugador escribe una reseña del producto o el escenario en función de las cartas que se les han repartido. Los jugadores hacen turnos para leer las reseñas en voz alta. Escuche detenidamente cualquier problema o tema que pueda aparecer. Tome nota de los cambios que se podrían realizar en el producto en función de la información debatida.

   • La carta de parte interesada les indica quiénes son para esa ronda.

   • La carta de principio ético es uno de los seis principios de IA de Microsoft; les indica en qué área se deben centrar en su reseña.

   • La carta de calificación les indica cuánto le gusta la tecnología a la parte interesada (1, 3 o 5 estrellas).

   A continuación, el jugador escribe una reseña de la tecnología, desde la perspectiva de la parte interesada, en la que indica por qué le gusta o disgusta el producto desde la perspectiva del principio ético que recibió.

Debate

El moderador hace que cada jugador lea sus reseñas. Todos están invitados a debatir las diferentes perspectivas y otras consideraciones que pudieran no haber aparecido antes.

Las posibles preguntas del moderador incluyen:

• ¿Quién es el más afectado?

• ¿Qué características son problemáticas?

• ¿Cuáles son los posibles daños?

Mitigación de daños

Por último, el grupo elige un hilo de la discusión para empezar a identificar los cambios de diseño o de proceso que pueden mitigar un daño determinado. Al final de cada ronda se barajan las cartas y puede comenzar otra ronda con el mismo escenario o con otro diferente.

Pasos siguientes

Una vez que tenga un conocimiento suficiente de los posibles daños o el impacto negativo que puede causar el producto o escenario, continúe con el modelado de los daños para poder diseñar mitigaciones eficaces.