Judgment Call

Judgment Call est un jeu et une activité d’équipe qui applique les principes d’équité, de confidentialité et de sécurité, de fiabilité et de sûreté, de transparence, d’inclusion et de responsabilité de l’IA de Microsoft. Ce jeu représente un moyen simple de cultiver l’empathie des parties prenantes en imaginant leurs scénarios. Les participants rédigent des évaluations de produits sous l’angle d’une partie prenante déterminée, en décrivant le type d’impact et les dommages que la technologie pourrait produire de leur point de vue.

Avantages

Les intégrateurs de technologies ont besoin de solutions pratiques pour introduire la dimension éthique dans le développement de produits. Il s’agit de prendre en compte les valeurs des différentes parties prenantes et le positionnement des technologies vis-à-vis de ces valeurs. L’objectif du jeu est d’imaginer les résultats potentiels d’un produit ou d’une plateforme en identifiant les besoins et les attentes des parties prenantes.

Le jeu aide à discuter de sujets délicats au sein d’un environnement sécurisant et dans un contexte ludique. Il donne au créateur de technologies le vocabulaire nécessaire pour faciliter les discussions d’éthique pendant le développement du produit. Il s’agit d’un outil interactif qui permet aux responsables et aux concepteurs de mener un dialogue éthique avec leurs équipes pour incorporer la conception éthique dans leurs produits.

La base théorique et les résultats initiaux du jeu Judgment Call ont été présentés lors de la conférence 2019 ACM Design Interactive Systems. Le jeu a été finaliste des Fast Company 2019 Innovation by Design Awards (dans la catégorie des biens sociaux). Il a été présenté à des milliers de personnes aux États-Unis et à l’international. Si le plus grand groupe ayant participé au jeu comptait plus de 100 personnes, chaque jeu de cartes peut impliquer entre 1 et 10 joueurs. Ce jeu n’est pas destiné à se substituer à de solides recherches utilisateurs. Il s’agit plutôt d’un exercice visant à aider les intégrateurs de technologies à faire preuve d’imagination morale.

Préparation

Judgment Call utilise le jeu de rôle pour faire apparaître les préoccupations éthiques dans le développement de produits, afin que les joueurs puissent anticiper l’impact sur la société, écrire des évaluations de produit et explorer des solutions d’atténuation. Les joueurs réfléchissent à la nature des effets indésirables et des impacts possibles de la technologie en écrivant des avis sur le produit du point de vue d’une partie prenante.

Pour vous préparer à ce jeu, téléchargez le kit imprimable du jeu Judgment Call.

Déroulement du jeu

Dans ce jeu, les joueurs doivent suivre les étapes ci-dessous :

1. Identification du produit

   Commencez par identifier un produit créé par votre équipe ou un scénario sur lequel vous travaillez. Par exemple, si votre équipe développe des technologies de synthèse vocale, votre scénario pourrait consister à développer un Assistant vocal pour l’apprentissage en ligne.

2. Distribution des cartes

   Une fois que vous avez choisi le scénario, distribuez les cartes. Chaque joueur reçoit une carte de partie prenante, une carte de principe éthique, une carte d’évaluation et un formulaire d’évaluation, dont voici la description :

   • Partie prenante : représente le groupe de personnes affectées par la technologie ou le scénario choisi. Il peut également s’agir des décideurs (ceux qui proposent la technologie et travaillent dessus), ainsi que des promoteurs de projet en interne (responsables et cadres qui viennent en soutien du projet).

   • Principe : il s’agit des principes éthiques de Microsoft, à savoir l’impartialité, la confidentialité et la sécurité, la fiabilité et la protection, la transparence, l’inclusion et la responsabilité.

   • Évaluation : les cartes à étoiles donnent une évaluation : 1 étoile pour une pauvre qualité, 3 étoiles pour une qualité médiocre, 5 étoiles pour une excellente qualité.

3. Brainstorming et identification des parties prenantes

   Réfléchissez en groupe à toutes les parties prenantes susceptibles d’être affectées directement ou indirectement par la technologie. Affectez ensuite à chaque joueur l’une des parties prenantes de la liste. Dans certains cas, les jeux Judgment Call comportent des cartes de partie prenante préremplies. Cependant, les joueurs peuvent ajouter des cartes supplémentaires en fonction de leur situation.

   Le jeu de cartes comporte plusieurs catégories de parties prenantes :

   • Directe : parties prenantes qui utilisent la technologie ou sur qui celle-ci est utilisée.

   • Indirecte : parties prenantes qui subissent les effets de la technologie.

   • Populations spéciales : vaste catégorie incluant les parties prenantes qui ne peuvent pas utiliser la technologie ou choisissent de ne pas l’utiliser ainsi que les organisations susceptibles d’être intéressées par son déploiement (par exemple, les groupes de pression et le gouvernement).

   Il existe tout un éventail d’effets indésirables qui peuvent être subis par ou perpétrés sur chacun des groupes de parties prenantes. Ces dernières sont de différents types : utilisateurs finaux du produit, administrateurs, équipes internes, groupes de pression, fabricants ou encore personnes potentiellement exclues de l’utilisation du produit. Il peut également s’agir des décideurs qui proposent la technologie et travaillent dessus, ainsi que des promoteurs de projet en interne, c’est-à-dire les responsables et cadres qui viennent en soutien du projet.

4. Sélection du modérateur

   Le modérateur décrit des scénarios de jeu, guide les échanges et récupère les fiches de commentaires à la fin. Il donne également une vue d’ensemble des principes éthiques considérés dans le jeu.

5. Présentation d’un produit

   Le modérateur présente un produit, réel ou imaginaire, qui sera utilisé dans le jeu de rôle. Il peut commencer par des questions sur le produit, par exemple :

   • Qui utilisera le produit ?

   • Quelles en seront les fonctionnalités ?

   • Quand sera-t-il utilisé ?

   • Où sera-t-il utilisé ?

   • Pourquoi est-il utile ?

   • Comment sera-t-il utilisé ?

6. Écriture des évaluations

   Chacun des joueurs écrit une évaluation du produit ou du scénario en fonction des cartes traitées. Ils lisent leur évaluation tour à tour à haute voix. Écoutez-les attentivement pour repérer les éventuels problèmes et thèmes soulevés. Notez toutes les modifications que vous pourriez apporter à votre produit en fonction des points abordés.

   • La carte de partie prenante indique au joueur le rôle qu’il doit jouer pendant le tour.

   • La carte de principe éthique correspond à l’un des six principes de l’IA de Microsoft. Elle lui indique le point sur laquelle il doit se concentrer dans son évaluation.

   • La carte d’évaluation lui indique si sa partie prenante aime la technologie (une, trois ou cinq étoiles).

   Le joueur écrit ensuite une évaluation de la technologie, du point de vue de la partie prenante. Il précise les raisons pour lesquelles il aime ou non le produit sous l’angle du principe éthique qu’il a reçu.

Discussions

Le modérateur demande à chacun des joueurs de lire son évaluation. Tout le monde est invité à discuter des différentes perspectives et d’autres considérations qui n’ont pas été abordées.

Voici quelques questions potentielles du modérateur :

• Qui est le plus affecté ?

• Quelles sont les fonctionnalités problématiques ?

• Quels sont les potentiels effets indésirables ?

Atténuation des effets indésirables

Enfin, le groupe choisit un thread dans la discussion pour commencer à identifier les modifications de la conception ou des processus susceptibles d’atténuer un effet indésirable en particulier. À la fin de chaque tour, les cartes sont mélangées. Un autre tour peut commencer, sur le même scénario ou non.

Étapes suivantes

Une fois que vous avez suffisamment de connaissances sur les potentiels effets indésirables et sur l’impact négatif de votre produit ou scénario, découvrez comment modéliser ces dommages pour pouvoir concevoir des solutions d’atténuation efficaces.