Fondements de l’évaluation des dommages

La modélisation des dommages est une pratique qui vise à anticiper les dommages potentiels et à identifier les lacunes dans un produit qui pourraient mettre les personnes en danger, dans le but de créer des approches destinées à faire face aux dommages de manière proactive.

Pourquoi la modélisation des dommages ?

En tant que créateurs de technologies, votre travail est global. Pour concevoir une intelligence artificielle digne de confiance, il convient de créer des solutions conformes à des principes éthiques profondément enracinés dans des valeurs importantes et intemporelles. Pendant la phase de conception et de création de technologies, il est essentiel d’évaluer non seulement les résultats idéaux, mais aussi ceux qui pourraient avoir un impact négatif.

Technologies et droits de l’homme

Il est toujours aussi important d’avoir conscience que la technologie numérique peut avoir des répercussions sur les droits de l’homme. Non seulement nous devons continuer à préserver la confidentialité et la sécurité, mais nous devons aussi nous préoccuper des risques liés à l’IA et à d’autres technologies en devenir, comme la reconnaissance faciale. L’histoire nous enseigne que les violations des droits de l’homme sont la conséquence non seulement de l’utilisation malveillante de la technologie, mais aussi d’un manque de connaissances chez des personnes bien intentionnées. En vertu de notre attachement à la protection des droits de l’homme, Microsoft a forgé un partenariat avec des parties prenantes importantes étrangères à notre secteur d’activité, dont les Nations Unies (ONU).

Parmi les principes importants de l’ONU auxquels notre entreprise souscrit pleinement et qui ont été ratifiés par plus de 250 nations, figure la Déclaration universelle des droits de l’homme (DUDH). La DUDH est un document clé. Rédigée par un groupe international de spécialistes du droit et de la culture, la Déclaration a été proclamée par l’Assemblée générale des Nations Unies en 1948 comme un idéal commun pour tous les peuples et toutes les nations. Pour la première fois, elle énonce la protection universelle des droits de l’homme fondamentaux. Elle a été traduite dans plus de 500 langues. Par ailleurs, Microsoft compte parmi les 4 700 sociétés signataires du Pacte mondial de l’ONU, une initiative internationale visant à inciter les entreprises à adopter une attitude responsable.

Téléchargez un fichier Microsoft Word de ce tableau.

Compréhension des êtres humains

En plus de reconnaître l’importance des droits de l’homme, nous prenons en considération les perspectives d’une multitude de personnes pour concevoir des systèmes dignes de confiance. Quand nous nous demandons qui sont les parties prenantes, ce à quoi elles sont attachées, ce qui pourrait les avantager et ce qui pourrait les desservir dans nos technologies, nous agissons pour favoriser la conception et la création de meilleurs produits.

Qui est impacté par la technologie ?

Qui sont les clients ?

• À quoi sont-ils attachés ?
• En quoi la technologie pourrait-elle leur profiter ?
• En quoi la technologie pourrait-elle leur être dommageable ?

Parmi les parties prenantes, quelles sont celles qui ne sont pas clientes ?

• À quoi sont-elles attachées ?
• En quoi la technologie pourrait-elle leur profiter ?
• En quoi la technologie pourrait-elle leur être dommageable ?

Poser ces questions est une pratique qui relève de la Conception sensible aux valeurs. Elle permet de mieux comprendre ce à quoi les parties prenantes sont attachées et ce qui va jouer dans leur relation avec le produit.

Types de parties prenantes

Commanditaires du projet

Les bailleurs de fonds, les décideurs et les propriétaires entrent dans cette catégorie. Leurs intérêts tournent autour de la stratégie et des objectifs du projet.

Créateurs de technologies

Ce groupe est constitué des concepteurs, développeurs, chefs de projets et autres personnes travaillant directement à la conception des systèmes. Elles apportent aux systèmes leurs propres principes éthiques et les valeurs spécifiques de la profession.

Parties prenantes directes et indirectes

Ces parties prenantes sont fortement impactées par le système. Il s’agit notamment des utilisateurs finaux, du personnel en charge des logiciels, des clients, des observateurs, des institutions de liaison, et même des générations passées ou futures. Des facteurs non humains comme des lieux, par exemple, des bâtiments historiques ou des lieux sacrés, peuvent aussi entrer dans cette catégorie.

Populations marginalisées

La population souvent considérée comme minoritaire, vulnérable ou stigmatisée entre dans cette catégorie. Cette catégorie inclut les enfants, les personnes âgées, les membres de la communauté LGBTQ+, les minorités ethniques et d’autres populations qui subissent souvent des conséquences uniques et disproportionnées.

Évaluation des dommages

Une fois que vous avez défini l’objectif, les cas d’usage et les parties prenantes d’une technologie, faites un exercice de modélisation des dommages pour évaluer ce en quoi l’utilisation de la technologie que vous créez pourrait impacter négativement les personnes et la société.

Téléchargez un fichier Microsoft Word de ce diagramme.

Le diagramme ci-dessus est un exemple d’évaluation des dommages. Ce modèle est une approche qualitative qui est utilisée pour comprendre l’ampleur potentielle des dommages.

Vous pouvez mener cette activité d’idéation seul, mais il est préférable d’y associer les développeurs, les scientifiques des données, les concepteurs, les chercheurs utilisateur, les décideurs métier et les autres disciplines impliquées dans la création de la technologie.

Suggestions de formulations de descriptions de dommages :

• Objectif visé par l’utilisation : Si [fonctionnalité] était utilisé pour [cas d’usage], [partie prenante] pourrait subir [description des dommages].
• Objectif non visé par l’utilisation : Si [utilisateur] essayait d’utiliser [fonctionnalité] pour [cas d’usage], [partie prenante] pourrait subir [description des dommages].
• Erreur du système : Si [fonctionnalité] ne fonctionnait pas correctement lors d’une utilisation pour [cas d’usage], [partie prenante] pourrait subir [description des dommages].
• Utilisation incorrecte : [Acteur malveillant] pourrait utiliser [fonctionnalité] pour causer [description des dommages] à [partie prenante].

À partir des catégories, des questions et des exemples décrits dans Types de dommages, déterminez précisément comment les dommages pourraient survenir. L’article liste des catégories de dommages, qui sont basées sur des impacts négatifs courants. Adaptez ces catégories et adoptez-en d’autres selon vos besoins.

Étapes suivantes

Lisez Types de dommages pour une analyse plus poussée des dommages.