Défis et risques liés à l’intelligence artificielle
L’intelligence artificielle est un outil puissant qui peut faire profiter le monde entier de ses nombreux avantages. Cependant, comme tout outil, il doit être utilisé de manière responsable.
Le tableau suivant présente quelques-uns des problèmes et risques potentiels que peut rencontrer un développeur d’applications IA.
| Défi ou risque | Exemple |
|---|---|
| Les biais risquent d’affecter les résultats | Un modèle d’approbation de prêt entraîne une discrimination homme/femme en raison d’un biais dans les données avec lesquelles il a été formé |
| Des erreurs risquent d’entraîner des dégâts | Un véhicule autonome subit une défaillance du système et provoque une collision |
| Des données risquent d’être divulguées | Un robot de diagnostic médical est formé à l’aide de données sensibles de patients, mais ces données sont stockées de façon non sécurisée |
| Des solutions risquent de ne pas fonctionner pour tous | Un assistant domotique ne fournit aucune sortie audio pour les utilisateurs malvoyants |
| Les utilisateurs doivent faire confiance à un système complexe | Un outil financier IA propose des recommandations d’investissement - Sur quoi sont-elles basées ? |
| Qui est responsable des décisions basées sur l’IA ? | Une personne innocente est condamnée pour un crime sur la base d’une reconnaissance faciale – Qui est responsable ? |