Remarque
L’accès à cette page nécessite une autorisation. Vous pouvez essayer de vous connecter ou de modifier des répertoires.
L’accès à cette page nécessite une autorisation. Vous pouvez essayer de modifier des répertoires.
Les systèmes IA font désormais partie du patrimoine technologique principal de l’entreprise, notamment les applications IA, les agents, les modèles et les données et services qu’ils utilisent. À mesure que les organisations adoptent l’IA, ces systèmes introduisent de nouveaux chemins d’accès, dépendances et conditions de risque qui doivent être régis dans le cadre de l’architecture de sécurité de bout en bout.
Dans le Sécurité Microsoft Adoption Framework (SAF), le pilier IA applique Confiance nulle principes aux charges de travail et aux opérations IA : vérifiez explicitement, utilisez le privilège minimum et supposez la compromission. Ces conseils vous aident à protéger les fonctionnalités d’IA tout en prenant en charge les résultats métier, la fiabilité opérationnelle et l’amélioration continue.
Ce que couvre ce pilier technologique
Ce pilier se concentre sur la sécurisation des systèmes IA en tant que charges de travail et ressources critiques pour l’entreprise, notamment :
- Applications et systèmes IA
- Agents IA et runtimes d’agent
- Identités d’ia et d’agent
- Modèles, prompts et contexte
- Données utilisées pour l’ancrage, l’entraînement et l’inférence
- Outils, plug-ins, connecteurs et dépendances externes
- Communications agent-à-agent et agent-à-service
- Infrastructure d’IA et environnements d’hébergement
Zones de contrôle de base Confiance nulle pour l’IA
Utilisez ce pilier pour planifier et implémenter des contrôles dans ces domaines, alignés sur les domaines d’implémentation de l’atelier de sécurité IA :
-
Mapper et évaluer les risques liés à l’IA
- Découvrez et recensez des applications, des agents et des services IA.
- Hiérarchiser les risques et établir les responsabilités, la gouvernance et des garde-fous pour une utilisation acceptable.
- Surveillez en permanence les signaux de risque et ajustez les priorités à mesure que l’utilisation évolue.
-
Inscrire des agents et appliquer la gouvernance du cycle de vie
- Enregistrer les agents dans un inventaire centralisé.
- Classifiez les agents par finalité, criticité métier et niveau de risque.
- Définissez les contrôles de propriété, de publication, de certification et de cycle de vie.
-
Authentification et accès sécurisés à l’IA
- Exiger une authentification forte et une autorisation d’accès pour les utilisateurs, les services et les agents.
- Appliquez des privilèges minimum et des autorisations déléguées pour les actions de l’agent.
- Évaluez en permanence les signaux d’identité, d’appareil et de risque avant et pendant l’accès.
-
Accès réseau et aux services d’IA sécurisés
- Contrôler la façon dont les services IA sont accessibles via les chemins réseau et au-delà des limites de service.
- Appliquez la segmentation, le filtrage et l’inspection pour les interactions IA.
- Réduisez l’exposition à l’injection de prompt et aux chemins d’accès non autorisés.
-
Sécuriser l’accès et l’utilisation des données IA
- Classifiez et protégez les données utilisées dans les invites, le contexte, l’ancrage et les sorties.
- Appliquer des contrôles de protection contre la perte de données et d’utilisation pour réduire le risque de sur-partage et d’exfiltration.
- Faire respecter des politiques de gouvernance et de conformité pour la gestion des données IA.
-
Créer et déployer des agents en toute sécurité
- Sécuriser les applications d’IA, les API, les connecteurs et les dépendances de chaîne d’outils.
- Validez les limites de confiance et les contrôles d’exécution avant la mise en production.
- Appliquez des contrôles sécurisés de développement, de test et de mise en production pour les systèmes dotés d’IA.
-
Détecter et réagir face à l’IA
- Surveillez l’activité IA, les flux de prompts, les modèles d’accès et l’utilisation des outils.
- Détecter l’utilisation incorrecte, le comportement anormal et les violations de politique.
- Intégrez les données de télémétrie IA aux workflows de détection, d’investigation et de réponse aux incidents.
Comment ce pilier se connecte à SAF
La sécurité de l’IA s’appuie sur d’autres technologies et disciplines de sécurité SAF :
- Technologies : Identité, points de terminaison, applications, données, infrastructure et réseau.
- Disciplines de sécurité : Développement pour les pratiques d’ingénierie sécurisées et SecOps pour les opérations de détection et de réponse.
- Scénarios métier : Adopter et sécuriser l’IA.