Carte d’application : agents Microsoft Security Copilot

Qu’est-ce qu’une carte d’application ou de plateforme ?

Les cartes Application et Plateforme de Microsoft sont destinées à vous aider à comprendre le fonctionnement de notre technologie IA, les choix que les propriétaires d’applications peuvent faire qui influencent les performances et le comportement de l’application, et l’importance de prendre en compte l’ensemble de l’application, y compris la technologie, les personnes et l’environnement. Les cartes d’application sont créées pour les applications IA et les cartes de plateforme sont créées pour les services de plateforme IA. Ces ressources peuvent prendre en charge le développement ou le déploiement de vos propres applications et peuvent être partagées avec les utilisateurs ou les parties prenantes concernés.

Dans le cadre de son engagement envers l’IA responsable, Microsoft adhère à six principes fondamentaux : l’équité, la fiabilité et la sécurité, la confidentialité et la sécurité, l’inclusion, la transparence et la responsabilité. Ces principes sont incorporés dans le Standard IA responsable, qui guide les équipes dans la conception, la création et le test d’applications IA. Les cartes d’application et de plateforme jouent un rôle clé dans l’opérationnalisation de ces principes en offrant une transparence sur les fonctionnalités, les utilisations prévues et les limitations. Pour plus d’informations, les lecteurs sont encouragés à explorer le rapport de transparence de l’IA responsable de Microsoft et le Code de conduite des services d’ia d’entreprise Microsoft, qui décrit comment s’engager avec l’IA de manière responsable.

Vue d’ensemble

Microsoft Security Copilot est une solution de sécurité générative basée sur l’IA qui permet d’augmenter l’efficacité et les capacités des défenseurs afin d’améliorer les résultats de sécurité à la vitesse et à l’échelle de la machine. Security Copilot offre un langage naturel, une expérience de copilote d’assistance qui aide les professionnels de la sécurité et les administrateurs informatiques à gérer un large éventail de scénarios de bout en bout, notamment la réponse aux incidents, la chasse aux menaces, la collecte de renseignements et la gestion de la posture.

Security Copilot est conçu avec l’intégration à l’esprit et offre une expérience autonome immersive sur https://securitycopilot.microsoft.com. La plateforme s’intègre en toute transparence aux produits du portefeuille de sécurité Microsoft, tels que Microsoft Defender XDR, Microsoft Sentinel, Microsoft Intune, Microsoft Entra et Microsoft Purview, ainsi qu’aux services tiers pris en charge.

Un agent Security Copilot génère des sorties et peut effectuer des actions en fonction de la logique configurée, des autorisations et des déclencheurs définis par le client. Les clients peuvent utiliser des agents de Security Copilot autonomes pour automatiser les workflows de sécurité, accélérer les temps de réponse, hiérarchiser les risques et réduire les charges de travail manuelles, tout en conservant un contrôle total. L’autonomie de l’agent fait référence à la capacité d’un agent à prendre des mesures indépendamment dans des limites définies.

Un administrateur (propriétaire Security Copilot) découvre et déploie des agents via le portail Security Copilot et le Magasin de sécurité, certains agents étant également exposés dans les expériences de produits de sécurité Microsoft incorporées. L’administrateur définit l’identité de l’agent et configure le contrôle d’accès en fonction du rôle (RBAC) pour l’agent.

Les utilisateurs prévus incluent les analystes SOC, les administrateurs informatiques, les administrateurs de sécurité des données et d’identité, les analystes de conformité et les responsables de la sécurité tels que les responsables de la sécurité des informations (DSI).

Security Copilot détient la certification ISO 42001, ce qui confirme qu’un tiers indépendant a examiné l’application par Microsoft du framework et des fonctionnalités nécessaires pour gérer efficacement les risques et les opportunités associés au développement, au déploiement et à l’exploitation continus des systèmes Microsoft AI.

Pour plus d’informations, consultez Qu’est-ce que Microsoft Security Copilot ?, expériences Microsoft Security Copilot et Carte d’application pour Security Copilot.

Termes clés

Le tableau suivant fournit un glossaire des termes clés liés aux agents Microsoft Security Copilot.

Terme Définition
Agent Un agent Security Copilot traite les signaux de l’environnement client via des sources de données et des plug-ins intégrés, analyse les données et génère des recommandations. Les agents peuvent également effectuer des actions délimitées dans les autorisations configurées lorsque vous y êtes invité, ce qui nécessite l’approbation d’un utilisateur ou d’un administrateur approprié. Les agents peuvent aller de simples expériences d’invite et de réponse à des workflows plus automatisés et semi-autonomes avec supervision humaine.
Action de l’agent Opération exécutée par un agent, telle que la récupération de données, la génération de sorties ou la modification de configurations, en fonction des autorisations.
Manifeste de l’agent Fichier de configuration qui définit les fonctionnalités, les outils et le comportement d’un agent. Il contrôle le fonctionnement de l’agent dans le Security Copilot et est représenté dans un format de fichier YAML.
Expérience incorporée Accès aux fonctionnalités de Security Copilot à partir d’un autre produit de sécurité Microsoft, comme Microsoft Defender XDR ou Microsoft Sentinel. Le Security Copilot panneau side-car expose directement l’aide de l’IA dans le contexte de ce produit.
Terre Processus consistant à fournir des sources d’entrée contextuelles au modèle de langage volumineux lié à l’invite d’un utilisateur. En permettant aux Security Copilot d’accéder aux données de l’organisation par le biais de plug-ins et de produits de sécurité Microsoft, Security Copilot peuvent fournir des réponses plus précises et contextuellement plus pertinentes.
Modèle de langage large (LLM) Modèles IA entraînés sur de grandes quantités de données texte pour prédire des mots par séquences. Les llMs sont capables d’effectuer diverses tâches telles que la génération de texte, le résumé, la traduction, la classification, etc.
Agent créé par le partenaire Un agent publié par les partenaires Microsoft et mis à disposition par le biais du Magasin de sécurité pour traiter des cas d’usage de sécurité spécifiques.
Plugin Collection d’outils associés qui étend les fonctionnalités de Security Copilot en lui donnant accès à des ressources provenant de services Microsoft et non-Microsoft et de sites web publics via des API. Les plug-ins ajoutent davantage de contexte aux réponses et sorties générées par Security Copilot.
Post-traitement Ensemble d’actions Security Copilot effectue pour affiner et préparer la réponse LLM avant de la renvoyer à l’utilisateur. Ce post-traitement comprend des appels de base supplémentaires via des plug-ins, des vérifications d’IA responsables, des contrôles de sécurité, de conformité et de confidentialité.
Invite Texte en langage naturel qu’un utilisateur envoie à Security Copilot pour exécuter une tâche spécifique ou obtenir des informations. Par exemple, résumez cet incident et proposez des étapes de correction.
Promptbook Série d’invites qui s’exécutent dans l’ordre, en s’appuyant sur les réponses précédentes, pour accomplir des tâches spécifiques liées à la sécurité. Les promptbooks peuvent être utilisés à partir de la bibliothèque ou générés et partagés par les utilisateurs.
Test de l’équipe rouge Techniques utilisées par les experts pour évaluer les limitations et les vulnérabilités d’un système et pour tester l’efficacité des atténuations planifiées. Les tests d’équipe rouge sont utilisés pour identifier les risques potentiels et sont distincts de la mesure systématique des risques.
IA responsable Les pratiques de politique, de recherche et d’ingénierie de Microsoft qui sont ancrées dans ses principes d’IA et mises en œuvre par le biais de la norme d’IA responsable. Pour plus d’informations, consultez les instructions relatives à Fluent RAI.
Unité de calcul de sécurité (SCU) Les SKU sont les unités de capacité de calcul utilisées pour exécuter Security Copilot charges de travail et fournir des performances cohérentes dans l’ensemble de ses expériences. Security Copilot capacité est mesurée en SKU et peut être consommée par le biais de modèles de capacité provisionnés ou de dépassement. Pour plus d’informations, consultez Comprendre les SKU.
Centre des opérations de sécurité (SOC) Une équipe ou une installation de sécurité dédiée axée sur la surveillance, l’analyse et la réponse continues aux incidents de cybersécurité au sein d’un organization. Les analystes SOC sont parmi les principaux utilisateurs prévus de Security Copilot.
Expérience autonome L’expérience immersive du portail Security Copilot accessible directement à l’adresse https://securitycopilot.microsoft.com.
Tenant Limite organisationnelle dans Microsoft Entra ID qui isole l’identité, l’accès et les données pour Security Copilot. Le locataire régit tous les espaces de travail, utilisateurs et interactions via des autorisations et des contrôles de sécurité au niveau du locataire.
Déclencher Événement ou condition qui indique à un agent de commencer à exécuter son workflow. Les déclencheurs peuvent être basés sur le temps (par exemple, une planification hebdomadaire pour l’agent de briefing sur les menaces) ou manuels (exécutés à la demande par un utilisateur ou un administrateur). Le déclencheur est configuré pendant l’installation de l’agent.

Fonctionnalités clés

Les principales fonctionnalités du tableau suivant décrivent ce que Microsoft Security Copilot est conçu pour effectuer et comment il s’exécute sur les tâches prises en charge.

Fonctionnalité ou fonctionnalité Description
Investigation et réponse aux incidents Security Copilot aide les professionnels de la sécurité à trier et à examiner les incidents en générant des résumés des alertes de sécurité complexes, en corrélant les signaux entre Microsoft Defender XDR, Microsoft Sentinel et d’autres produits intégrés, et en fournissant des conseils de correction pas à pas.
Threat Intelligence Security Copilot pouvez effectuer des recherches dans Microsoft Defender les articles et profils de renseignement sur les menaces, les rapports d’analyse des menaces et les publications de divulgation des vulnérabilités pour faire apparaître des informations pertinentes alignées sur une invite.
Analyse de script et génération de requêtes KQL Security Copilot pouvez analyser des scripts ou des programmes malveillants suspects et traduire le langage naturel en requêtes KQL, ce qui permet aux membres de l’équipe à tous les niveaux de compétence d’effectuer des tâches avancées de repérage et d’analyse technique.
Gestion de la posture de sécurité Security Copilot permet aux utilisateurs de comprendre les risques hiérarchisés dans leur environnement et d’identifier les opportunités d’amélioration de la posture grâce à l’intégration à Microsoft Defender XDR, Microsoft Entra et Microsoft Intune.
Création et gestion des stratégies de sécurité Les utilisateurs peuvent définir de nouvelles stratégies, les croiser avec les stratégies existantes pour les conflits et résumer les stratégies en langage simple pour gérer le contexte organisationnel complexe.
Rapports des parties prenantes Security Copilot pouvez générer des rapports qui résument le contexte, les problèmes ouverts et les mesures de protection adaptées à l’audience prévue, comme les cadres ou les équipes de sécurité.
Séquence de requêtes Les promptbooks sont des séquences d’invites qui s’exécutent afin d’accomplir des tâches de sécurité spécifiques. Les utilisateurs peuvent exécuter des guides à partir d’une bibliothèque partagée ou créer et partager les leurs.
Agents Security Copilot prend en charge les agents qui automatisent et aident à effectuer des tâches de sécurité et d’opérations informatiques dans le cadre des autorisations accordées par les administrateurs. Un agent effectue des actions via des identités configurées, des contrôles d’accès et des déclencheurs, et fonctionne avec une supervision humaine dans le cadre des workflows de sécurité.
Les agents créés par Microsoft couvrent le portefeuille de produits de sécurité, couvrant les opérations SOC, la chasse aux menaces, le renseignement sur les menaces, la gestion des identités, la gestion des points de terminaison et la sécurité des données. Les administrateurs configurent l’identité, les autorisations et le déclencheur de chaque agent pendant l’installation. Les utilisateurs peuvent examiner les déclencheurs, l’accès aux données, l’identité et les autorisations d’action d’un agent (par exemple, lecture ou écriture) pour comprendre comment l’agent fonctionne dans son étendue définie. Pour plus d’informations sur des agents spécifiques et leurs cas d’usage, consultez Utilisations prévues.
Prise en charge multilingue Security Copilot prend en charge les invites et les réponses dans plusieurs langues. Pour plus d’informations, consultez Langues prises en charge.

Security Copilot est une solution de sécurité basée sur l’IA qui fonctionne à la fois de manière autonome et en tant que système agentique autonome. Pour comprendre l’autonomie de l’agent, envisagez les éléments suivants :

  • Déclencheurs d’activation : conditions ou actions utilisateur qui provoquent l’exécution de l’agent
  • Autorisations d’accès : données, systèmes ou ressources que l’agent peut utiliser
  • Droits d’action : actions que l’agent est autorisé à entreprendre seul

Les sections suivantes décrivent les principales fonctionnalités agentiques qui sous-tendent la façon dont les agents raisonner, planifier, mémoriser, s’adapter et étendre leur portée.

Raisonnement

Security Copilot agents utilisent le modèle de langage volumineux sous-jacent pour analyser le contexte disponible, évaluer les signaux et déterminer le plan d’action le plus approprié. Par exemple, l’agent de triage de hameçonnage évalue le contenu des e-mails, la réputation de l’expéditeur et les signaux comportementaux pour produire un verdict de classification avec une logique de langage naturel. Les agents exposent leur raisonnement de manière transparente afin que les analystes puissent examiner, valider ou remplacer les conclusions avant d’agir sur celles-ci.

Planification

Les agents fonctionnent sur des déclencheurs définis qui indiquent au système agentique de lancer une séquence structurée d’actions vers un objectif. Les agents peuvent être configurés pour :

  • S’exécuter automatiquement selon une planification (par exemple, l’agent d’information sur les menaces s’exécute tous les sept jours).
  • Exécutez manuellement à la demande si nécessaire.

Cette conception offre aux agents un modèle d’exécution orienté objectif dans lequel le système analyse quand et comment agir pour accomplir sa tâche.

Mémoire

Security Copilot agents peuvent conserver des informations au fil du temps, appelées mémoire. La mémoire permet à un agent d’incorporer des entrées passées dans le comportement futur, en fonction de la façon dont l’agent est conçu et configuré.

La mémoire peut inclure des commentaires fournis par les utilisateurs. Les agents peuvent utiliser ces commentaires pour ajuster leurs réponses ou actions dans les interactions suivantes.

Adaptabilité

Security Copilot agents sont conçus pour s’adapter en fonction des commentaires des utilisateurs et du contexte opérationnel, tout en continuant à fonctionner dans l’étendue définie par leur identité, leurs autorisations et leurs déclencheurs configurés.

  • Boucle de commentaires : Security Copilot propriétaires et contributeurs peuvent fournir des commentaires sur les réponses d’un agent. Ces commentaires sont stockés dans la mémoire de l’agent et peuvent influencer les sorties futures, en fonction de la conception et de la configuration de l’agent.
  • Mise à la base contextuelle : pendant le traitement de l’invite, Security Copilot enrichit les invites à l’aide de la mise à la base. Ce processus intègre les données organisationnelles pertinentes, les plug-ins activés et le renseignement sur les menaces afin que les réponses reflètent le contexte actuel.
  • Identité et autorisations configurables : les agents peuvent être mis à jour après l’installation pour modifier l’identité, les déclencheurs et les paramètres. Cela permet aux agents de s’aligner sur les flux de travail et les exigences en constante évolution.

Extensibilité

  • Plug-ins : les agents utilisent des plug-ins pour atteindre des services externes via des API, notamment des recherches de réputation, des informations sur les menaces et des données de point de terminaison. Les plug-ins intégrés à Microsoft et aux partenaires sont pris en charge. Pour plus d’informations, consultez Vue d’ensemble des plug-ins.
  • Connecteurs : Logic Apps et les connecteurs Copilot Studio encapsulent l’API Security Copilot, ce qui permet aux développeurs et aux utilisateurs d’appeler la plateforme à partir de workflows d’automatisation externes. Pour plus d’informations, consultez Vue d’ensemble des connecteurs.
  • Agents personnalisés : les développeurs peuvent créer des agents personnalisés adaptés à des cas d’usage spécifiques et les ajouter à l’écosystème Security Copilot via la plateforme de développement. Pour plus d’informations, consultez Développer des agents personnalisés.
  • Magasin de sécurité : Les agents microsoft et partenaires prédéfinis peuvent être découverts et déployés à partir de la bibliothèque d’agents intégrée et du Magasin de sécurité.
  • Expériences incorporées : les agents fonctionnent non seulement dans le portail autonome Security Copilot, mais ils sont également incorporés dans l’écosystème de sécurité Microsoft plus large, y compris les Microsoft Defender XDR, les Microsoft Sentinel, les Microsoft Intune, Microsoft Entra et Microsoft Purview.

Utilisations prévues

Microsoft Security Copilot agents sont conçus pour les professionnels de la sécurité et les administrateurs informatiques afin de prendre en charge les flux de travail de sécurité, tels que la collecte et la corrélation du renseignement. Les agents peuvent fonctionner avec des autorisations définies par l’administrateur et aider à simplifier les tâches qui, autrement, pourraient nécessiter un effort manuel important, tout en conservant le contrôle des humains. Voici quelques exemples de cas d’usage d’agent prévus :

  • Information sur le renseignement sur les menaces : l’agent de renseignement sur les menaces génère des rapports de renseignement sur les menaces détaillés en temps opportun en mettant en corrélation Microsoft Defender Threat Intelligence données, Defender External Attack Surface Management (GSAE) et contexte client en temps réel. Les analystes de sécurité peuvent utiliser cet agent pour remplacer des heures ou des jours de collecte et de corrélation manuelles de renseignements par un rapport généré en minutes.

  • Analyse des données de sécurité (Microsoft Defender XDR) : l’agent d’analyste de sécurité permet aux analystes de sécurité d’identifier, d’évaluer et de hiérarchiser rapidement les risques sur de grands volumes de données de sécurité. L’agent effectue à la fois des tâches d’analyse de base telles que l’analyse des modèles, l’analyse des tendances et la visualisation, et des tâches avancées telles que la détection d’anomalies, la clustering, le scoring des risques et la modélisation prédictive. Il intègre des données de Microsoft Defender XDR, Microsoft Sentinel Log Analytics, Microsoft Sentinel lac de données et des fichiers CSV chargés, générant des insights hiérarchisés avec une piste de preuve complète dans une expérience de conversation interactive et sans code.

  • Opérations de sécurité et réponse aux incidents (Microsoft Defender XDR) :

    • L’agent de triage de hameçonnage évalue les e-mails de hameçonnage signalés par l’utilisateur à mesure qu’ils sont envoyés, classifie les verdicts avec un raisonnement transparent et intègre les commentaires des analystes au fil du temps.
    • L’agent de détection dynamique des menaces s’exécute en continu en arrière-plan pour découvrir les menaces masquées et les lacunes dans les environnements Defender et Microsoft Sentinel en corrélatant les alertes, les événements, les anomalies et le renseignement sur les menaces.

  • Repérage des menaces (Microsoft Defender XDR) : l’agent de chasse aux menaces permet la chasse aux menaces de bout en bout à l’aide du langage naturel. Il génère des requêtes KQL, interprète les résultats, expose des insights et guide les analystes tout au long des sessions de repérage complètes pour trouver les menaces plus rapidement et avec plus de confiance.

  • Gestion des identités et des accès (Microsoft Entra) :

    • L’agent d’optimisation de l’accès conditionnel analyse les stratégies d’accès conditionnel et recommande des améliorations en fonction des bonnes pratiques et des principes de Confiance nulle de Microsoft.
    • L’agent Identity Risk Management permet aux administrateurs d’identité d’examiner les risques potentiels et de prendre des mesures pour protéger les ressources critiques.

  • Gestion des points de terminaison (Microsoft Intune) :

    • L’agent de correction des vulnérabilités utilise les données Defender pour surveiller les vulnérabilités et hiérarchiser la correction avec des évaluations des risques pilotées par l’IA.
    • L’agent de configuration de stratégie permet aux administrateurs d’importer des documents ou d’écrire des instructions en langage brut pour rechercher les paramètres correspondants dans le catalogue des paramètres de Intune et créer des stratégies.
    • L’Agent de révision des modifications évalue l’effet des demandes d’approbation dans Intune et émet des recommandations pour les actions que les administrateurs peuvent entreprendre.

  • Enquête sur la sécurité des données (Microsoft Purview) :

    • L’agent de triage dans la gestion des risques internes évalue les alertes en fonction des risques liés aux utilisateurs, aux fichiers et aux activités, en les triant automatiquement en catégories hiérarchisées pour aider les équipes de sécurité à se concentrer sur les cas les plus à risque.
    • L’agent de triage Purview dans la protection contre la perte de données évalue les alertes DLP en fonction du risque de sensibilité, du risque d’exfiltration et du risque de stratégie, ce qui aide les administrateurs de la sécurité des données à agir sur les incidents les plus critiques.

  • Workflows agentiques personnalisés : les développeurs peuvent créer et déployer des agents personnalisés à l’aide du traitement en langage naturel, en chargeant le manifeste de l’agent ou en utilisant les outils MCP adaptés aux cas d’usage de sécurité spécifiques de leur organization, en étendant les fonctionnalités de l’agent via des plug-ins et des connecteurs aux services Microsoft et non-Microsoft. Pour plus d’informations, consultez Agents personnalisés.

    Vous pouvez également créer un agent de conversation interactive lorsque les agents et les utilisateurs doivent collaborer pour une expérience guidée afin de résoudre un problème. Pour plus d’informations, consultez Agent interactif.

Modèles et données d’entraînement

Microsoft Security Copilot utilise Azure modèles LLM OpenAI de Foundry Models vendus par Azure pour alimenter les expériences en langage naturel. Ces modèles ne sont pas entraînés sur Security Copilot données client. Les fonctionnalités du modèle varient en raisonnement, vitesse, limitations et scénarios pris en charge.

Security Copilot intègre également des connaissances et un contexte spécifiques à la sécurité par le biais de plug-ins et de la base, qui fournissent au LLM des données organisationnelles pertinentes, des renseignements sur les menaces et du contenu faisant autorité au moment de l’inférence plutôt que par le biais d’une formation de modèle.

Performances

Security Copilot est conçu pour fonctionner dans des environnements de sécurité d’entreprise où de grands volumes de signaux de sécurité en temps réel sont générés sur les produits Sécurité Microsoft et d’autres sources de données configurées par le organization. Il intègre les signaux de ces sources, combinant le traitement en temps réel des données de journal structurées avec le raisonnement d’investigation. Il est conçu pour aider à détecter, analyser et suivre la source et l’impact des incidents de sécurité sur plusieurs sources de données.

Security Copilot s’exécute sur l’infrastructure hyperscale de Microsoft et sur une couche d’orchestration spécifique à la sécurité, qui sont destinées à prendre en charge des performances évolutives et résilientes dans des scénarios répétés de détection et d’examen des menaces.

Les agents étendent la capacité de Security Copilot à agir sur les signaux de sécurité en exécutant des tâches de sécurité définies via des autorisations configurées par l’administrateur. Les agents raisonner sur les signaux disponibles, planifient et exécutent des actions structurées, et produisent des sorties telles que les décisions de triage, les rapports de renseignement et les conseils de correction ancrés dans des données organisationnelles et de renseignement sur les menaces en temps réel. L’exécution de l’agent est transparente via des mappages de nœuds pas à pas, ce qui permet aux analystes d’examiner les étapes générées (et non un résumé détaillé des actions spécifiques effectuées sur chaque nœud) et de valider les résultats entre les exécutions.

La fiabilité des performances est prise en charge par le biais d’agents préconfigurés créés par Microsoft, qui sont testés sur des workflows représentatifs, et d’agents personnalisés, où un fichier YAML manifeste peut aider à promouvoir un comportement plus cohérent en spécifiant des fonctionnalités, des outils, des déclencheurs et des limites opérationnelles. Lorsque les instructions du manifeste sont clairement définies, l’agent peut être plus en mesure d’interpréter sa tâche, de sélectionner les actions appropriées et d’opérer dans l’étendue prévue. Pour plus d’informations, consultez Agents personnalisés.

Pour les agents interactifs, les performances sont principalement mises en forme par l’échange itératif entre l’agent et l’utilisateur. L’agent produit une réponse initiale, et l’utilisateur affine le contexte par le biais d’invites de suivi en fonction de ce que l’agent expose. Cette interaction va-et-vient permet à l’utilisateur de guider de manière incrémentielle l’agent vers des résultats plus précis et ciblés qu’une seule exécution autonome. Pour plus d’informations, consultez Agents interactifs.

Limitations

Il est important de comprendre les limitations de Security Copilot pour s’assurer qu’elle est utilisée dans des limites sûres et efficaces. Bien que les clients soient encouragés à utiliser Security Copilot dans leurs workflows de sécurité, il est important de noter que Security Copilot n’a pas été conçu pour tous les scénarios possibles. Reportez-vous au Code de conduite microsoft Enterprise AI Services ainsi qu’aux considérations suivantes lors du choix d’un cas d’usage :

  • Préversion publique status : certains agents sont en préversion publique et peuvent être considérablement modifiés avant la disponibilité générale. Microsoft n’offre aucune garantie, expresse ou implicite, concernant ces fonctionnalités. Comme pour toute sortie IA, les clients doivent passer en revue la prise de décision de l’agent avant d’agir sur ses sorties.
  • Précision et exhaustivité : comme toute technologie basée sur l’IA, Security Copilot ne fait pas tout le bon. Les réponses peuvent être inexactes, incomplètes ou obsolètes, en particulier si les plug-ins pertinents ne sont pas activés ou si les données les plus actuelles ne sont pas disponibles via l’entrée utilisateur ou le contexte organisationnel. Les utilisateurs doivent toujours faire preuve de jugement humain et vérifier les sorties critiques plutôt que de s’appuyer uniquement sur la réponse générée par l’IA.
  • Étendue spécifique au domaine : Security Copilot est conçu pour répondre aux invites liées au domaine de sécurité, telles que l’enquête sur les incidents et le renseignement sur les menaces. Requêtes en dehors de l’étendue de la sécurité peut entraîner des réponses qui manquent de précision et d’exhaustivité.
  • Génération de script et de code : Security Copilot peuvent générer du code ou inclure du code dans les réponses. Les réponses peuvent sembler valides, mais elles peuvent ne pas être sémantiquement ou syntaxiquement correctes, ou ne pas refléter avec précision l’intention du demandeur. Le code généré ne doit pas être déployé dans des environnements de production sans procédures de validation, de test et de révision appropriées. Les utilisateurs doivent également vérifier que tous les paramètres utilisés par le code généré s’alignent sur la requête d’origine. Par exemple, si un agent opère sur des alertes dans un intervalle de temps spécifique, vérifiez que l’intervalle de temps dans le code généré correspond à l’intervalle de temps spécifié dans l’invite en langage naturel.
  • Contraintes de longueur d’invite : le système peut ne pas être en mesure de traiter les invites longues, telles que celles qui contiennent des centaines de milliers de caractères. Le LLM sous-jacent a une limite de jetons, et les requêtes trop détaillées ou les sessions étendues peuvent dépasser l’espace de jeton. Lorsque ce scénario se produit, Security Copilot tente d’appliquer des atténuations pour s’assurer qu’une sortie est toujours disponible, même si le contenu n’est pas optimal ; toutefois, ces atténuations ne sont pas toujours efficaces et il peut être nécessaire d’essayer une autre invite ou plug-in.
  • Limites d’utilisation et latence : l’utilisation de la plateforme peut être soumise à des limites d’utilisation ou à une limitation de capacité. La génération de réponses, y compris la réalisation d’appels d’API via des plug-ins et la vérification des réponses avant de les afficher, peut prendre du temps et nécessiter une capacité GPU élevée. Les organisations doivent surveiller leur consommation de SCU et ajuster la capacité provisionnée en fonction des besoins pour éviter les interruptions de service inattendues.
  • Biais, stéréotypes et contenu non basé : malgré l’implémentation de contrôles IA responsables sur les invites utilisateur et les sorties LLM, les services IA sont faillibles et probabilistes. Il est donc difficile de bloquer complètement tout le contenu inapproprié, ce qui peut entraîner des biais potentiels, des stéréotypes ou du contenu non ancré dans la sortie générée par l’IA.
  • Cloud public/privé souverain Microsoft : Security Copilot n’est pas pris en charge dans ces environnements pour l’instant.
  • Limites de l’agent spécifique à la tâche : les agents conviennent uniquement à la tâche spécifique qu’ils sont conçus pour effectuer. Pour plus d’informations, consultez la section des cas d’usage prévus . Ils ne conviennent à aucune autre tâche et ne doivent pas être réaffectés au-delà de leur portée définie.
  • Détail de la carte de nœud : le mappage de nœud de l’agent fournit une vue d’ensemble des étapes effectuées pendant un flux de travail d’agent. Chaque nœud représente une étape du processus et affiche le titre de la compétence utilisée, ainsi que les métadonnées de base telles que la status de saisie semi-automatique, la durée et l’horodatage. Le mappage de nœuds est conçu pour afficher la séquence d’actions, mais il ne fournit pas d’informations détaillées sur les opérations ou les décisions spécifiques prises au cours de chaque étape. Étant donné que le mappage de nœuds présente uniquement des informations résumées, il se peut qu’il ne capture pas entièrement le contexte ou la complexité de chaque action.
  • Commentaires de l’agent et transparence de la mémoire : lorsque les utilisateurs envoient des commentaires à un agent pour le stockage en mémoire, l’agent ne fournit pas de résumé de son interprétation des commentaires. Pour améliorer la précision des sorties futures, les utilisateurs doivent fournir des commentaires clairs, concis et spécifiques. Les commentaires envoyés à un agent peuvent être stockés et utilisés pour influencer les sorties futures. Toutefois, la visibilité de ces commentaires stockés peut varier en fonction de l’expérience de l’agent et du rôle d’utilisateur. Pour plus d’informations, consultez Fournir des commentaires.

Évaluations

Les évaluations des performances et de la sécurité évaluent si les applications IA fonctionnent de manière fiable et sécurisée en examinant des facteurs tels que la base, la pertinence et la cohérence, tout en identifiant les risques liés à la génération de contenu nuisible. Les évaluations suivantes ont été effectuées avec des composants de sécurité déjà en place, qui sont également décrits dans Composants de sécurité et atténuations.

Données d’évaluation pour la qualité et la sécurité

Nos données d’évaluation sont personnalisées pour évaluer les performances des applications IA dans des domaines clés de la sécurité et de la qualité, en simulant des scénarios réels et des risques. Nous commençons par identifier les aspects pertinents de l’évaluation des préoccupations en nous appuyant sur la recherche multidisciplinaire et les commentaires d’experts. Ces préoccupations se traduisent par des objectifs d’évaluation ciblés et guident la formulation des métriques d’évaluation.

Pour la sécurité, nous créons des invites contradictoires pour obtenir des réponses indésirables ou de cas de périphérie, qui sont ensuite notées à l’aide d’annotateurs assistés par IA formés pour évaluer l’alignement avec les normes de sécurité de Microsoft. Pour la qualité, nous créons des invites basées sur des rubriques pertinentes pour les scénarios, y compris l’évaluation des applications et des agents de génération augmentée de récupération (RAG).

Les jeux de données sont organisés à partir de diverses sources, notamment des jeux de données synthétiques et publics pour simuler des scénarios utilisateur réels. À l’aide des jeux de données organisés, les deux évaluations font l’objet d’un affinement itératif et d’un alignement humain pour améliorer l’efficacité et la fiabilité des métriques. Cette méthodologie constitue la base d’évaluations reproductibles et rigoureuses qui reflètent la façon dont les clients utilisent les évaluations pour créer une IA meilleure et plus sûre.

Évaluations personnalisées

Des évaluations personnalisées ont été effectuées pour valider les performances du modèle dans des scénarios de base, de robustesse contradictoire et de contenu nuisible à l’aide de tests de régression, de jeux de données d’invite organisés et d’exemples alignés sur la production. L’évaluation a comparé les sorties entre les modèles GPT, en utilisant des outils internes pour évaluer la base et Azure filtrage de contenu OpenAI pour valider les protections contre le jailbreak, l’injection d’invite et les violations de propriété intellectuelle. Les résultats montrent des performances cohérentes ou améliorées, notamment des taux de protection élevés dans les scénarios contradictoires et une meilleure précision de la mise à l’terre.

La gestion du contenu dangereux reste cohérente entre les modèles et fonctionne en mode annotation pour prendre en charge les cas d’usage axés sur la sécurité, avec des tests supplémentaires à grande échelle confirmant des taux de protection élevés entre les catégories. Des tests de régression sont effectués pour vérifier que le contenu, qui n’est pas dangereux, n’est pas considéré comme dangereux.

Security Copilot agents ont été évalués par son équipe produit et de recherche avec des cas d’usage et des entrées de conception des clients. La sécurité du système d’agent a également été évaluée au moyen d’un exercice d’association rouge dédié. Microsoft a également effectué des tests d’intrusion sur le service Security Copilot pour valider la protection contre les accès non autorisés.

Maintenant que Security Copilot est publié, les commentaires des utilisateurs sont essentiels pour aider Microsoft à améliorer le système. Les utilisateurs ont la possibilité de fournir des commentaires sur la réponse de l’agent de Security Copilot. Ces commentaires sont directement transmis à Microsoft et sont utilisés pour améliorer les performances de la plateforme par le biais d’un perfectionnement itératif continu. Pour plus d’informations, consultez Fournir des commentaires.

Composants de sécurité et atténuations

À mesure que nous avons identifié les risques potentiels et les mauvaises utilisations par le biais de processus tels que les tests d’équipe rouge et les avons mesurés, nous avons développé des mesures d’atténuation pour réduire le risque de préjudice. Nous allons continuer à évaluer l’expérience Microsoft Security Copilot pour améliorer les performances et les atténuations des produits. La liste suivante décrit certaines de ces atténuations :

  • Filtrage et garde-fous de contenu dangereux : Security Copilot intègre des garde-fous (filtres de contenu) et des modèles de détection des abus développés par Microsoft dans le cadre de la fondation Azure service OpenAI. Ces modèles de classification neuronale détectent et filtrent le contenu nuisible entre les catégories, notamment la haine, le sexe, la violence et l’automutilation à plusieurs niveaux de gravité. Les modèles de classification facultatifs détectent également les risques de jailbreak, le texte ou le code connu et les attaques par injection d’invite indirecte. Ces contrôles en couches aident à empêcher l’IA de produire des réponses qui enfreignent les normes de sécurité de Microsoft.
  • Conçu pour réduire les actions irréversibles : les scénarios d’agent conçus par Microsoft sont destinés à réduire les actions irréversibles et à garder les utilisateurs dans le contrôle des décisions critiques. Pour les agents personnalisés, les développeurs d’agents peuvent modifier le comportement de l’agent pour s’assurer que les actions irréversibles sont réduites.
  • Conception du système de sécurité : Microsoft a développé un système de sécurité pour Security Copilot conçu pour atténuer les défaillances et empêcher toute mauvaise utilisation, y compris l’annotation de contenu nuisible, la surveillance opérationnelle et d’autres mesures de protection. Les Azure exigences d’atténuation de l’IA responsable du service OpenAI ne s’appliquent pas directement aux clients Security Copilot, car Security Copilot implémente ces atténuations au nom du client.
  • Boucle de commentaires utilisateur : une fois qu’un agent a retourné une réponse, les utilisateurs peuvent fournir des commentaires. En fonction de la configuration, les utilisateurs peuvent également envoyer des commentaires écrits supplémentaires pour fournir un contexte sur leur expérience. Les commentaires envoyés sont collectés et utilisés par Microsoft pour améliorer la qualité des produits, identifier les problèmes et hiérarchiser les améliorations apportées aux expériences Security Copilot.
  • Gouvernance des identités de l’agent et contrôle d’accès en fonction du rôle (RBAC) : chaque agent Security Copilot s’exécute sous une identité managée ou un compte d’utilisateur, ce qui permet à l’administrateur de régir les données à laquelle il a accès. Chaque agent a des contrôles RBAC, et les agents peuvent être davantage limités quant aux données qu’ils traitent. En limitant les autorisations de chaque agent, le système atténue les risques d’exposition de données non autorisées et garantit que toutes les actions automatisées sont auditables et traçables.
  • Chiffrement des données et protection de l’accès : les données client gérées par Security Copilot sont chiffrées en transit et au repos, comme décrit dans l’Addendum sur la protection des données des produits et services Microsoft. Par défaut, aucun utilisateur humain n’a accès à la base de données et l’accès réseau est limité au réseau privé sur lequel l’application Security Copilot est déployée ; si un accès humain est nécessaire (pour la réponse aux incidents), l’accès élevé et l’accès réseau doivent être approuvés par les employés microsoft autorisés. Consultez Conformité.
  • Approche de déploiement par phases : Security Copilot publie des fonctionnalités par le biais d’un programme d’accès anticipé sur invitation uniquement, ce qui permet à Microsoft de recueillir des commentaires et d’affiner les fonctionnalités avant une disponibilité plus large.

Notre approche de la cartographie, de la mesure et de la gestion des risques continue d’évoluer à mesure que nous en apprenons davantage et que nous effectuons des améliorations en fonction des commentaires reçus des clients.

Bonnes pratiques pour le déploiement et l’adoption de Microsoft Security Copilot

L’IA responsable est un engagement partagé entre Microsoft et ses clients. Bien que Microsoft crée des systèmes d’IA avec la sécurité, l’équité et la transparence à la base, les clients jouent un rôle essentiel dans le déploiement et l’utilisation de ces technologies de manière responsable dans leur propre contexte.

Security Copilot agents sont conçus pour augmenter l’expertise humaine, et non pour les remplacer. Les clients restent responsables de l’examen des sorties, de la validation des décisions et de la conformité aux lois, réglementations et stratégies organisationnelles applicables.

Les déploiements et les utilisateurs finaux doivent :

  • Soyez prudent et évaluez les résultats lors de l’utilisation de Security Copilot pour prendre des décisions corrélatives ou dans des domaines sensibles : Les décisions consécutives sont celles qui peuvent avoir un impact juridique ou significatif sur l’accès d’une personne à l’emploi, aux services juridiques, aux soins de santé, ou qui pourraient entraîner un préjudice physique, psychologique ou financier. Les domaines sensibles tels que les services financiers, les soins de santé et le droit nécessitent une attention particulière en raison du risque d’impact disproportionné sur différents groupes de personnes. Lors de l’utilisation de l’IA pour prendre des décisions dans ces domaines, les clients doivent s’assurer que les parties prenantes concernées peuvent comprendre comment les décisions sont prises, faire appel des décisions et mettre à jour toutes les données d’entrée pertinentes.

  • Évaluer les considérations juridiques et réglementaires : les clients doivent évaluer les obligations juridiques et réglementaires spécifiques potentielles lors de l’utilisation de services et de solutions IA, qui peuvent ne pas être appropriés pour une utilisation dans tous les secteurs ou scénarios. En outre, les services ou solutions d’IA ne sont pas conçus pour et ne peuvent pas être utilisés de manière interdite dans les conditions de service applicables et les codes de conduite pertinents.

  • Activer et gérer les plug-ins pertinents : la qualité et la précision des réponses Security Copilot dépendent considérablement des plug-ins activés. Les administrateurs doivent s’assurer que les plug-ins Microsoft et tiers appropriés sont configurés et gérés afin que les utilisateurs reçoivent des réponses contextuellement pertinentes.

Les utilisateurs finaux doivent :

  • Écrire des invites efficaces : l’écriture d’invites claires et spécifiques est essentielle pour obtenir de meilleurs résultats avec Security Copilot. Incluez le contexte pertinent, tel que les ID d’incident, les noms des ressources ou les intervalles de temps. Itérer et régénérer les invites en fonction des besoins, et toujours examiner et vérifier les réponses générées par l’IA. Pour plus d’informations, consultez Demander des conseils pour Security Copilot.

  • Exercer la supervision humaine le cas échéant : la supervision humaine est une protection importante lors de l’interaction avec les systèmes d’IA. Bien que nous améliorions continuellement Security Copilot, les systèmes IA peuvent faire des erreurs. La sortie générée peut être inexacte, incomplète, biaisée ou non entièrement alignée sur vos objectifs prévus en raison de l’ambiguïté des entrées ou des limitations des modèles sous-jacents. Les utilisateurs doivent examiner les réponses générées par Security Copilot et vérifier qu’elles correspondent à leurs attentes et exigences avant de prendre des mesures.

  • Soyez conscient du risque de dépendance excessive : une dépendance excessive à l’égard de l’IA se produit lorsque les utilisateurs acceptent des sorties IA incorrectes ou incomplètes, principalement parce que les erreurs dans les sorties d’IA peuvent être difficiles à détecter. Pour les professionnels de la sécurité, une dépendance excessive peut entraîner des menaces manquées, des conclusions d’incident incorrectes ou des modifications de stratégie basées sur des recommandations erronées. Security Copilot inclut la divulgation de l’IA et cite les documents sources pour aider à atténuer ce risque, mais les utilisateurs doivent toujours vérifier l’exactitude des réponses. Les utilisateurs peuvent passer en revue le mappage des nœuds de l’agent qui fournit une vue d’ensemble des étapes effectuées pendant le flux de travail d’un agent.

  • Soyez prudent lors du déploiement ou de la conception d’une IA agentique dans des domaines sensibles : les utilisateurs doivent implémenter la supervision humaine appropriée lors de la configuration et du déploiement de systèmes d’IA agentiques dans des domaines où les actions de l’agent sont irréversibles ou très conséquentes. Des précautions supplémentaires doivent être prises lors de la création d’une IA agentique autonome, comme décrit dans le Code de conduite microsoft Enterprise AI Services.

Les déployeurs doivent :

  • Configurez soigneusement les autorisations RBAC et agent : les administrateurs sont responsables de la configuration des contrôles d’accès en fonction du rôle pour les utilisateurs et les agents. Les autorisations doivent suivre le principe du privilège minimum. Les agents doivent uniquement avoir accès aux données et aux actions nécessaires pour leur tâche désignée.

  • Surveiller l’utilisation et l’activité de révision : les administrateurs (propriétaires) peuvent utiliser le tableau de bord de surveillance de l’utilisation Security Copilot pour passer en revue les données au niveau de la session, telles que l’utilisation au fil du temps, les initiateurs de session et les plug-ins utilisés pendant les sessions. Cette visibilité permet aux organisations de comprendre comment Security Copilot est utilisé dans les invites, les promptbooks et les agents. Pour plus d’informations, consultez Gérer l’utilisation.

  • Gérer les paramètres de partage de données : les propriétaires peuvent configurer les préférences de partage des données client à tout moment et doivent examiner et mettre à jour ces paramètres conformément aux exigences de confidentialité et de conformité de leurs organization. Pour plus d’informations, consultez Confidentialité et sécurité des données dans Microsoft Security Copilot.

  • Informez les utilisateurs sur les fonctionnalités et les limitations : l’utilisation efficace et responsable des Security Copilot nécessite que les utilisateurs comprennent ce que le système peut et ne peut pas faire. Les déployeurs doivent fournir une formation et des conseils pour aider les utilisateurs à interagir efficacement avec Security Copilot, y compris l’importance de vérifier les sorties générées par l’IA avant de prendre des mesures.

En savoir plus sur les agents Security Copilot

Pour plus d’informations sur l’utilisation responsable des Microsoft Security Copilot, consultez la documentation suivante :

En savoir plus sur l’IA responsable

  • Last updated on