Carte d’application : agents Microsoft Security Copilot

Qu’est-ce qu’une carte d’application ou de plateforme ?

Les cartes d’application et de plateforme Microsoft sont destinées à vous aider à comprendre le fonctionnement de notre technologie d’IA, les choix que les propriétaires d’applications peuvent faire qui influencent les performances et le comportement de l’application, ainsi que l’importance de prendre en compte l’ensemble de l’application, y compris la technologie, les personnes et l’environnement. Les cartes d’application sont créées pour les applications d’IA et les cartes de plateforme sont créées pour les services de plateforme d’IA. Ces ressources peuvent prendre en charge le développement ou le déploiement de vos propres applications et peuvent être partagées avec les utilisateurs ou les parties prenantes concernés par ces ressources.

Dans le cadre de son engagement en faveur d’une IA responsable, Microsoft adhère à six principes fondamentaux : équité, fiabilité et sûreté, respect de la vie privée et sécurité, inclusion, transparence et responsabilité. Ces principes sont intégrés dans le Standard IA responsable, qui guide les équipes dans la conception, la création et le test d’applications d’IA. Les cartes d’application et de plateforme jouent un rôle clé dans l’opérationnalisation de ces principes en offrant une transparence sur les fonctionnalités, les utilisations prévues et les limitations. Pour plus d’informations, les lecteurs sont encouragés à explorer le rapport sur la transparence de l’IA responsable de Microsoft et le code de conduite des services d’IA d’entreprise de Microsoft, qui décrivent comment s’engager de manière responsable avec l’IA.

Vue d’ensemble

Microsoft Security Copilot est une solution de sécurité générative basée sur l’IA qui permet d’accroître l’efficacité et les capacités des défenseurs afin d’améliorer les résultats de sécurité à la vitesse et à l’échelle de la machine. Security Copilot offre une expérience copilote d’assistance en langage naturel qui aide les professionnels de la sécurité et les administrateurs informatiques à gérer un large éventail de scénarios de bout en bout, notamment la réponse aux incidents, le repérage de menaces, la collecte de renseignements et la gestion de la posture.

Security Copilot est conçu dans une optique d’intégration et offre une expérience autonome immersive à https://securitycopilot.microsoft.com. La plateforme s’intègre en toute transparence aux produits du portefeuille de sécurité Microsoft, tels que Microsoft Defender XDR, Microsoft Sentinel, Microsoft Intune, Microsoft Entra et Microsoft Purview, ainsi qu’aux services tiers pris en charge.

Un agent Security Copilot génère des sorties et peut effectuer des actions en fonction de la logique, des autorisations et des déclencheurs configurés définis par le client. Les clients peuvent utiliser des agents autonomes de Security Copilot pour automatiser les workflows de sécurité, accélérer les temps de réponse, hiérarchiser les risques et réduire les charges de travail manuelles, tout en conservant un contrôle total. L’autonomie de l’agent fait référence à la capacité d’un agent à prendre des mesures de manière indépendante dans des limites définies.

Un administrateur (propriétaire de Security Copilot) découvre et déploie les agents via le portail Security Copilot et Security Store, certains agents apparaissant également dans les expériences de produits de sécurité Microsoft incorporés. L’administrateur définit l’identité de l’agent et configure le contrôle d’accès en fonction du rôle (RBAC) pour l’agent.

Les utilisateurs prévus comprennent les analystes SOC, les administrateurs informatiques, les administrateurs de la sécurité des données et des identités, les analystes de conformité et les responsables de la sécurité tels que les responsables de la sécurité des systèmes d’information (CISO).

Security Copilot détient la certification ISO 42001, qui confirme qu’un tiers indépendant a examiné l’application par Microsoft de l’infrastructure et des capacités nécessaires pour gérer efficacement les risques et les opportunités associés au développement, au déploiement et à l’exploitation continus des systèmes Microsoft AI.

Pour plus d’informations, consultez Qu’est-ce que Microsoft Security Copilot ?, les expériences de Microsoft Security Copilot et la carte d’application pour Security Copilot.

Termes clés

Le tableau suivant fournit un glossaire des termes clés relatifs aux agents Microsoft Security Copilot.

Terme Définition
Agent Un agent Security Copilot traite les signaux de l’environnement du client via des sources de données intégrées et des plug-ins, analyse les données et génère des recommandations. Les agents peuvent également effectuer des actions définies dans le cadre des autorisations configurées lorsque vous y êtes invité, ce qui nécessite l’approbation appropriée de l’utilisateur ou de l’administrateur. Les agents peuvent aller de simples expériences d’invite et de réponse à des flux de travail plus automatisés et semi-autonomes avec une supervision humaine.
Action de l’agent Opération exécutée par un agent, telle que la récupération de données, la génération de sorties ou la modification de configurations, en fonction d’autorisations.
Manifeste de l’agent Fichier de configuration qui définit les fonctionnalités, les outils et le comportement d’un agent. Il contrôle le fonctionnement de l’agent dans le Security Copilot et est représenté dans un format de fichier YAML.
Expérience incorporée Accès aux fonctionnalités de Security Copilot à partir d’un autre produit de sécurité Microsoft, tel que Microsoft Defender XDR ou Microsoft Sentinel. Le panneau latéral de voiture Security Copilot présente l’assistance IA directement dans le contexte de ce produit.
Ancrage Processus consistant à fournir des sources d’entrée contextuelles au modèle de langage volumineux lié à l’invite d’un utilisateur. En permettant à Security Copilot d’accéder aux données organisationnelles par le biais de plug-ins et de produits de sécurité Microsoft, Security Copilot peut fournir des réponses plus précises et contextuellement plus pertinentes.
Grand modèle de langage (LLM) Modèles d’IA entraînés sur de grandes quantités de données textuelles pour prédire des mots dans des séquences. Les LLM sont capables d’effectuer diverses tâches telles que la génération de texte, le résumé, la traduction, la classification, etc.
Agent créé par un partenaire Un agent publié par les partenaires Microsoft et mis à disposition via le Security Store pour répondre à des cas d’utilisation spécifiques en matière de sécurité.
Plug-in Collection d’outils connexes qui étend les capacités de Security Copilot en lui donnant accès à des ressources provenant de services Microsoft et non Microsoft et de sites web publics via des API. Les plug-ins ajoutent plus de contexte aux réponses et aux sorties générées par Security Copilot.
Post-traitement Ensemble d’actions effectuées par Security Copilot pour affiner et préparer la réponse LLM avant de la renvoyer à l’utilisateur. Ce post-traitement inclut des appels d’ancrage supplémentaires par le biais de plug-ins, de vérifications d’IA responsable, de vérifications de sécurité, de conformité et de confidentialité.
Invite Texte en langage naturel qu’un utilisateur envoie à Security Copilot pour exécuter une tâche spécifique ou obtenir des informations. Par exemple, résumez cet incident et suggérez des étapes de correction.
Livre de prompts Série d’invites qui s’exécutent en séquence, en s’appuyant sur les réponses précédentes, pour accomplir des tâches de sécurité spécifiques. Les livres de requêtes peuvent être utilisés à partir de la bibliothèque ou créés et partagés par les utilisateurs.
Tests de l’équipe rouge Techniques utilisées par les experts pour évaluer les limites et les vulnérabilités d’un système et pour tester l’efficacité des mesures d’atténuation prévues. Les tests de l’équipe rouge sont utilisés pour identifier les risques potentiels et sont distincts de la mesure systématique des risques.
IA responsable La politique, la recherche et les pratiques d’ingénierie de Microsoft qui sont fondées sur ses principes d’IA et opérationnalisées par le biais de la norme IA responsable. Pour plus d’informations, consultez les instructions Fluent RAI.
Unité de calcul de sécurité (SCU) Les SCU sont les unités de capacité de calcul utilisées pour exécuter les charges de travail de Security Copilot et fournir des performances cohérentes dans toutes les expériences. La capacité de Security Copilot est mesurée en SCU et peut être consommée par le biais de modèles de capacité provisionnés ou excédentaires. Pour plus d’informations, consultez Comprendre les SCU.
Centre des opérations de sécurité (SOC) Une équipe ou une installation de sécurité dédiée à la surveillance, à l’analyse et à la réponse continues aux incidents de cybersécurité au sein d’une organisation. Les analystes SOC sont parmi les principaux utilisateurs prévus de Security Copilot.
Expérience autonome L’expérience immersive du portail Security Copilot accessible directement sur https://securitycopilot.microsoft.com.
Tenant Limite organisationnelle dans Microsoft Entra ID qui isole l’identité, l’accès et les données pour Security Copilot. Le client régit tous les espaces de travail, les utilisateurs et les interactions par le biais d’autorisations et de contrôles de sécurité au niveau du locataire.
Déclencher Événement ou condition qui indique à un agent de commencer à exécuter son flux de travail. Les déclencheurs peuvent être basés sur le temps (par exemple, un planning hebdomadaire pour l’agent d’information sur les menaces) ou manuels (exécutés à la demande par un utilisateur ou un administrateur). Le déclencheur est configuré pendant la configuration de l’agent.

Fonctionnalités ou capacités clés

Les principales caractéristiques et capacités du tableau suivant décrivent ce pour quoi Microsoft Security Copilot est conçu et comment il fonctionne dans les tâches prises en charge.

Fonctionnalité ou capacité Description
Examen des incidents et réponse Security Copilot aide les professionnels de la sécurité à trier et à enquêter sur les incidents en générant des résumés d’alertes de sécurité complexes, en corrélant les signaux entre Microsoft Defender XDR, Microsoft Sentinel et d’autres produits intégrés, et en fournissant des conseils de correction étape par étape.
Threat Intelligence Security Copilot peut effectuer des recherches dans les articles et profils de renseignement sur les menaces de Microsoft Defender, les rapports d’analyse des menaces et les publications de divulgation de vulnérabilités pour faire apparaître des informations pertinentes alignées sur une invite.
Triage des alertes de sécurité Security Copilot inclut l’agent de tri des alertes de sécurité pour aider les équipes de sécurité à trier les alertes à grande échelle en identifiant les attaques réelles et les faux positifs, ce qui permet aux analystes de se concentrer sur l’enquête sur les menaces réelles avec un raisonnement transparent et étape par étape pour soutenir chaque décision.
Analyse de script et génération de requêtes KQL Security Copilot peut analyser des scripts ou des programmes malveillants suspects et traduire le langage naturel en requêtes KQL, ce qui permet aux membres de l’équipe de tous niveaux d’effectuer des tâches de repérage et d’analyse technique avancées.
Gestion de la posture de sécurité Security Copilot aide les utilisateurs à comprendre les risques prioritaires dans leur environnement et à identifier les opportunités d’amélioration de la posture grâce à l’intégration avec Microsoft Defender XDR, Microsoft Entra et Microsoft Intune.
Création et gestion des stratégies de sécurité Les utilisateurs peuvent définir de nouvelles stratégies, les comparer aux stratégies existantes en cas de conflit et résumer les stratégies en langage simple pour gérer un contexte organisationnel complexe.
Rapports des parties prenantes Security Copilot peut générer des rapports qui résument le contexte, les problèmes en suspens et les mesures de protection adaptées au public visé, tel que les cadres ou les équipes de sécurité.
Séquence de requêtes Les livres de requêtes sont des séquences d’invites qui s’exécutent afin d’accomplir des tâches de sécurité spécifiques. Les utilisateurs peuvent exécuter des livres de requêtes à partir d’une bibliothèque partagée ou créer et partager leurs propres livres.
Agents Security Copilot prend en charge les agents qui automatisent et assistent les tâches de sécurité et d’opérations informatiques dans le cadre des autorisations accordées par les administrateurs. Un agent effectue des actions par le biais d’identités configurées, de contrôles d’accès et de déclencheurs, et fonctionne avec une supervision humaine dans le cadre des workflows de sécurité.
Les agents Microsoft couvrent le portefeuille de produits de sécurité, couvrant les opérations SOC, le repérage de menaces, le renseignement sur les menaces, la gestion des identités, la gestion des points de terminaison et la sécurité des données. Les administrateurs configurent l’identité, les autorisations et le déclencheur de chaque agent lors de l’installation. Les utilisateurs peuvent examiner les déclencheurs, l’accès aux données, l’identité et les autorisations d’action d’un agent (telles que la lecture ou l’écriture) pour comprendre comment l’agent fonctionne dans son étendue définie. Pour plus d’informations sur des agents spécifiques et leurs cas d’utilisation, voir Utilisations prévues.
Prise en charge multilingue Security Copilot prend en charge les invites et les réponses dans plusieurs langues. Pour plus d’informations, consultez Langues prises en charge.

Security Copilot est une solution de sécurité basée sur l’IA qui fonctionne à la fois de manière assistée et comme un système agentique autonome. Pour comprendre l’autonomie de l’agent, il faut prendre en compte les éléments suivants :

  • Déclencheurs d’activation : quelles conditions ou actions de l’utilisateur provoquent l’exécution de l’agent
  • Autorisations d’accès : quelles données, systèmes ou ressources l’agent peut utiliser
  • Droits d’action : les actions que l’agent est autorisé à effectuer de son propre chef

Les sections suivantes décrivent les capacités agentiques de base qui sous-tendent la façon dont les agents raisonnent, planifient, se souviennent, s’adaptent et étendent leur portée.

Raisonnement

Les agents de Security Copilot utilisent le modèle de langage volumineux sous-jacent pour analyser le contexte disponible, évaluer les signaux et déterminer la marche à suivre la plus appropriée. Par exemple, l’agent de tri par hameçonnage évalue le contenu des e-mails, la réputation de l’expéditeur et les signaux comportementaux pour produire un verdict de classification avec une justification en langage naturel. Les agents exposent leur raisonnement de manière transparente afin que les analystes puissent examiner, valider ou remplacer les conclusions avant d’agir en conséquence.

Planification

Les agents fonctionnent contre des déclencheurs définis qui ordonnent au système agentique d’initier une séquence structurée d’actions vers un objectif. Les agents peuvent être configurés pour :

  • s’exécutent automatiquement selon une planification (par exemple, l’agent Threat Intelligence Briefing s’exécute tous les sept jours).
  • Exécutez manuellement à la demande si nécessaire.

Cette conception donne aux agents un modèle d’exécution orienté vers un objectif où le système analyse quand et comment agir pour accomplir sa tâche.

Mémoire

Les agents de Security Copilot peuvent conserver des informations au fil du temps, appelées mémoire. La mémoire permet à un agent d’incorporer les entrées passées dans son comportement futur, en fonction de la façon dont l’agent est conçu et configuré.

La mémoire peut inclure les commentaires fournis par les utilisateurs. Les agents peuvent utiliser ces commentaires pour ajuster leurs réponses ou actions lors des interactions suivantes.

Adaptabilité

Les agents de Security Copilot sont conçus pour s’adapter en fonction des commentaires des utilisateurs et du contexte opérationnel, tout en continuant à fonctionner dans le périmètre défini par leur identité, leurs autorisations et leurs déclencheurs configurés.

  • Boucle de rétroaction : les propriétaires et contributeurs de Security Copilot peuvent fournir des commentaires sur les réponses d’un agent. Ces commentaires sont stockés dans la mémoire de l’agent et peuvent influencer les sorties futures, en fonction de la conception et de la configuration de l’agent.
  • Ancrage contextuel : pendant le traitement des invites, Security Copilot enrichit les invites à l’aide de l’ancrage. Ce processus intègre les données organisationnelles pertinentes, les plug-ins activés et les renseignements sur les menaces afin que les réponses reflètent le contexte actuel.
  • Identité et autorisations configurables : les agents peuvent être mis à jour après la configuration pour modifier l’identité, les déclencheurs et les paramètres. Cela permet aux agents de s’aligner sur l’évolution des flux de travail et des exigences.

Extensibilité

  • Plug-ins : les agents utilisent des plug-ins pour accéder aux services externes via des API, notamment les recherches de réputation, les renseignements sur les menaces et les données de point de terminaison. Les plug-ins créés par Microsoft et par des partenaires sont pris en charge. Pour plus d’informations, voir Présentation des plug-ins.
  • Connecteurs : les connecteurs Logic Apps et Copilot Studio encapsulent l’API Security Copilot, permettant aux développeurs et aux utilisateurs d’appeler la plateforme à partir de flux de travail d’automatisation externes. Pour plus d’informations, voir Présentation des connecteurs.
  • Agents personnalisés : les développeurs peuvent créer des agents personnalisés adaptés à des cas d’utilisation spécifiques et les ajouter à l’écosystème Security Copilot via la plateforme de développement. Pour plus d’informations, voir Développer des agents personnalisés.
  • Security Store : les agents Microsoft et partenaires prédéfinis peuvent être découverts et déployés à partir de la bibliothèque d’agents intégrée et du Security Store.
  • Expériences incorporées : les agents fonctionnent non seulement dans le portail autonome Security Copilot, mais sont également intégrés dans l’écosystème de sécurité Microsoft plus large, y compris Microsoft Defender XDR, Microsoft Sentinel, Microsoft Intune, Microsoft Entra et Microsoft Purview.

Utilisations prévues

Les agents Microsoft Security Copilot sont conçus pour les professionnels de la sécurité et les administrateurs informatiques afin de prendre en charge les flux de travail de sécurité, tels que la collecte et la corrélation des renseignements. Les agents peuvent fonctionner avec des autorisations définies par l’administrateur et contribuer à rationaliser des tâches qui pourraient autrement nécessiter un effort manuel important, tout en gardant le contrôle humain. Voici quelques exemples de cas d’utilisation d’agent prévu :

  • Briefing sur les menaces : L’agent Threat Intelligence Briefing génère des rapports détaillés et en temps opportun sur les renseignements sur les menaces en mettant en corrélation les données de Microsoft Defender Threat Intelligence, Defender External Attack Surface Management (GSAE) et le contexte client en temps réel. Les analystes de sécurité peuvent utiliser cet agent pour remplacer des heures ou des jours de collecte manuelle de renseignements et de corrélation avec un rapport généré en quelques minutes.

  • Analyse des données de sécurité (Microsoft Defender XDR) : l’agent Security Analyst permet aux analystes de sécurité d’identifier, d’évaluer et de hiérarchiser rapidement les risques sur de grands volumes de données de sécurité. L’agent effectue à la fois des tâches d’analyse de base telles que l’analyse de modèles, l’analyse de tendance et la visualisation, et des tâches avancées telles que la détection d’anomalies, le clustering, l’évaluation des risques et la modélisation prédictive. Il intègre les données de Microsoft Defender XDR, de Microsoft Sentinel Log Analytics, de Microsoft Sentinel lac de données et des fichiers CSV chargés, générant des insights hiérarchisés avec une trace complète des preuves dans une expérience de conversation interactive et sans code.

  • Opérations de sécurité et réponse aux incidents (Microsoft Defender XDR) :

    • L’agent de tri du phishing évalue les e-mails de phishing signalés par les utilisateurs au fur et à mesure de leur envoi, classe les verdicts avec un raisonnement transparent et intègre les commentaires des analystes au fil du temps.
    • L’agent de détection dynamique des menaces s’exécute en continu en arrière-plan pour découvrir les menaces cachées et les lacunes dans les environnements Defender et Microsoft Sentinel en mettant en corrélation les alertes, les événements, les anomalies et les renseignements sur les menaces.

  • Repérage de menaces (Microsoft Defender XDR) : l’Assistant Repérage de menaces permet le repérage de menaces de bout en bout à l’aide du langage naturel. Il génère des requêtes KQL, interprète les résultats, expose des insights et guide les analystes à travers des sessions de chasse complètes pour trouver les menaces plus rapidement et avec plus de confiance.

  • Gestion des identités et des accès (Microsoft Entra) :

    • L’agent d’optimisation de l’accès conditionnel analyse les stratégies d’accès conditionnel et recommande des améliorations basées sur les meilleures pratiques Microsoft et les principes de la confiance nulle.
    • L’agent de gestion des risques liés aux identités aide les administrateurs d’identité à examiner les risques potentiels et à prendre des mesures pour protéger les ressources critiques.

  • Gestion des points de terminaison (Microsoft Intune) :

    • L’agent de correction de vulnérabilités utilise les données Defender pour surveiller les vulnérabilités et hiérarchiser les corrections avec des évaluations des risques pilotées par l’IA.
    • L’agent de configuration de stratégie permet aux administrateurs d’importer des documents ou de rédiger des instructions en langage brut pour rechercher les paramètres correspondants dans le catalogue de paramètres Intune et créer des stratégies.
    • L’Agent de révision des modifications évalue l’effet des demandes d’approbation dans Intune et formule des recommandations sur les actions que les administrateurs peuvent prendre.

  • Examen de sécurité des données (Microsoft Purview) :

    • L’agent de tri dans Gestion du risque interne évalue les alertes en fonction du risque utilisateur, de fichier et d’activité, en les triant automatiquement par catégories prioritaires pour aider les équipes de sécurité à se concentrer sur les cas les plus à risque.
    • L’agent de tri Purview dans Data Loss Prevention évalue les alertes DLP en fonction du risque de sensibilité, du risque d’exfiltration et du risque de stratégie, aidant ainsi les administrateurs de la sécurité des données à agir sur les incidents les plus critiques.

  • Workflows agentiques personnalisés : les développeurs peuvent créer et déployer des agents personnalisés à l’aide du traitement en langage naturel, du chargement du manifeste de l’agent ou de l’utilisation d’outils MCP adaptés aux cas d’utilisation de la sécurité spécifiques de leur organization, en étendant les fonctionnalités des agents par le biais de plug-ins et de connecteurs vers des services Microsoft et non-Microsoft. Pour plus d’informations, consultez Agents personnalisés.

    Vous pouvez également créer un agent de conversation interactif lorsque les agents et les utilisateurs doivent collaborer pour une expérience guidée afin de résoudre un problème. Pour plus d’informations, voir Agent interactif.

Modèles et données d’entraînement

Microsoft Security Copilot utilise les grands modèles de langage (LLM) Azure OpenAI de Foundry Models vendus par Azure pour alimenter les expériences en langage naturel. Ces modèles ne sont pas entraînés sur les données client de Security Copilot. Les fonctionnalités du modèle varient en termes de raisonnement, de vitesse, de limitations et de scénarios pris en charge.

Security Copilot intègre également des connaissances et un contexte spécifiques à la sécurité par le biais de plug-ins et d’ancrage, qui fournissent au LLM des données organisationnelles pertinentes, des renseignements sur les menaces et du contenu faisant autorité au moment de l’inférence plutôt que par le biais de l’entraînement du modèle.

Performances

Security Copilot est conçu pour fonctionner dans des environnements de sécurité d’entreprise où de grands volumes de signaux de sécurité en temps réel sont générés sur les produits de sécurité Microsoft et d’autres sources de données configurées par l’organisation. Il intègre les signaux de ces sources, combinant le traitement en temps réel de données de journaux structurées avec un raisonnement d’investigation. Ces fonctionnalités sont conçues pour permettre de détecter, d’analyser et de retracer la source et l’impact des incidents de sécurité sur plusieurs sources de données.

Security Copilot s’exécute sur l’infrastructure hyperscale de Microsoft et une couche d’orchestration spécifique à la sécurité, qui sont destinées à prendre en charge des performances évolutives et résilientes dans des scénarios de détection et d’investigation de menaces répétées.

Les agents étendent la capacité de Security Copilot à agir sur les signaux de sécurité en exécutant des tâches de sécurité définies via des autorisations configurées par l’administrateur. Les agents raisonnent sur les signaux disponibles, planifient et exécutent des actions structurées et produisent des résultats tels que des décisions de triage, des rapports de renseignement et des conseils de correction fondés sur des données organisationnelles et de renseignement sur les menaces en temps réel. L’exécution de l’agent est transparente grâce à des mappages de nœuds étape par étape, ce qui permet aux analystes d’examiner les étapes générées (et non un résumé approfondi des actions spécifiques prises à chaque nœud) et de valider les résultats entre les exécutions.

La fiabilité des performances est également prise en charge par des agents préconfigurés générés par Microsoft, qui sont testés par rapport à des flux de travail représentatifs, et des agents personnalisés, où un fichier manifeste YAML peut aider à promouvoir un comportement plus cohérent en spécifiant des fonctionnalités, des outils, des déclencheurs et des limites opérationnelles. Lorsque les instructions manifestes sont clairement définies, l’agent peut être mieux à même d’interpréter sa tâche, de sélectionner les actions appropriées et d’opérer dans le cadre prévu. Pour plus d’informations, consultez Agents personnalisés.

Pour les agents interactifs, les performances sont principalement façonnées par l’échange itératif entre l’agent et l’utilisateur. L’agent produit une réponse initiale et l’utilisateur affine le contexte par le biais d’invites de suivi en fonction de ce que l’agent fait apparaître. Cette interaction de va-et-vient permet à l’utilisateur de guider progressivement l’agent vers des résultats plus précis et ciblés qu’une seule exécution autonome ne produirait. Pour plus d’informations, voir Agents interactifs.

Limitations

Il est important de comprendre les limites de Security Copilot pour s’assurer qu’il est utilisé dans des limites sûres et efficaces. Bien que les clients soient encouragés à utiliser Security Copilot dans leurs workflows de sécurité, il est important de noter que Security Copilot n’a pas été conçu pour tous les scénarios possibles. Reportez-vous au Code de conduite des services d’IA d’entreprise Microsoft ainsi qu’aux considérations suivantes lors du choix d’un cas d’utilisation :

  • Status de la préversion publique : certains agents sont en préversion publique et peuvent être considérablement modifiés avant la disponibilité générale. Microsoft n’offre aucune garantie, expresse ou implicite, concernant ces fonctionnalités. Comme pour toute sortie d’IA, les clients doivent examiner la prise de décision de l’agent avant d’agir sur ses sorties.
  • Précision et exhaustivité : comme toute technologie basée sur l’IA, Security Copilot ne fait pas tout correctement. Les réponses peuvent être inexactes, incomplètes ou obsolètes, en particulier si les plug-ins appropriés ne sont pas activés ou si les données les plus récentes ne sont pas disponibles via l’entrée utilisateur ou le contexte organisationnel. Les utilisateurs doivent toujours faire preuve de jugement humain et vérifier les résultats critiques plutôt que de se fier uniquement aux réponses générées par l’IA.
  • Étendue spécifique au domaine : Security Copilot est conçu pour répondre aux invites liées au domaine de la sécurité, telles que l’enquête sur les incidents et la veille sur les menaces. Les requêtes qui ne relèvent pas du cadre de sécurité peuvent entraîner des réponses qui manquent de précision et d’exhaustivité.
  • Génération de script et de code : Security Copilot peut générer du code ou inclure du code dans les réponses. Les réponses peuvent sembler valides, mais peuvent ne pas être correctes sur le plan sémantique ou syntaxique, ou ne pas refléter fidèlement l’intention du demandeur. Le code généré ne doit pas être déployé dans des environnements de production sans procédures de validation, de test et de révision appropriées. Les utilisateurs doivent également vérifier que tous les paramètres utilisés par le code généré correspondent à la requête d’origine. Par exemple, si un agent opère sur des alertes dans un intervalle de temps spécifique, vérifiez que l’intervalle de temps dans le code généré correspond à l’intervalle de temps spécifié dans l’invite en langage naturel.
  • Contraintes de longueur d’invite : le système peut ne pas être en mesure de traiter de longues invites, telles que celles contenant des centaines de milliers de caractères. Le LLM sous-jacent a une limite de jeton, et les requêtes trop détaillées ou les sessions étendues peuvent déborder de l’espace de jeton. Lorsque ce scénario se produit, Security Copilot tente d’appliquer des atténuations pour s’assurer qu’une sortie est toujours disponible, même si le contenu n’est pas optimal ; toutefois, ces atténuations ne sont pas toujours efficaces et il peut être nécessaire d’essayer une autre invite ou un autre plug-in.
  • Limites d’utilisation et latence : L’utilisation de la plateforme peut être soumise à des limites d’utilisation ou à une limitation de capacité. La génération de réponses, y compris les appels d’API via des plug-ins et la vérification des réponses avant de les afficher, peut prendre du temps et nécessiter une capacité GPU élevée. Les organisations doivent surveiller leur consommation de SCU et ajuster la capacité allouée en fonction des besoins pour éviter les interruptions de service inattendues.
  • Biais, stéréotypes et contenu non fondé : malgré la mise en œuvre de contrôles d’IA responsables sur les invites des utilisateurs et les résultats du LLM, les services d’IA sont faillibles et probabilistes. Il est donc difficile de bloquer complètement tout contenu inapproprié, ce qui peut entraîner des préjugés, des stéréotypes ou du contenu non fondé dans la sortie générée par l’IA.
  • Secteur public et Microsoft souverain Cloud/privé : Security Copilot n’est pas pris en charge dans ces environnements pour le moment.
  • Limites d’agent spécifiques à la tâche : les agents conviennent uniquement à la tâche spécifique pour laquelle ils sont conçus. Pour plus d’informations, consultez la section Cas d’utilisation prévus . Ils ne conviennent à aucune autre tâche et ne doivent pas être réaffectés au-delà de leur champ d’application défini.
  • Détails de la carte de nœuds : La carte de nœuds de l’agent fournit une vue de haut niveau des étapes effectuées au cours d’un workflow d’agent. Chaque nœud représente une étape du processus et affiche le titre de la compétence utilisée, ainsi que des métadonnées de base telles que le status d’achèvement, la durée et l’horodatage. Le mappage de nœuds est conçu pour afficher la séquence d’actions, mais il ne fournit pas d’informations détaillées sur les opérations spécifiques ou les décisions prises au cours de chaque étape. Étant donné que le mappage de nœuds ne présente que des informations récapitulatives, il se peut qu’il ne saisisse pas entièrement le contexte ou la complexité de chaque action.
  • Commentaires de l’agent et transparence de la mémoire : lorsque les utilisateurs envoient des commentaires à un agent pour le stockage en mémoire, l’agent ne fournit pas de résumé de son interprétation des commentaires. Pour améliorer la précision des résultats futurs, les utilisateurs doivent fournir des commentaires clairs, concis et spécifiques. Les commentaires envoyés à un agent peuvent être stockés et utilisés pour influencer les résultats futurs. Toutefois, la visibilité de ces commentaires stockés peut varier en fonction de l’expérience de l’agent et du rôle de l’utilisateur. Pour plus d’informations, consultez Fournir des commentaires.

Évaluations

Les évaluations des performances et de la sécurité évaluent si les applications d’IA fonctionnent de manière fiable et sécurisée en examinant des facteurs tels que l’ancrage, la pertinence et la cohérence tout en identifiant les risques de génération de contenu préjudiciable. Les évaluations suivantes ont été menées avec des éléments de sécurité déjà en place, qui sont également décrits dans les composants de sécurité et les mesures d’atténuation.

Données d’évaluation de la qualité et de la sécurité

Nos données d’évaluation sont personnalisées pour évaluer les performances des applications d’IA dans les domaines clés de la sécurité et de la qualité, en simulant des scénarios et des risques réels. Nous commençons par identifier les aspects d’évaluation pertinents en fonction de la recherche multidisciplinaire et des commentaires d’experts. Ces préoccupations se traduisent par des objectifs d’évaluation ciblés et guident la formulation des paramètres d’évaluation.

Pour des raisons de sécurité, nous créons des invites contradictoires pour susciter des réponses indésirables ou des cas limites, qui sont ensuite notées à l’aide d’annotateurs assistés par l’IA formés pour évaluer l’alignement sur les normes de sécurité de Microsoft. Pour la qualité, nous créons des invites basées sur des rubriques pertinentes pour des scénarios tels que l’évaluation des applications et des agents de génération augmentée par récupération (RAG).

Les ensembles de données sont organisés à partir de diverses sources, y compris des ensembles de données synthétiques et publics, pour simuler des scénarios d’utilisation réels. À l’aide des ensembles de données organisés, les deux évaluations subissent un raffinement itératif et un alignement humain pour améliorer l’efficacité et la fiabilité des métriques. Cette méthodologie constitue la base d’évaluations reproductibles et rigoureuses qui reflètent la façon dont les clients utilisent les évaluations pour créer une IA meilleure et plus sûre.

Évaluations personnalisées

Des évaluations personnalisées ont été effectuées pour valider les performances du modèle dans des scénarios d’ancrage, de robustesse antagoniste et de contenu nuisible à l’aide de tests de régression, d’ensembles de données d’invite organisés et d’exemples alignés sur la production. L’évaluation a comparé les résultats entre les modèles GPT, en utilisant des outils internes pour évaluer l’ancrage et le filtrage de contenu Azure OpenAI pour valider les protections contre le jailbreak, l’injection rapide et les violations de la propriété intellectuelle. Les résultats montrent des performances constantes ou améliorées, y compris des taux de protection élevés dans tous les scénarios adverses et une précision de mise à la terre améliorée.

La gestion des contenus nuisibles reste cohérente entre les modèles et fonctionne en mode annotation pour prendre en charge les cas d’utilisation axés sur la sécurité, avec des tests supplémentaires à grande échelle confirmant des taux de protection élevés dans toutes les catégories. Des tests de régression sont effectués pour vérifier que le contenu, qui n’est pas nuisible, n’est pas classé comme dangereux.

Les agents de Security Copilot ont été évalués par son équipe produit et de recherche avec des cas d’utilisation et des suggestions de conception des clients. La sécurité du système d’agents a également été évaluée par le biais d’un exercice dédié à l’équipe rouge. Microsoft a également effectué des tests d’intrusion sur le service Security Copilot pour valider la protection contre les accès non autorisés.

Maintenant que Security Copilot est publié, les commentaires des utilisateurs sont essentiels pour aider Microsoft à améliorer le système. Les utilisateurs ont la possibilité de fournir des commentaires sur la réponse de l’agent à partir de Security Copilot. Ces commentaires sont directement transmis à Microsoft et sont utilisés pour améliorer les performances de la plateforme par le biais d’un perfectionnement itératif continu. Pour plus d’informations, consultez Fournir des commentaires.

Composants de sécurité et atténuations

Lorsque nous avons identifié les risques potentiels et les abus grâce à des processus tels que les tests de l’équipe rouge et que nous les avons mesurés, nous avons développé des mesures d’atténuation pour réduire le potentiel de préjudice. Nous continuerons à évaluer l’expérience Microsoft Security Copilot pour améliorer les performances et les atténuations du produit. La liste suivante décrit certaines de ces atténuations :

  • Filtrage de contenu nuisible et garde-fous : Security Copilot intègre les garde-fous (filtres de contenu) et les modèles de détection des abus développés par Microsoft dans le cadre de la fondation Azure OpenAI Service. Ces modèles de classification neuronale détectent et filtrent les contenus préjudiciables dans des catégories telles que la haine, le sexe, la violence et l’automutilation à plusieurs niveaux de gravité. Les modèles de classification facultatifs détectent également les risques de jailbreak, les textes ou les codes connus et les attaques par injection d’invite indirecte. Ces contrôles en couches permettent d’empêcher l’IA de produire des réponses qui violent les normes de sécurité de Microsoft.
  • Conçu pour minimiser les actions irréversibles : les scénarios d’agent conçus par Microsoft sont conçus pour minimiser les actions irréversibles et permettre aux utilisateurs de contrôler les décisions critiques. Pour les agents personnalisés, les développeurs d’agents non conçus par Microsoft peuvent modifier le comportement de l’agent afin de réduire les actions irréversibles.
  • Conception du système de sécurité : Microsoft a développé un système de sécurité pour Security Copilot conçu pour atténuer les défaillances et empêcher les abus, y compris l’annotation de contenu nuisible, la surveillance opérationnelle et d’autres garanties. Les exigences d’atténuation de l’IA responsable du service Azure OpenAI ne s’appliquent pas directement aux clients de Security Copilot, car Security Copilot implémente ces atténuations pour le compte du client.
  • Boucle de rétroaction utilisateur : une fois qu’un agent a renvoyé une réponse, les utilisateurs peuvent fournir des commentaires. Selon la configuration, les utilisateurs peuvent également envoyer des commentaires écrits supplémentaires pour fournir un contexte sur leur expérience. Les commentaires envoyés sont collectés et utilisés par Microsoft pour améliorer la qualité des produits, identifier les problèmes et hiérarchiser les améliorations apportées aux expériences Security Copilot.
  • Gouvernance des identités des agents et contrôle d’accès en fonction du rôle (RBAC) : chaque agent Security Copilot s’exécute sous une identité gérée ou un compte d’utilisateur, ce qui permet à l’administrateur de régir les données auxquelles il a accès. Chaque agent dispose de contrôles RBAC, et les agents peuvent être limités quant aux données qu’ils traitent. En limitant les autorisations de chaque agent, le système atténue les risques d’exposition non autorisée des données et garantit que toutes les actions automatisées sont auditables et traçables.
  • Chiffrement des données et protection de l’accès : les données client gérées par Security Copilot sont chiffrées en transit et au repos, comme décrit dans l’Addendum à la protection des données des produits et services Microsoft. Par défaut, aucun utilisateur humain n’a accès à la base de données et l’accès réseau est limité au réseau privé où l’application Security Copilot est déployée ; si un accès humain est nécessaire (pour la réponse aux incidents), l’accès de niveau élevé et l’accès au réseau doivent être approuvés par les employés autorisés de Microsoft. Voir Conformité.
  • Approche de déploiement par phases : Security Copilot publie des fonctionnalités via un programme d’accès anticipé sur invitation uniquement, ce qui permet à Microsoft de recueillir des commentaires et d’affiner les fonctionnalités avant une disponibilité plus large.

Notre approche de la cartographie, de la mesure et de la gestion des risques continue d’évoluer à mesure que nous en apprenons davantage et que nous apportons des améliorations en fonction des commentaires reçus des clients.

Meilleures pratiques pour le déploiement et l’adoption de Microsoft Security Copilot

L’IA responsable est un engagement partagé entre Microsoft et ses clients. Bien que Microsoft crée des systèmes d’IA axés sur la sécurité, l’équité et la transparence, les clients jouent un rôle essentiel dans le déploiement et l’utilisation responsables de ces technologies dans leur propre contexte.

Les agents de Security Copilot sont conçus pour augmenter l’expertise humaine, et non pour remplacer. Les clients restent responsables de l’examen des résultats, de la validation des décisions et de la conformité aux lois, réglementations et stratégies organisationnelles applicables.

Les dispositifs de déploiement et les utilisateurs finaux doivent :

  • Faites preuve de prudence et évaluez les résultats lors de l’utilisation de Security Copilot pour des décisions importantes ou dans des domaines sensibles : Les décisions consécutives sont celles qui peuvent avoir un impact juridique ou significatif sur l’accès d’une personne à l’emploi, aux services juridiques, aux soins de santé, ou qui peuvent entraîner des dommages physiques, psychologiques ou financiers. Les domaines sensibles tels que les services financiers, la santé et le droit nécessitent une attention particulière en raison du potentiel d’impact disproportionné sur différents groupes de personnes. Lorsqu’ils utilisent l’IA pour prendre des décisions dans ces domaines, les clients doivent s’assurer que les parties prenantes concernées peuvent comprendre comment les décisions sont prises, faire appel des décisions et mettre à jour les données d’entrée pertinentes.

  • Évaluer les considérations juridiques et réglementaires : les clients doivent évaluer les obligations légales et réglementaires spécifiques potentielles lors de l’utilisation de services et de solutions d’IA, qui peuvent ne pas être appropriés pour une utilisation dans tous les secteurs ou scénarios. En outre, les services ou solutions d’IA ne sont pas conçus et ne peuvent pas être utilisés d’une manière interdite dans les conditions de service applicables et les codes de conduite pertinents.

  • Activer et gérer des plug-ins pertinents : la qualité et la précision des réponses de Security Copilot dépendent considérablement des plug-ins activés. Les administrateurs doivent vérifier que les plug-ins Microsoft et tiers appropriés sont configurés et maintenus afin que les utilisateurs reçoivent des réponses adaptées au contexte.

L’utilisateur final doit :

  • Rédiger des invites efficaces : l’écriture d’invites claires et spécifiques est essentielle pour obtenir de meilleurs résultats avec Security Copilot. Incluez le contexte pertinent tel que les ID d’incident, les noms de biens ou les plages de temps. Itérez et régénérez les invites en fonction des besoins, et examinez et vérifiez toujours les réponses générées par l’IA. Pour plus d’informations, consultez Demander des conseils pour Security Copilot.

  • Exercez une surveillance humaine le cas échéant : la surveillance humaine est une garantie importante lors de l’interaction avec les systèmes d’IA. Alors que nous améliorons continuellement Security Copilot, les systèmes d’IA peuvent faire des erreurs. La sortie générée peut être inexacte, incomplète, biaisée ou pas entièrement alignée sur vos objectifs prévus en raison de l’ambiguïté des entrées ou des limitations des modèles sous-jacents. Les utilisateurs doivent examiner les réponses générées par Security Copilot et vérifier qu’elles correspondent à leurs attentes et exigences avant d’agir.

  • Soyez conscient du risque de dépendance excessive : une dépendance excessive à l’IA se produit lorsque les utilisateurs acceptent des sorties d’IA incorrectes ou incomplètes, principalement parce que les erreurs dans les sorties d’IA peuvent être difficiles à détecter. Pour les professionnels de la sécurité, une confiance excessive peut entraîner des menaces manquées, des conclusions d’incident incorrectes ou des changements de stratégie basés sur des recommandations erronées. Security Copilot inclut la divulgation d’IA et cite des documents sources pour aider à atténuer ce risque, mais les utilisateurs doivent toujours veiller à vérifier l’exactitude des réponses. Les utilisateurs peuvent consulter la carte de nœuds de l’agent qui fournit une vue d’ensemble des étapes effectuées pendant le flux de travail d’un agent.

  • Faites preuve de prudence lors du déploiement ou de la conception de l’IA agentique dans des domaines sensibles : les utilisateurs doivent mettre en œuvre une surveillance humaine appropriée, lors de la configuration et du déploiement de systèmes d’IA auxiliaire dans des domaines où les actions des agents sont irréversibles ou très importantes. Des précautions supplémentaires doivent être prises lors de la création d’une IA agentique autonome, comme décrit dans le Code de conduite des services d’IA d’entreprise Microsoft.

Les dispositifs de déploiement doivent :

  • Configurez soigneusement le RBAC et les autorisations d’agent : Les administrateurs sont chargés de configurer les contrôles d’accès basés sur les rôles pour les utilisateurs et les agents. Les autorisations doivent suivre le principe du moindre privilège. Les agents ne doivent avoir accès qu’aux données et aux actions nécessaires à la tâche qui leur est assignée.

  • Surveiller l’utilisation et examiner l’activité : les administrateurs (propriétaires) peuvent utiliser le tableau de bord de surveillance de l’utilisation de Security Copilot pour examiner les données au niveau des sessions, telles que l’utilisation au fil du temps, les initiateurs de session et les plug-ins utilisés pendant les sessions. Cette visibilité aide les organisations à comprendre comment Security Copilot est utilisé dans les invites, les livrets d’invites et les agents. Pour plus d’informations, consultez Gérer l’utilisation.

  • Gérer les paramètres de partage des données : les propriétaires peuvent configurer les préférences de partage des données client à tout moment et doivent examiner et mettre à jour ces paramètres conformément aux exigences de confidentialité et de conformité de leur organisation. Pour plus d’informations, consultez Confidentialité et sécurité des données dans Microsoft Security Copilot.

  • Éduquer les utilisateurs sur les fonctionnalités et les limitations : une utilisation efficace et responsable de Security Copilot nécessite que les utilisateurs comprennent ce que le système peut et ne peut pas faire. Les dispositifs de déploiement doivent fournir une formation et des conseils pour aider les utilisateurs à interagir efficacement avec Security Copilot, notamment l’importance de vérifier les résultats générés par l’IA avant d’agir.

En savoir plus sur les agents de Security Copilot

Pour plus d’informations sur l’utilisation responsable de Microsoft Security Copilot, consultez la documentation suivante :

En savoir plus sur l’IA responsable

  • Last updated on