Sécurisation des agents IA sur Windows

À mesure que les agents basés sur l’IA font partie intégrante de la façon dont nous travaillons et créons, Windows s’engage à rendre ces expériences plus productives et plus sécurisées pour les particuliers et les entreprises. Récemment, nous avons annoncé que chaque PC Windows 11 soit un PC IA qui facilite l’utilisation d’une ia puissante sur Windows 11. L’une des nouvelles expériences que nous avons introduites est une fonctionnalité expérimentale appelée Actions Copilot. Copilot Actions sur Windows 11 s’appuie sur notre annonce de mai, où nous avons annoncé Copilot Actions sur le web permettant à Copilot de prendre des mesures réelles en votre nom, comme réserver une table dans votre restaurant préféré ou commander des courses.

Bientôt disponible pour les Windows Insiders dans Copilot Labs, nous allons afficher un aperçu d’un mode expérimental permettant aux actions Copilot de s’étendre au-delà du navigateur afin d’effectuer des actions directement sur les fichiers locaux dans Windows.

Qu’est-ce que Copilot Actions ?

Copilot Actions est un agent IA qui effectue des tâches pour vous en interagissant avec vos applications et vos fichiers, en utilisant la vision et le raisonnement avancé pour cliquer, taper et faire défiler comme le ferait un humain. Cette fonctionnalité transforme les agents des assistants passifs en collaborateurs numériques actifs qui peuvent effectuer des tâches complexes pour vous permettre d’améliorer l’efficacité et la productivité, telles que la mise à jour de documents, l’organisation de fichiers, la réservation de tickets ou l’envoi d’e-mails. Une fois que vous avez accordé l’accès à l’agent, lorsqu’il est intégré à Windows, l’agent peut tirer parti de ce que vous avez déjà sur votre PC, comme vos applications et données, pour effectuer des tâches pour vous.

Pourquoi la sécurité est importante

L’IA agentique offre aujourd’hui de puissantes fonctionnalités. Par exemple, il peut effectuer de nombreuses tâches complexes en réponse aux invites des utilisateurs, ce qui transforme la façon dont les utilisateurs interagissent avec leurs PC. À mesure que nous introduisons de nouvelles fonctionnalités, les modèles IA sont toujours confrontés à des limitations fonctionnelles en termes de comportement. Parfois, ils peuvent être incorrects et produire des sorties inattendues. En outre, les applications d’IA agentiques introduisent de nouveaux risques de sécurité, tels que l’injection d’invites croisées (XPIA), où le contenu malveillant incorporé dans des éléments ou des documents d’interface utilisateur peut remplacer les instructions de l’agent, ce qui entraîne des actions involontaires telles que l’exfiltration de données ou l’installation de programmes malveillants. Pour plus d’informations, consultez Sécurisation du protocole de contexte de modèle : création d’un avenir agentique plus sûr sur Windows . Alors que nous commençons à créer des fonctionnalités agentiques dans Windows, nous nous engageons à inclure des contrôles de sécurité et de confidentialité robustes qui permettent aux clients d’explorer leur potentiel en toute confiance avec la prise en charge de conseils clairs et de garde-fous appropriés.

Principes de sécurité et de confidentialité d’Agentic

Pour relever les défis de sécurité des agents IA, vous devez respecter un ensemble solide de principes de sécurité pour garantir que les agents agissent en accord avec l’intention de l’utilisateur et protègent leurs informations sensibles. Nous établissons un ensemble de principes de sécurité et de confidentialité durables que vous devez respecter pour utiliser de nouvelles fonctionnalités agentiques dans Windows :

• Comptes d’agent distincts : nous créons la possibilité pour les agents dans Windows de fonctionner avec des comptes d’agent dédiés distincts du compte d’utilisateur sur votre appareil. Cette fonctionnalité facilite l’application de stratégie spécifique à l’agent qui peut être différente des règles appliquées à d’autres comptes comme ceux pour les utilisateurs humains. Vous pouvez partager l’accès aux fichiers et autres ressources à ces comptes d’agent dédiés de la même façon que vous le faites avec d’autres utilisateurs sur votre appareil, comme votre famille ou vos collègues.
• Privilèges agentiques limités : un agent commence avec des autorisations limitées et obtient uniquement l’accès aux ressources auxquelles vous fournissez explicitement l’autorisation, comme vos fichiers locaux. Il existe une limite bien définie pour les actions de l’agent, et il n’a pas la possibilité d’apporter des modifications à votre appareil sans votre intervention. Vous pouvez révoquer cet accès à tout moment.
• Approbation opérationnelle : les agents qui s’intègrent à Windows doivent être signés par une source approuvée afin que les agents malveillants ou mal se comportent puissent être révoqués et bloqués avec une série de mesures de défense en profondeur telles que la validation de certificat et l’antivirus.
• Conception préservant la confidentialité : Windows est conçu pour aider les agents à respecter les engagements de Microsoft pris dans la Déclaration de confidentialité microsoft et l’IA responsable Standard. Windows prend en charge les agents dans la collecte et le traitement des données uniquement à des fins clairement définies, ce qui garantit la transparence et la confiance. Consultez le Rapport sur la confidentialité de Microsoft pour plus d’informations sur nos engagements à faire progresser l’IA de manière responsable tout en protégeant la confidentialité et d’autres droits fondamentaux.

Le développement d’agents et la sécurité liée à l’IA continuent d’être un domaine de recherche en évolution rapide avec la participation active de Microsoft en partenariat avec l’ensemble de la communauté de sécurité. Dans le cadre de l’engagement de Microsoft Secure Future Initiative , aider les utilisateurs, les entreprises et les développeurs à relever ces défis est notre priorité absolue, car les utilisateurs commencent à interagir avec les agents dans le cadre de leurs flux de travail quotidiens.

Contrôles de sécurité

Copilot Actions met en pratique nos principes de sécurité et de confidentialité. Nous apprenons et affinons continuellement notre approche à mesure que nous recueillons des commentaires réels à partir de la préversion lorsqu’elle sera disponible. Nous avons ajouté quatre nouveaux blocs de construction à Windows 11 pour prendre en charge cette exploration. Pendant la période de préversion, nous continuons à ajouter des contrôles de sécurité et de confidentialité plus précis avant de rendre ces fonctionnalités largement disponibles :

• Contrôle utilisateur : Les actions Copilot sont désactivées par défaut et activées uniquement lorsque l’utilisateur bascule sur le paramètre Windows suivant dans Paramètres Composants>>système>IAOutils> d’agentFonctionnalités agentiques expérimentales.
• Comptes d’agent : un compte standard distinct sur votre appareil que les agents utilisent lorsqu’ils agissent en votre nom, ce qui permet l’autorisation et le contrôle d’accès au niveau de l’agent.
• Espace de travail de l’agent : environnement autonome dans lequel les agents peuvent travailler en parallèle avec un utilisateur humain, ce qui permet l’isolation de l’exécution et les autorisations granulaires. Cet environnement fournit à l’agent des fonctionnalités telles que son propre bureau tout en limitant la visibilité et l’accès de l’agent à l’activité de bureau de l’utilisateur. L’espace de travail de l’agent repose sur des limites de sécurité reconnues que Microsoft défend conformément à nos critères de maintenance de sécurité de longue date. Pour plus d’informations sur les espaces de travail d’agent, consultez Fonctionnalités agentiques expérimentales – En savoir plus.
• Transparence de l’utilisateur : un moyen pour les utilisateurs d’autoriser, de surveiller et de prendre en charge les actions de l’agent dans l’espace de travail de l’agent.

D’autres blocs de construction, tels que Microsoft Entra et la prise en charge des identités MSA, seront bientôt disponibles.

Les applications et actions pilotées par Copilot Actions s’exécutent sous le compte d’agent au lieu du compte de l’utilisateur du PC connecté. Cette distinction sépare clairement le travail effectué par l’agent des autres actions sur le système, comme celles effectuées par l’utilisateur du PC. Les comptes d’agent sont provisionnés uniquement lorsque les utilisateurs activent l’espace de travail de l’agent.

Pendant la préversion expérimentale des actions Copilot, l’agent a accès à un ensemble limité de dossiers locaux connus de l’utilisateur, tels que Documents, Téléchargements, Bureau ou Images, et à d’autres ressources accessibles à tous les comptes sur le système. Les actions Copilot peuvent accéder aux données en dehors de ces dossiers uniquement lorsque l’utilisateur fournit l’autorisation. Standard des mécanismes de sécurité Windows tels que les listes de contrôle d’accès (ACL) permettent d’empêcher toute utilisation non autorisée.

Pendant que Copilot Actions fonctionne, les utilisateurs peuvent surveiller sa progression, rester informés à chaque étape et prendre le contrôle à tout moment. Lorsque des actions sensibles ou des décisions importantes sont impliquées, Copilot Actions peut demander une approbation supplémentaire de l’utilisateur pour prendre ces mesures spécifiques, en garantissant leur consentement et en les mettant en charge avant qu’un événement critique ne se produise.

Regarder vers l’avenir

La sécurité est un engagement continu. À mesure que nous étendons les fonctionnalités agentiques dans Windows, nous continuons à faire évoluer nos défenses. Avec la préversion à venir des actions Copilot pour les Windows Insiders dans Copilot Labs, nous sommes impatients de recueillir des commentaires précieux qui nous aident à façonner l’expérience plus avant une version plus large. En outre, la plateforme Windows et ses contrôles de sécurité seront bientôt disponibles pour d’autres développeurs en préversion pour tester et fournir des entrées.

Windows 11 est la version la plus sécurisée de Windows jamais créée. Alors que nous entrons dans cette nouvelle ère agentique, notre engagement est clair : Windows sera la plateforme la plus sécurisée, la plus fiable et la plus centrée sur l’utilisateur pour l’informatique agentique.