Remarque
L’accès à cette page requiert une autorisation. Vous pouvez essayer de vous connecter ou de modifier des répertoires.
L’accès à cette page requiert une autorisation. Vous pouvez essayer de modifier des répertoires.
[Cet article fait partie de la documentation en version préliminaire et peut faire l’objet de modifications.]
Important
- L’accès à Autopilot (Frontier) nécessite l’inscription au programme Frontier en préversion applicable, l’affectation à la préversion et les conditions de participation. L’inscription à Frontier seule n’active pas chaque fonctionnalité en préversion. Les préversions Frontier sont soumises aux conditions de préversion applicables de vos contrats clients, et leur disponibilité et leurs fonctionnalités peuvent changer.
- Cette fonctionnalité est en version préliminaire.
- Les fonctionnalités en préversion peuvent avoir des fonctionnalités limitées et peuvent ne pas être mises à disposition générale. Ces fonctionnalités sont disponibles avant une version officielle afin que les clients puissent obtenir un accès anticipé et fournir des commentaires.
- Pour plus d’informations, consultez nos Conditions du produit Microsoft.
Qu’est-ce qu’une carte d’application ou de plateforme ?
Les cartes Application et Plateforme de Microsoft sont destinées à vous aider à comprendre le fonctionnement de notre technologie IA, les choix que les propriétaires d’applications peuvent faire qui influencent les performances et le comportement de l’application, et l’importance de prendre en compte l’ensemble de l’application, y compris la technologie, les personnes et l’environnement. Les cartes d’application sont créées pour les applications IA et les cartes de plateforme sont créées pour les services de plateforme IA. Ces ressources peuvent prendre en charge le développement ou le déploiement de vos propres applications et peuvent être partagées avec les utilisateurs ou les parties prenantes concernés.
Dans le cadre de son engagement envers l’IA responsable, Microsoft adhère à six principes fondamentaux : l’équité, la fiabilité et la sécurité, la confidentialité et la sécurité, l’inclusion, la transparence et la responsabilité. La norme et les ressources d’IA responsable guident les équipes dans la conception, la création et le test d’applications d’IA. Les cartes d’application et de plateforme offrent une transparence autour des fonctionnalités, des utilisations prévues et des limitations. Consultez également le code de conduite Microsoft Enterprise AI Services.
Overview
Autopilot est un agent basé sur le cloud toujours actif dans Microsoft Copilot. Vous décrivez le résultat souhaité, les sources à utiliser et les limites. Il peut préparer un travail modifiable, passer en revue les conversations accessibles, suivre les engagements et exécuter des automatisations planifiées. Son identité, sa mémoire, son ordinateur et son espace de travail prennent en charge la continuité au-delà d’une seule conversation.
Autopilot est conçu pour les travailleurs de l’information qui délèguent le travail dans l’ensemble de Microsoft 365. Certaines opérations utilisent son identité dédiée ; d’autres utilisent l’accès autorisé en votre nom. Le compte utilisé, la ressource, l’action et la politique déterminent l’accès. Avant une action qui envoie, partage, supprime ou modifie quelque chose, une vérification automatisée détermine si elle peut s’exécuter ou a besoin de votre approbation.
Autopilot reste un aperçu. L’opération en arrière-plan ne garantit pas l’exécution ininterrompue, la récupération complète ou l’achèvement à un moment donné. Pour connaître les fonctionnalités et la disponibilité, consultez la vue d’ensemble d’Autopilot et les exigences.
Termes clés
La liste suivante fournit un glossaire des termes clés liés à Autopilot.
| Terme | Description |
|---|---|
| Approbation de l’action | Carte d’approbation qui demande au propriétaire de Allow ou Deny une ou plusieurs actions. Autoriser exécute les actions sur la carte une seule fois. |
| assistant autonome | Assistant basé sur l’IA qui planifie et exécute des travaux en plusieurs étapes au nom d’une personne, en fonction des instructions en langage naturel et de l’accès aux données que la personne est autorisée à utiliser. |
| Activité | Vue du travail destinée à l’utilisateur, y compris les éléments en cours d’exécution, les demandes de jugement et les résultats. Ce n’est pas une garantie d’un enregistrement d’audit administratif complet. |
| Memory | Les informations de conversation, personnelles et d’espace de travail qu’Autopilot conserve et applique aux travaux futurs. Vous pouvez l’examiner sous Vérifier ce que [nom] connaît dans le panneau Autopilot ou poser des questions à ce sujet dans une conversation. |
| Authorization | Autorisation d’une action ou d’une étendue de travail particulière, sous réserve de l’accès aux ressources et de la politique organisationnelle. |
| Automation | Travail qui s’exécute selon une planification avec des instructions, des identités, des destinations et des autorisations enregistrées. |
| Qualification | Instructions pour un type de tâche, utilisées avec des outils et des autorisations disponibles. |
| Plug-in | Package de fonctionnalités ou de connexions qui peuvent inclure des compétences. Une entrée de catalogue n’établit pas d’installation ou d’autorisation. |
| Workspace | Environnement de travail cloud qui peut conserver le contexte entre les sessions ; il est distinct de votre appareil local et de la destination d’un livrable publié. Autopilot ne peut pas accéder aux dossiers ou applications locaux. |
| Identité professionnelle | Nom, avatar et adresse e-mail que Autopilot utilise pour que les collègues puissent reconnaître son travail dans Copilot, Teams et Outlook. |
Fonctionnalités clés
Les principales fonctionnalités et capacités décrites ici décrivent ce qu’Autopilot est conçu pour faire et comment il fonctionne dans les tâches prises en charge.
- Fonctionne dans Microsoft 365 : Autopilot utilise les informations autorisées de Teams, Outlook, OneDrive et SharePoint via ses outils disponibles.
- Prépare du contenu modifiable : Autopilot peut rédiger des messages, des documents, des présentations et une analyse. Vous spécifiez s’il doit produire un brouillon, enregistrer un fichier, le partager ou envoyer un message.
- Autorisation d’action : Autopilot peut effectuer des tâches sans demander à chaque étape. Un système de révision automatisée examine chaque action qui envoie, partage, supprime ou modifie du contenu, ou qui crée ou modifie une automatisation. Les actions qui correspondent à la demande du propriétaire s’exécutent ; les autres affichent une carte d’approbation. Les étapes de paiement et de navigateur sensibles nécessitent toujours une approbation.
- Exécute des tâches périodiques via des automatisations : Autopilot utilise une planification et exécute toutes les instructions enregistrées. Les critères de surveillance n’activent pas eux-mêmes chaque événement ou signal professionnel comme déclencheur.
- Collabore avec les collègues pour le propriétaire : à la demande du propriétaire, Autopilot peut envoyer des messages à vos collègues dans Teams, suivre les engagements et planifier des réunions, avec approbation.
- Identité de l’espace de travail : Autopilot a son propre nom, avatar et adresse e-mail, et apparaît à vos côtés dans Copilot, Teams et Outlook afin que les collègues puissent distinguer son travail du vôtre.
- Activité : examiner les travaux en cours, les demandes de validation et les résultats, puis vérifier les effets externes dans leurs destinations.
- Mémoire : les préférences et les décisions enregistrées aident à assurer la continuité. Les utilisateurs peuvent consulter, corriger et supprimer des mémoires dans le panneau Autopilot ou en le demandant dans le chat. La mémoire ne peut pas être désactivée dans cette version. La mémoire n’est ni un rappel complet ni une autorité pour accéder aux données.
- Compétences et plug-ins : ajoutez des plug-ins à partir de plug-ins, créez ou chargez des compétences et partagez des compétences avec des personnes sélectionnées dans votre organisation. La stratégie peut bloquer un plug-in, et le partage d’une compétence ne partage pas d’informations d’identification ni d’autorisations.
- Utilisation du navigateur : Lorsqu'il est activé, Autopilot peut travailler dans Microsoft Edge sur l'appareil du propriétaire pour les demandes effectuées par le propriétaire dans sa conversation privée. Il demande l’approbation avant les actions sensibles et le contenu de la page qu’il lit est traité par son modèle cloud.
- Crédits : Autopilot est facturé à l’usage en crédits Copilot via une stratégie de dépense qu’un administrateur configure. Si un utilisateur n’est pas couvert ou si la stratégie atteint sa limite, Autopilot cesse d’exécuter des automatisations, une surveillance et de nouvelles demandes.
- Reconnaissance des étiquettes de sensibilité : Autopilot peut reconnaître des étiquettes sur le contenu pris en charge. Le contenu étiqueté n’est pas exclu de ce que Autopilot peut lire et la reconnaissance n’établit pas l’héritage des étiquettes ou la couverture de protection contre la perte de données.
- Accès mobile : les utilisateurs peuvent utiliser Autopilot sur iOS et Android via les applications Microsoft 365 Copilot, Microsoft Teams et Microsoft Outlook.
En tant qu’assistant IA agentique, Autopilot présente les caractéristiques suivantes :
- Planification : Autopilot peut décomposer une demande en langage naturel en étapes et utiliser les fonctionnalités disponibles pour la tâche.
- Adaptabilité : vous pouvez envoyer des instructions de suivi pour demander une modification. Vérifiez le travail résultant plutôt que de supposer qu’une action en cours a déjà changé ou s’est arrêtée.
- Mémoire : Le contexte enregistré sur le propriétaire et son travail prend en charge le travail ultérieur.
- Extensibilité : les compétences et les plug-ins fournissent une aide à l’exécution des tâches et des connexions lorsqu’ils sont activés, sans accorder eux-mêmes d’accès supplémentaire aux données. Pour plus d’informations, consultez la documentation des plug-ins.
Utilisations prévues
Autopilot peut être utilisé dans plusieurs scénarios pour les travailleurs de l’information qui utilisent Microsoft 365 et souhaitent déléguer le travail en plusieurs étapes. Voici quelques exemples de cas d’usage :
- Briefings et triage quotidiens : configurez un briefing planifié à partir de sources spécifiées de calendrier, d’e-mail et de Teams, avec une destination de livraison prévue.
- Rédaction et communication : Autopilot rédige des messages, des documents, des feuilles de calcul et des présentations à examiner, comme transformer les notes de préparation au lancement et les métriques hebdomadaires en un point d’avancement du projet d’une page.
- Suivi des engagements et des échéances : demandez une vérification périodique des décisions non résolues et des brouillons de suivi.
- Surveillance et alertes : spécifiez des sources, une fréquence de vérification et des critères pour les modifications ou les risques dans une automatisation. La surveillance n’est pas une garantie de détection immédiate.
- Rapports périodiques : Autopilot exécute des automatisations selon une planification pour rapprocher les métriques hebdomadaires, synthétiser les commentaires des clients ou produire un résumé d’état périodique.
- Suivi inter-applications : Autopilot termine le travail qui s’étend sur plusieurs applications Microsoft 365 dans une conversation, telles que la recherche de travaux connexes, la préparation d’un document et la rédaction d’un message pour le partager.
Étendue de l’agent : Une requête ou une automatisation décrit un résultat prévu, mais elle n’autorise pas chaque action ou ne connecte pas chaque signal de travail. Les actions que d’autres personnes peuvent voir nécessitent une approbation, soit lorsque le travail démarre, soit lorsque l’action se produit. Passez en revue les identités, autorisations, destinataires et destinations utilisées par les tâches et les automatisations. Ni la fonctionnalité Teams @Copilot ni les agents parallèles logiciels dans d’autres expériences Copilot n’offrent la même fonctionnalité dans Autopilot.
Autopilot n’est pas destiné aux cas d’usage qui nécessitent une précision garantie sans révision humaine. Il s’agit par exemple d’actes de procédure, de décisions médicales ou de transactions financières qui échappent aux processus d’approbation.
Modèles et données d’entraînement
Autopilot utilise des modèles IA pour interpréter les requêtes et effectuer le travail. Il s’exécute sur GPT-6.1 Sol, fourni par OpenAI agissant en tant que sous-traitant de Microsoft. Si un administrateur désactive OpenAI sous les fournisseurs d’IA fonctionnant en tant que sous-traitants Microsoft, Autopilot utilise GPT-5.6 Sol hébergé dans Azure OpenAI à la place. Les utilisateurs ne peuvent pas changer de modèle par le biais d’une invite et il n’existe aucun contrôle de sélection de modèle distinct pour Autopilot. Le système de révision automatisée utilise un modèle IA distinct pour passer en revue les actions. Pour obtenir des conseils d’administrateur, consultez Gouvernance des modèles d’examen.
Les directives de confidentialité de Copilot de Microsoft indiquent que les invites, les réponses et les données organisationnelles accessibles via les services Microsoft 365 ne sont pas utilisées pour entraîner des modèles de base. Passez en revue les données, la confidentialité et la sécurité pour Microsoft Copilot avec les termes des modèles activés pour votre organisation.
Lorsque OpenAI est activé, les invites et les données associées sont traitées par OpenAI en tant que sous-traitant de Microsoft. Les emplacements de traitement et les engagements applicables peuvent différer du modèle hébergé Azure OpenAI. Les administrateurs doivent confirmer que le dispositif répond à leurs exigences en matière de résidence des données et de EU Data Boundary. En savoir plus sur OpenAI en tant que sous-traitant ultérieur dans Microsoft Services en ligne.
Performance
L’évaluation des performances se concentre sur le fait que Autopilot effectue le travail en plusieurs étapes demandées et si la sortie répond à votre intention. Les résultats dépendent de la tâche, de l’accès, des outils, du modèle et de la configuration examinées.
Modalités prises en charge
- Entrée : Texte en langage naturel et contexte pris en charge fourni ou récupéré par le biais d’outils autorisés.
- Résultat : Texte, brouillons de messages, documents, présentations, analyse et résultats d’automatisation, lorsque cette fonctionnalité est prise en charge. Les destinations de sortie dépendent de la tâche et des fonctionnalités disponibles.
Comment Autopilot traite les demandes
- Autopilot reçoit une instruction en langage naturel de votre part.
- Autopilot planifie les étapes nécessaires pour effectuer la demande, en tirant sur votre contenu Microsoft 365 et les compétences dont il a besoin.
- Autopilot tente d’exécuter les étapes à l’aide des outils disponibles. Il peut poser des questions quand plus d’informations sont nécessaires ; il clarifie les instructions ambiguës avant d’autoriser une action aux conséquences importantes.
- Autopilot applique les autorisations et la stratégie de l’action. Le système d’examen automatisé compare l’action à votre demande et soit l’autorise à s’exécuter, soit demande votre approbation.
- Autopilot signale le résultat ou une limitation. Vérifiez le fichier enregistré, le message envoyé ou l’événement de calendrier à l’emplacement prévu, et distinguez l’exécution de la remise.
Conditions d’un fonctionnement fiable
- Autopilot effectue le mieux lorsque les instructions sont claires et spécifiques, notamment les détails sur le résultat souhaité, les destinataires et la mise en forme.
- Autopilot s’exécute dans le cloud et dépend de la disponibilité de vos applications Microsoft 365 et des services connectés.
- Le compte agissant doit être autorisé pour la ressource et l’opération demandées ; une identité d’agent dédiée ne contourne pas ces vérifications.
- Les performances peuvent se dégrader pour des tâches très complexes en plusieurs étapes avec de nombreuses interdépendances.
Fonctionnalités multilingues
La prise en charge linguistique peut varier en fonction de la version préliminaire, du modèle et du service connecté. Autopilot est optimisé pour l’anglais. Une interface traduite n’établit pas que chaque langue a été évaluée pour les mêmes tâches. Vérifiez la configuration prise en charge avant de l’utiliser pour un flux de travail sensible au langage.
Limitations
Comprendre les limitations d’Autopilot est essentiel pour déterminer s’il est utilisé dans des limites sûres et efficaces. Bien que nous encourageons les clients à utiliser Autopilot dans leur travail, il est important de noter que Autopilot n’a pas été conçu pour chaque scénario possible. Nous encourageons les utilisateurs à faire référence au code de conduite Microsoft Enterprise AI Services (pour les organisations) ou à la section Code de conduite de la Contrat de services Microsoft (pour les individus), ainsi que les considérations suivantes lors du choix d’un cas d’usage :
- Interprétation des instructions : Autopilot peut mal interpréter des instructions ambiguës ou trop larges, ce qui entraîne un travail qui ne correspond pas à votre intention. Par exemple, une demande de nettoyage des anciens fichiers projet peut affecter plus de contenu que prévu. Fournissez des demandes claires, spécifiques et vérifiez exactement quels fichiers, données, personnes et communications impliquent une action avant de l’approuver.
- Précision du contenu : traitez les documents, messages et autres contenus générés par l’IA en tant que brouillons. Passez toujours en revue le contenu avant d’approuver les actions qui envoient, partagent ou agissent dessus. Autopilot peut produire des informations inexactes, en particulier lorsque les données sources sur lesquelles il s’appuie sont incomplètes ou obsolètes.
- Complexité des tâches : les travaux complexes, en plusieurs étapes, avec de nombreuses dépendances, peuvent ne pas toujours être menés à bien comme prévu. Surveillez la progression et suspendez ou ajustez une tâche si nécessaire.
- Limites d’autorisation : le compte, la ressource, l’action et le contexte de la conversation autorisés déterminent l’accès. Les instructions relatives à la mémoire et aux compétences n’accordent pas d’autorisation. Autopilot n’élargit pas les données auxquelles un utilisateur peut accéder.
- Vérifications d’approbation automatisées : le système d’examen automatisé ne peut pas voir tout ce que sait Autopilot et peut faire des erreurs. Action qu’il juge pour correspondre à votre demande s’exécute sans carte d’approbation. Effectuez des requêtes spécifiques, indiquez des limites telles que « ne l’envoyez pas encore » et passez en revue les résultats. Cliquer sur Autoriser sur une carte d’approbation exécute ces actions une seule fois ; cela n’autorise pas ultérieurement des actions similaires ou non liées.
- Appareil local et navigateur : Autopilot ne peut pas accéder aux dossiers ou applications locaux. Lorsque l’utilisation du navigateur est activée, le contenu de page lu par Autopilot dans Microsoft Edge, y compris le contenu des sites connectés, est envoyé à son modèle cloud. Les stratégies et les règles propres aux sites peuvent toujours bloquer les actions dans le navigateur.
- Les automatisations s’exécutent avec une autorité enregistrée : passez en revue les instructions complètes, la planification, les identités, les destinataires et les destinations. Le travail planifié n’hérite pas de toutes les autorisations de la conversation de création.
- Différences de modèle et de fournisseur : les emplacements de traitement et les engagements de conformité dépendent du fait que la demande soit traitée par OpenAI ou par le modèle hébergé Azure OpenAI. Les protections génériques Copilot ne constituent pas une preuve de couverture identique pour chaque configuration de modèle ou outil.
- Étiquettes de confidentialité : les e-mails et les fichiers étiquetés ne sont pas exclus de ce que Autopilot peut lire. Le contenu qu’il génère ou modifie peut ne pas hériter ou appliquer automatiquement les étiquettes sources. Appliquez l’étiquetage et les contrôles appropriés avant de partager ou de stocker du contenu.
- Protection contre la perte de données : la protection contre la perte de données est limitée pendant la préversion et une invite bloquée peut afficher une erreur générique. Ne supposez pas que l’application de Microsoft Purview DLP soit uniforme sur tous les outils et toutes les destinations.
- Couverture de conformité : eDiscovery, rétention et conservation légale ne couvrent pas les conversations Autopilot, et Autopilot n’apparaît pas dans Data Security Posture Management for AI. Les accès en lecture effectués pour le compte du propriétaire sont consignés dans le compte du propriétaire. Les autorisations et le chiffrement sont les contrôles qui empêchent de manière fiable Autopilot d’accéder au contenu.
- Stockage et rappel : contexte de travail, historique des conversations, mémoire enregistrée et fichiers exportés sont des enregistrements différents. La suppression d’une conversation ne supprime pas les mémoires enregistrées et une conversation supprimée reste stockée tant que l’utilisateur demande à Autopilot de le supprimer définitivement. Les exportations sont des captures instantanées et peuvent ne pas porter les étiquettes de confidentialité d’origine. Les utilisateurs peuvent télécharger une copie complète de leurs mémoires et sessions, et pour une demande de conformité ou de confidentialité approuvée, un administrateur du locataire peut exporter une copie des mémoires et sessions d’un utilisateur. Un fichier d’espace de travail n’est pas nécessairement un livrable publié et accessible.
- Visibilité des messages : tout le monde dans une conversation Teams peut voir les messages envoyés par Autopilot. Passez en revue les destinataires avant d’autoriser un message.
- Résultats incomplets ou incertains : une demande d’arrêt ne prouve pas l’annulation ou le retour en arrière. Une approbation n’est pas une preuve d’exécution et une étape de travail réussie n’est pas une preuve de remise.
- Biais, stéréotypes et contenu non fondé : malgré les contrôles responsables de l’IA, le contenu généré par l’IA peut toujours refléter des préjugés, des stéréotypes ou des informations non fondées. Passez toujours en revue les réponses et les actions avant de les approuver.
- Décisions à fort impact : n’utilisez pas Autopilot pour prendre ou automatiser des décisions avec des conséquences juridiques, médicales, financières, éducatives, d’emploi, de logement ou d’assurance. Une personne qualifiée doit prendre ces décisions.
- Langue : Autopilot est optimisé pour l’anglais. La disponibilité peut être limitée par région et par langue.
Evaluations
Les évaluations des performances et de la sécurité examinent l’achèvement des tâches, la qualité de la réponse et les risques liés au contenu dangereux ou aux actions non autorisées. Les zones ci-dessous décrivent la couverture de l’évaluation et les résultats souhaités, et non une certification publiée ou une garantie que chaque configuration en préversion a réussi chaque scénario.
Évaluations des performances et de la qualité
Les domaines d’évaluation des performances et de la qualité sont les suivants :
- Achèvement de la tâche : si Autopilot exécute correctement le travail demandé sur plusieurs étapes.
- Cohérence — dans quelle mesure la sortie d’Autopilot est logiquement structurée et cohérente.
- Qualité de la réponse : indique si la sortie répond à l’intention de l’utilisateur en fonction de l’instruction en langage naturel.
Méthodes d’évaluation des performances et de la qualité
Autopilot est évalué à l’aide de scénarios textuels qui reflètent le fonctionnement des utilisateurs dans Microsoft 365 applications, notamment l’exécution de tâches en plusieurs étapes, la création de documents, la rédaction de messages, la planification et les scénarios d’entreprise représentatifs. Les évaluateurs évaluent si les actions demandées ont été correctement effectuées, si les réponses ont été prises en charge par le contenu de l’utilisateur et si les sorties étaient cohérentes entre les variations de la même tâche. Les résultats idéaux reflètent l’achèvement précis des tâches et les performances cohérentes ; Les résultats non optimaux incluent des destinataires incorrects, des revendications non prises en charge dans le contenu généré ou un travail incomplet.
Évaluations personnalisées
Outre les évaluations de qualité, le cadre d’évaluation d’Autopilot inclut des cas basés sur des scénarios pour des domaines de sécurité tels que les dommages au contenu, la confidentialité et les fuites d’informations, la résistance à l’injection d’invite et l’autorisation d’action. Ces cas testent si les approbations requises et les limites d’autorisation sont conservées, si l’agent résiste aux instructions masquées dans le contenu externe et si elle évite toute divulgation non autorisée. Les résultats idéaux mènent à bien un travail légitime dans son étendue autorisée ; les résultats non optimaux incluent le fait de suivre une instruction injectée, le fait d’agir sans autorité requise ou le fait de produire du contenu dangereux. La couverture d’un scénario n’établit pas que chaque configuration d’aperçu l’a passée.
Évaluations des risques et de la sécurité
Les zones d’évaluation des risques et de sécurité incluent le contenu dangereux et les tentatives de manipulation de l’agent. La couverture peut inclure :
- Haine et iniquité
- Contenu sexuel
- Violence
- Auto-préjudice
- Matériel protégé
- Résistance à l’injection de prompt (instructions masquées dans le contenu externe)
- Exécution d’action non autorisée ou non approuvée
- Fuite d’informations
Méthodes d’évaluation des risques et de la sécurité
Les évaluations des risques et de la sécurité utilisent des scénarios adversariaux et un scoring pour évaluer les dommages potentiels. Les évaluations des actions vérifient les destinataires inattendus, l’autorité requise manquante, le contournement d’autorisation et les instructions masquées dans le courrier électronique, les fichiers ou le contenu web. Un résultat souhaitable refuse ou redirige le travail non autorisé tout en autorisant des actions légitimes et autorisées. Les résultats des tests sont limités par les cas, les appareils, le modèle et la configuration examinés ; ils ne sont pas une garantie de comportement de production ou d’une certification de conformité. Cette carte n’indique pas de taux de réussite chiffré.
Composants de sécurité et atténuations
Lorsque nous avons identifié et évalué les risques potentiels et les usages abusifs grâce à des processus tels que les exercices de red team, nous avons mis au point des mesures d’atténuation afin de limiter les dommages potentiels. La liste suivante décrit certaines de ces mesures d’atténuation. Nous continuons d’évaluer Autopilot pour améliorer les performances du produit et les mesures d’atténuation.
- Autorisation d’action. Un deuxième modèle IA passe en revue les actions par rapport à la demande du propriétaire avant leur exécution. Les actions qui ne conviennent pas clairement, ou qu’il ne peut pas vérifier, sont mises en attente jusqu’à l’approbation du propriétaire. Les étapes de paiement et les actions sensibles dans le navigateur nécessitent toujours une approbation. Chaque carte d’approbation indique pourquoi elle apparaît et identifie les destinataires extérieurs à l’organisation comme Externe.
- Limites des autorisations. Les vérifications d’accès s’appliquent à l’identité appelante, à la ressource et à l’opération. L’ajout d’une compétence ou d’un plug-in n’élargit pas ces autorisations.
- Autorité limitée. Les tâches, les conversations et le travail récurrent peuvent avoir différentes portées d’autorisation. Ne supposez pas que l’autorité dans un contexte s’applique à un autre.
- Protection contre les instructions dans le contenu externe. Seuls les propres messages du propriétaire sont comptabilisés en tant que requêtes, de sorte que les instructions masquées dans les e-mails, les fichiers ou les pages web, appelées injection de prompt, n’autorisent pas d’action. Les atténuations réduisent ce risque, mais ne l’éliminent pas ; passez en revue les actions demandées.
- Sécurité du contenu. Les contrôles de sécurité visent à réduire le contenu nuisible. Ils n’éliminent pas la nécessité de passer en revue le contenu ou de vérifier les actions.
- Ancrage dans les données organisationnelles. Les sources Microsoft 365 autorisées fournissent un contexte pour la tâche. L’ancrage ne garantit pas un résultat précis ; vérifiez les faits essentiels par rapport à leurs sources.
- Visibilité de la progression. Les conversations et l’activité vous aident à examiner le travail et les demandes de jugement. Ils ne sont pas un enregistrement d’audit administratif complet.
- Contrôles administrateur. Les administrateurs gèrent l’éligibilité à la préversion, l’accès au fournisseur et aux ressources, ainsi que les contrôles d’utilisation applicables. Pour les termes du modèle, l’audit, la rétention, l’étiquetage et DLP, vérifiez la couverture dans la configuration activée. Pour plus d’informations, consultez Configurer Autopilot pour votre organisation.
Meilleures pratiques pour le déploiement et l’adoption d’Autopilot
L’IA responsable est un engagement partagé entre Microsoft et ses clients. Alors que Microsoft crée des applications d’IA et des services de plateforme avec la sécurité, l’équité et la transparence à la base, les clients jouent un rôle essentiel dans le déploiement et l’utilisation de ces technologies de manière responsable dans leur propre contexte. Pour prendre en charge ce partenariat, nous proposons les meilleures pratiques suivantes pour les déploiements et les utilisateurs finaux afin d’aider les clients à implémenter efficacement une IA responsable.
Les déploiements et les utilisateurs finaux doivent :
- Faites preuve de prudence et évaluez les résultats lors de l’utilisation d’Autopilot pour des décisions lourdes de conséquences ou dans des domaines sensibles. Les décisions consécutives sont celles qui peuvent avoir un impact juridique ou significatif sur l’accès à l’éducation, à l’emploi, aux services financiers, aux prestations gouvernementales, aux soins de santé, au logement, à l’assurance ou aux services juridiques, ou qui pourraient entraîner des dommages physiques, psychologiques ou financiers. Les domaines sensibles, tels que les services financiers, les soins de santé et le logement, nécessitent des soins particuliers en raison du risque d’impact disproportionné sur différents groupes de personnes. Lorsque vous utilisez l’IA pour prendre des décisions dans ces domaines, assurez-vous que les parties prenantes concernées peuvent comprendre comment les décisions sont prises, faire appel des décisions et mettre à jour les données d’entrée pertinentes.
- Évaluez les considérations juridiques et réglementaires. Les clients doivent évaluer des obligations légales et réglementaires spécifiques potentielles lors de l’utilisation de services et de solutions IA, ce qui peut ne pas convenir à une utilisation dans chaque secteur ou scénario. En outre, les services ou solutions IA ne sont pas conçus pour et peuvent ne pas être utilisés de manière interdite en termes de service applicables et codes de conduite pertinents.
Les déployeurs doivent :
- Configurez l’accès de manière appropriée. Confirmez l’inscription Frontier, une stratégie de dépense qui couvre les utilisateurs Autopilot, l’activation d’Autopilot et les paramètres du fournisseur IA. Commencez par un public limité. Pour plus d’informations, consultez Configurer Autopilot pour votre organisation.
- Sensibilisez les utilisateurs à l’autorisation. Expliquez que Autopilot peut agir sans confirmation par étape lorsque le système de révision automatisé détecte qu’une action correspond à la demande et que les utilisateurs doivent passer en revue les cartes d’approbation et vérifier les résultats.
- Guidez les utilisateurs sur les autorisations. Faire correspondre les actions, ressources et destinataires autorisés au flux de travail et aux exigences de votre organisation. Ne traitez pas les contrôles d’interface en préversion comme preuve de couverture de stratégie.
- Surveiller l’utilisation. Passez en revue la façon dont Autopilot est utilisé dans votre organisation pour identifier les modèles, les problèmes courants ou les zones où des conseils supplémentaires peuvent être nécessaires.
Les utilisateurs finaux doivent :
- Exercer une surveillance humaine au besoin. La surveillance humaine est une protection importante lors de l’interaction avec les applications d’IA. Bien que nous améliorions continuellement Autopilot, l’IA peut encore faire des erreurs. Les sorties générées peuvent être inexactes, incomplètes, biaisées, mal alignées ou non pertinentes pour vos objectifs prévus, en raison de raisons telles que l’ambiguïté dans les entrées ou les limitations des modèles sous-jacents. Passez en revue les réponses générées par Autopilot et vérifiez qu’elles correspondent à vos attentes et exigences.
- Soyez conscient du risque de dépendance excessive. La dépendance sur l’IA se produit lorsque les utilisateurs acceptent des sorties IA incorrectes ou incomplètes, principalement parce que les erreurs dans les sorties IA peuvent être difficiles à détecter. Comme Autopilot peut agir en votre nom, passez en revue son travail, en particulier les destinataires, les dates et le contenu, avant d’approuver des actions qui envoient ou partagent des informations.
- Fournissez des instructions claires et précises. Incluez des détails sur le résultat souhaité, les destinataires, la mise en forme et les attentes en matière de contenu. Plus l’instruction est spécifique, meilleur est le résultat. Par exemple, au lieu de « l’aide par e-mail », essayez « rédiger une réponse à Mira confirmant que je posséderai la révision de sécurité et notez que le correctif de paiement est prêt ».
- Passez en revue les automatisations avant de les activer. Les automatisations s’exécutent selon une planification à l’aide de leurs instructions, identités et autorisations enregistrées. Passez en revue la portée enregistrée avant d’activer une automatisation et suspendez-la si elle ne se comporte pas comme prévu.
- Faites preuve de prudence dans les domaines sensibles. Prenez des précautions supplémentaires lorsque les actions d'Autopilot seraient irréversibles ou fortement corrélatives, comme décrit dans le code de conduite Microsoft Enterprise AI Services (pour les organisations) ou la section Code de conduite dans la Contrat de services Microsoft (pour les individus).
Contenu connexe
Pour obtenir des conseils supplémentaires ou pour en savoir plus sur l’utilisation responsable d’Autopilot, nous vous recommandons de consulter la documentation suivante :
- Vue d’ensemble d’Autopilot
- Prise en main d’Autopilot
- Utiliser Autopilot
- Scénarios d’Autopilot
- Questions courantes sur Autopilot
- Données, confidentialité et sécurité pour Microsoft Copilot
Ressources d’IA responsable
Utilisez ces ressources pour comprendre l'approche de Microsoft de l'IA responsable.