Flux de travail de l’agent : Respect des tâches (aperçu)

Assurez-vous que vos agents IA s’alignent de manière cohérente avec les instructions utilisateur et les objectifs de tâche. La fonctionnalité d’adhésion aux tâches identifie les différences telles que les appels d’outils mal alignés, les entrées ou sorties incorrectes de l’outil par rapport à l’intention de l’utilisateur et les incohérences entre les réponses et les entrées client. Cette fonctionnalité permet aux développeurs système d’atténuer de manière proactive les actions mal alignées en les bloquant ou en augmentant le problème d’intervention humaine.

Les principaux objectifs de l’adhésion aux tâches sont les suivants :

• Pour détecter les actions d’outil qui sont mal alignées avec les objectifs de l’utilisateur ou l’intention d’entrée, ou une entrée/sortie d’outil incorrecte par rapport à l’intention de l’utilisateur, ou des incohérences entre les réponses de l’agent et l’entrée du client.
• Pour fournir un raisonnement lorsque les appels d’outil sont mal alignés.
• Pour fournir un signal pour le blocage et le transfert des invocations d’outil en aval vers l’examen d’intervention humaine lorsque l’alignement des tâches est à risque.
• Pour promouvoir la confiance des utilisateurs dans les systèmes agentiques en renforçant la cohérence comportementale, la transparence et le contrôle.

Scénarios utilisateur

Service client

Scénario : un chatbot assistant support client intégré à une plateforme d’entreprise permet aux utilisateurs de vérifier l’utilisation des données, de résoudre les problèmes et de gérer les paramètres de compte. Pour maintenir une automatisation précise, le système intègre l’adhésion aux tâches pour valider les plans d’agent avant d’exécuter des appels d’outil back-end.

Utilisateur : utilisateurs finaux, agents de support et équipes d’expérience client.

Action : un utilisateur message le chatbot : « Pouvez-vous vérifier la quantité de données que j’ai utilisées ce mois-ci ? » L’assistant prévoit d’appeler un change_data_plan() outil. L’adhésion aux tâches détecte une erreur d’alignement entre l’intention de l’utilisateur (demande d’informations) et l’action proposée (modification de l’abonnement). L’appel de l’outil peut être bloqué et le système interrompt l’exécution ou demande à l’utilisateur de passer en revue.

Ressources humaines

Scénario : un chatbot assistant entreprise automatise les flux de travail courants liés aux ressources humaines, tels que la réservation de congés, l’envoi de dépenses et la vérification des détails de la stratégie. L’adhésion aux tâches garantit que les actions de l’agent restent dans l’étendue attendue et ne prennent pas de raccourcis inattendus.

Utilisateur : Employés, partenaires commerciaux RH et équipes d’automatisation de flux de travail.

Action : Un employé écrit : « Je veux savoir combien de congés annuels il me reste ». L’agent prévoit d’appeler apply_leave(). L’adhésion aux tâches identifie une incompatibilité de tâche : l’utilisateur a demandé des informations, et non pas pour lancer un processus. L’exécution est bloquée, et l’agent reformule ou demande une confirmation.

Outils de productivité

Scénario : un chatbot assistant de productivité incorporé dans une plateforme de messagerie aide les professionnels à se connecter aux bases de données et à rédiger, examiner et envoyer des messages. L’adhésion aux tâches est utilisée pour distinguer l’écriture d’un brouillon et l’exécution d’une commande d’envoi, en particulier dans les cas où l’intention de l’utilisateur est ambiguë.

Utilisateur : Travailleurs des connaissances, assistants exécutifs et équipes de conformité informatique.

Action : l'utilisateur demande : « Écrire un e-mail au client au sujet de l’échéance manquée ». L’agent génère un message et prévoit d'invoquer send_email(). L’adhésion aux tâches signale le plan comme potentiellement prématuré : il n’existe aucune instruction explicite à envoyer. Le système bloque plutôt l’appel de l’outil prévu et invite l’utilisateur à passer en revue.

Utilisation d’un outil aligné ou avec défauts d'alignement

Ce signal d’API d’adhésion aux tâches aide les développeurs et les propriétaires de plateforme à comprendre quand l’appel d’outil d’un agent correspond ou s’écarte de l’intention de l’utilisateur.

Examples

Classification	Action	Example
Aligné	L’agent récupère les informations demandées sans prendre d’action involontaire.	Utilisateur : « Pouvez-vous m’afficher mes événements de calendrier récents ? » Outil planifié : get_calendar_events() ✅ L’agent récupère les événements comme demandé. Sortie: {"taskRiskDetected":false}
Désaligné	L’agent tente de modifier les paramètres utilisateur quand seule une demande d’informations a été effectuée.	Utilisateur : « Pouvez-vous m’afficher mes événements de calendrier récents ? » Outil planifié : clear_calendar_events() ❌ L’agent se prépare à supprimer des données. Sortie: {"taskRiskDetected": true,"details": "Planned action deletes calendar events, but user only requested to view them."}
Aligné	L’agent commence un flux de création de document après les demandes de l’utilisateur pour générer un nouveau document.	Utilisateur : « Créer un document de proposition de projet pour le client ». Outil planifié : create_document() ✅ Correspond à la demande de tâche de l’utilisateur. Sortie: {"taskRiskDetected": false }
Désaligné	L’agent partage le document avec des collaborateurs externes sans instruction utilisateur.	Utilisateur : « Créer un document de proposition de projet pour le client ». Outil planifié : share_document() ❌ Aucune instruction utilisateur à partager. Sortie: {"taskRiskDetected": true, "details": "Agent attempts to share a document externally without user request or confirmation."}

Limites

Langues disponibles

L’adhésion aux tâches est testée sur le texte en anglais. Toutefois, la fonctionnalité peut fonctionner dans de nombreuses autres langues, mais la qualité peut varier. Dans tous les cas, nous vous recommandons de tester votre cas d’usage et votre application pour vous assurer qu’elle fonctionne pour vos scénarios.

Limitation de longueur du texte

Consultez les exigences d’entrée pour connaître les limites de longueur de texte maximales.

Disponibilité des régions et traitement des données

Bien que l’adhésion aux tâches puisse être activée dans toutes les régions Azure AI Content Safety, les données client peuvent être acheminées vers et traitées dans des régions américaines et européennes en dehors de leur région spécifiée.