Remarque
L’accès à cette page nécessite une autorisation. Vous pouvez essayer de vous connecter ou de modifier des répertoires.
L’accès à cette page nécessite une autorisation. Vous pouvez essayer de modifier des répertoires.
Assurez-vous que vos agents IA s’alignent de manière cohérente avec les instructions utilisateur et les objectifs de tâche. Le signal d’adhésion à la tâche identifie les différences, telles que les appels d’outils mal alignés, les entrées ou sorties incorrectes de l’outil par rapport à l’intention de l’utilisateur et les incohérences entre les réponses et les entrées client. Cette fonctionnalité permet aux développeurs système d’atténuer de manière proactive les actions mal alignées en les bloquant ou en augmentant le problème d’intervention humaine.
Les principaux objectifs de la fonctionnalité d’adhésion aux tâches sont les suivants :
- Pour détecter les actions d’outil qui sont mal alignées avec les objectifs de l’utilisateur ou l’intention d’entrée, ou une entrée/sortie d’outil incorrecte par rapport à l’intention de l’utilisateur, ou des incohérences entre les réponses de l’agent et l’entrée du client.
- Pour fournir un raisonnement lorsque les appels d’outil sont mal alignés.
- Fournir un signal pour le blocage de l’invocation d’outils en aval et l’escalade vers une révision humaine dans la boucle (HITL) lorsque l’alignement de la tâche est à risque.
- Pour promouvoir la confiance des utilisateurs dans les systèmes agentiques en renforçant la cohérence comportementale, la transparence et le contrôle.
Prerequisites
- Un abonnement Azure - Create one gratuitement
- Une fois que vous avez votre abonnement Azure, créez une ressource Content Safety dans le portail Azure pour obtenir votre clé et votre point de terminaison. Entrez un nom unique pour votre ressource, sélectionnez votre abonnement, puis sélectionnez un groupe de ressources, une région et un niveau tarifaire pris en charge. Puis, sélectionnez Créer.
- Le déploiement de la ressource prend quelques minutes. Une fois l’opération terminée, sélectionnez Accéder à la ressource. Dans le volet gauche, sous Gestion des ressources, sélectionnez Clé d’abonnement et Point de terminaison. Le point de terminaison et l’une des clés sont utilisés pour appeler les API.
- cURL installé.
Requête
Note
Pour un exemple de bouclier d’invite, consultez les boucliers d’invite.
Version de l’API :2024-12-15-preview
Champs dans l’URL
| Nom | Obligatoire | Description | Type |
|---|---|---|---|
| Point de terminaison | Oui | URL de base de l’API Content Safety. Remplacez <endpoint> par le point de terminaison fourni pour votre service Azure. |
Chaîne |
| Version de l’API | Oui | Version de l’API à utiliser. Pour cette fonctionnalité, la version est 2024-12-15-preview. Exemple : <endpoint>/contentsafety/agent:analyzeTaskAdherence?api-version=2024-12-15-preview |
Chaîne |
Paramètres dans le corps de la requête
| Nom | Obligatoire | Description | Type |
|---|---|---|---|
| outils | Oui | Liste des outils qui définissent les fonctions à utiliser dans la tâche. Chaque outil inclut un type (par exemple, « fonction ») et des détails sur la fonction, y compris son nom et sa description. | Tableau d’objets JSON |
| messages | Oui | Liste des messages échangés entre l’utilisateur, l’Assistant et les outils. Chaque message inclut la source (par exemple, « Invite », « Achèvement »), le rôle (par exemple, « Utilisateur », « Assistant », « Outil »), le contenu (texte du message) et éventuellement toolCalls ou toolCallId. | Tableau d’objets JSON |
Exemple de schéma de corps de requête
Les tableaux suivants sont des descriptions des champs clés dans le corps de la demande :
champ des outils
| Nom | Obligatoire | Description | Type |
|---|---|---|---|
| type | Oui | Type d’outil utilisé. Pour cette fonctionnalité, il s’agit de « fonction » | Chaîne |
| function.name | Oui | Nom de la fonction. Par exemple, « read_emails » | Chaîne |
| description de la fonction | Oui | Brève description de ce que fait la fonction. Par exemple, « Lit les e-mails de l’utilisateur » | Chaîne |
champ messages
| Nom | Obligatoire | Description | Type |
|---|---|---|---|
| source | Oui | Origine du message. Valeurs possibles : Prompt, Completion | Chaîne |
| role | Oui | Rôle associé au message. Valeurs possibles : « Utilisateur », « Assistant », « Outil » | Chaîne |
| contents | Oui | Contenu du message. Par exemple, « Résumer mes e-mails » | Chaîne ou tableau |
| toolCalls | Non | Liste des appels d’outil effectués par l’agent, y compris le type (par exemple, « function »), function.name, function.arguments et un ID unique. | Tableau d’objets JSON |
| toolCallId | Non | (Pour les messages de l’outil) l’ID de l'appel de l'outil auquel on répond. Correspond à l’ID fourni dans l’appel d’outil de l’agent. | Chaîne |
Réponse de l’API
Après avoir envoyé votre demande, vous recevrez des données JSON reflétant l’analyse effectuée par l’adhésion aux tâches. Ces données signalent les vulnérabilités potentielles au sein de votre flux de travail de l’agent. Voici à quoi ressemble une sortie classique :
{
"taskRiskDetected": true,
"details": "Agent attempts to share a document externally without user request or confirmation."
}
| Nom | Description | Type |
|---|---|---|
| taskRiskDetected | Contient les résultats de la détection des risques pour l’entrée | Booléen |
| details | Fournit l'analyse lorsqu’un risque est détecté | Chaîne |
Une valeur de true pour taskRiskDetected indique un risque détecté, auquel cas nous recommandons une révision et une action, comme le blocage de la demande d’invocation d’outil ou une escalade vers une révision humaine dans la boucle.
Prerequisites
Un compte Azure. Si vous n’en avez pas, vous pouvez en créer un gratuitement. Ressource IA Azure.
Configurer et utiliser l’adhésion aux tâches
Pour utiliser la page Sécurité du contenu, suivez ces étapes :
- Accédez à Azure AI Foundry et accédez à votre projet/hub. Sélectionnez ensuite l’onglet Garde-fous + contrôles dans le volet de navigation gauche, puis sélectionnez l’onglet Essayer.
- Sur la page Essayer , vous pouvez expérimenter différentes fonctionnalités de garde-fous et de contrôles, telles que du texte et du contenu d’image, à l’aide de seuils réglables pour filtrer le contenu dangereux.
- Accédez à Agentic Workflow et sélectionnez Adhérence aux tâches.
- Vous pouvez sélectionner l’un des exemples avec des appels d’outils d’agent alignés ou non alignés, ou créer le vôtre pour tester l’adhérence à la tâche.
- Sélectionnez Exécuter le test. La conformité des tâches renvoie l’indicateur de risque pour chaque échantillon et, si un risque est détecté, elle renvoie un motif.
Scénarios utilisateur
Service client
Scénario: Un assistant de support client intégré à une plateforme d’entreprise permet aux utilisateurs de vérifier l’utilisation des données, de résoudre les problèmes et de gérer les paramètres de compte. Pour maintenir une automatisation précise, le système intègre l’adhésion aux tâches pour valider les plans d’agent avant d’exécuter des appels d’outil back-end.
Utilisateur: Utilisateurs finaux, agents de support et équipes d’expérience client.
Action: Un utilisateur message le chatbot : « Pouvez-vous vérifier la quantité de données que j’ai utilisées ce mois-ci ? » L’assistant prévoit d’appeler un change_data_plan() outil. L’adhésion aux tâches détecte une erreur d’alignement entre l’intention de l’utilisateur (demande d’informations) et l’action proposée (modification de l’abonnement). L’appel de l’outil peut être bloqué et le système interrompt l’exécution ou demande à l’utilisateur de passer en revue.
Ressources humaines
Scénario: Un assistant d’entreprise automatise les flux de travail liés aux ressources humaines de routine, tels que la réservation de congés, l’envoi de dépenses et la vérification des détails de la stratégie. L’adhésion aux tâches garantit que les actions de l’agent restent dans l’étendue attendue et ne prennent pas de raccourcis inattendus.
Utilisateur: Employés, partenaires commerciaux rh et équipes d’automatisation des flux de travail.
Action: Un employé tape : « Je veux savoir combien de congés annuels il me reste ». L’agent prévoit d’appeler apply_leave(). L’adhésion aux tâches identifie une incompatibilité de tâche : l’utilisateur a demandé des informations, et non pas pour lancer un processus. L'exécution est bloquée ; l'agent reformule ou demande une confirmation.
Outils de productivité
Scénario: Un assistant de productivité incorporé dans une plateforme de messagerie aide les professionnels à se connecter aux bases de données, à rédiger, à examiner et à envoyer des messages. L’adhésion aux tâches est utilisée pour distinguer l’écriture d’un brouillon et l’exécution d’une commande d’envoi, en particulier dans les cas où l’intention de l’utilisateur est ambiguë.
Utilisateur: Les travailleurs des connaissances, les assistants exécutifs et les équipes de conformité informatique.
Action: L’utilisateur invite : « Écrire un e-mail au client au sujet de l’échéance manquée ». L’agent génère un message et prévoit d’appeler send_email(). L’adhésion aux tâches signale que le plan est potentiellement prématuré ; il n’existe aucune instruction explicite à envoyer. Au lieu de cela, le système bloque l'appel de l'outil prévu et invite l'utilisateur à examiner la situation.
Respect des tâches : utilisation des outils alignée ou non alignée
Le signal de l’API d’adhésion aux tâches permet aux développeurs et aux propriétaires de plateforme de comprendre quand l’appel d’outil d’un agent correspond ou s’écarte de l’intention de l’utilisateur.
Exemples
| Classification | Description | Exemple |
|---|---|---|
| aligné | L’agent récupère les informations demandées sans prendre d’action involontaire. |
Utilisateur: « Pouvez-vous me montrer mes événements de calendrier récents ? » Outil planifié : get_calendar_events()✅ L’agent récupère les événements comme demandé. Output: { "taskRiskDetected": false } |
| Désaligné | L’agent tente de modifier les paramètres utilisateur quand seule une demande d’informations a été effectuée. |
Utilisateur: « Pouvez-vous me montrer mes événements de calendrier récents ? » Outil planifié : clear_calendar_events()❌ L’agent se prépare à supprimer des données. Output: { "taskRiskDetected": true, "details": "Planned action deletes calendar events, but user only requested to view them."} |
| aligné | L’agent commence un flux de création de document après les demandes de l’utilisateur pour générer un nouveau document. |
Utilisateur: « Créer un document de proposition de projet pour le client ». Outil planifié : create_document()✅ Correspond à la demande de tâche de l’utilisateur. Output: { "taskRiskDetected": false} |
| Désaligné | L’agent partage le document avec des collaborateurs externes sans instruction utilisateur. |
Utilisateur: « Créer un document de proposition de projet pour le client ». Outil planifié : share_document()❌ Aucune instruction utilisateur à partager. Output: { "taskRiskDetected": true, "details": "Agent attempts to share a document externally without user request or confirmation."} |
Limites
Langues disponibles
L’adhésion aux tâches a été testée sur le texte en anglais ; Toutefois, la fonctionnalité peut fonctionner dans de nombreuses autres langues, même si la qualité peut varier. Dans tous les cas, nous vous recommandons de tester votre cas d’usage et votre application pour vous assurer qu’elle fonctionne pour vos scénarios.
Limitation de longueur du texte
Actuellement, l’API d’adhésion aux tâches présente des limitations de longueur d’entrée. La longueur maximale du texte est de 100 000 caractères. Si votre longueur d’entrée dépasse cette limitation, vous recevrez une erreur.
Disponibilité des régions et traitement des données
Bien que l’adhésion aux tâches puisse être activée dans toutes les régions Azure AI Sécurité du Contenu, les données peuvent être acheminées vers et traitées dans d’autres régions des États-Unis et de l’UE en dehors de la zone géographique spécifiée.