Notitie
Voor toegang tot deze pagina is autorisatie vereist. U kunt proberen u aan te melden of de directory te wijzigen.
Voor toegang tot deze pagina is autorisatie vereist. U kunt proberen de mappen te wijzigen.
Zorg ervoor dat uw AI-agents consistent zijn afgestemd op gebruikersinstructies en taakdoelstellingen. Het signaal Taaknauwkeurigheid identificeert afwijkingen, zoals verkeerd uitgelijnde oproepen van tools, onjuiste invoer of uitvoer van tools ten opzichte van de bedoeling van de gebruiker, en inconsistenties tussen antwoorden en invoer van de klant. Deze functionaliteit stelt systeemontwikkelaars in staat om verkeerd uitgelijnde acties proactief te beperken door ze te blokkeren of het probleem te escaleren voor menselijke interventie.
De primaire doelstellingen van de functie Taakvolging zijn:
- Hulpprogrammaacties detecteren die onjuist zijn afgestemd op gebruikersdoelen of invoerintentie, of onjuiste invoer/uitvoer van hulpprogramma's ten opzichte van gebruikersintentie, of inconsistenties tussen agentreacties en klantinvoer.
- Redenering geven wanneer tool-aanroepen niet goed zijn uitgelijnd.
- Om een signaal te geven voor het blokkeren van downstream-procesaanroep en het escaleren naar een HITL (Human-In-The-Loop) evaluatie wanneer de afstemming van taken risico loopt.
- Om het vertrouwen van gebruikers in agentische systemen te bevorderen door gedragsconsistentie, transparantie en controle te versterken.
Vereiste voorwaarden
- Een Azure-abonnement - Maak er gratis een
- Zodra u uw Azure-abonnement hebt, maakt u een Content Safety-resource in de Azure-portal om uw sleutel en eindpunt op te halen. Voer een unieke naam in voor uw resource, selecteer uw abonnement en selecteer een resourcegroep, regio en ondersteunde prijscategorie. Klik vervolgens op Maken.
- Het implementeren van de resource duurt enkele minuten. Nadat deze is voltooid, selecteert u Ga naar resource. Selecteer in het linkerdeelvenster onder Resourcebeheer de optie Abonnementssleutel en Eindpunt. Het eindpunt en een van de sleutels worden gebruikt om API's aan te roepen.
- cURL geïnstalleerd.
Verzoek
Opmerking
Zie promptschilden voor een voorbeeld van een promptschild.
API-versie:2024-12-15-preview
Velden in de URL
| Naam | Verplicht | Beschrijving | Typ |
|---|---|---|---|
| Eindpunt | Ja | De basis-URL voor de Content Safety-API. Vervang <endpoint> door het eindpunt dat is opgegeven voor uw Azure-service. |
Snaar / Touwtje |
| API-versie | Ja | De versie van de API die moet worden gebruikt. Voor deze functie is de versie 2024-12-15-preview. Voorbeeld: <endpoint>/contentsafety/agent:analyzeTaskAdherence?api-version=2024-12-15-preview |
Snaar / Touwtje |
Parameters in de aanvraagbody
| Naam | Verplicht | Beschrijving | Typ |
|---|---|---|---|
| gereedschappen | Ja | Een lijst met hulpprogramma's waarmee functies worden gedefinieerd die in de taak moeten worden gebruikt. Elk hulpprogramma bevat een type (bijvoorbeeld 'functie') en details over de functie, inclusief de naam en beschrijving. | Matrix van JSON-objecten |
| Berichten | Ja | Een lijst met berichten die worden uitgewisseld tussen de gebruiker, assistent en hulpprogramma's. Elk bericht bevat de bron (bijvoorbeeld 'Prompt', 'Voltooiing'), de rol (bijvoorbeeld 'Gebruiker', 'Assistent', 'Tool'), inhoud (berichttekst) en optioneel toolCalls of toolCallId. | Matrix van JSON-objecten |
Voorbeeld van het hoofdtekstschema van de aanvraag
De volgende tabellen zijn beschrijvingen van de sleutelvelden in de aanvraagbody:
gereedschapsveld
| Naam | Verplicht | Beschrijving | Typ |
|---|---|---|---|
| soort | Ja | Het type hulpprogramma dat wordt gebruikt. Voor dit kenmerk is het 'functie' | Snaar / Touwtje |
| functie.naam | Ja | De naam van de functie. Bijvoorbeeld "read_emails" | Snaar / Touwtje |
| functiebeschrijving | Ja | Een korte beschrijving van wat de functie doet. Bijvoorbeeld 'Leest de e-mailberichten van de gebruiker' | Snaar / Touwtje |
berichtenveld
| Naam | Verplicht | Beschrijving | Typ |
|---|---|---|---|
| bron | Ja | De oorsprong van het bericht. Mogelijke waarden: "Prompt", "Completion" | Snaar / Touwtje |
| rol | Ja | De rol die aan het bericht is gekoppeld. Mogelijke waarden: "Gebruiker", "Assistent", "Tool" | Snaar / Touwtje |
| contents | Ja | De inhoud van het bericht. Bijvoorbeeld 'Mijn e-mailberichten samenvatten' | Tekenreeks of array |
| toolCalls | No | Een lijst met hulpprogramma-aanroepen die door de agent worden aangeroepen, inclusief het type (bijvoorbeeld 'functie'), function.name, function.arguments en een unieke id. | Matrix van JSON-objecten |
| toolAanroepId | No | (Voor berichten van hulpprogramma's) De id van de aanroep van het hulpprogramma waar op wordt gereageerd. Komt overeen met de id die is opgegeven in de aanroep van de agent. | Snaar / Touwtje |
API-reactie
Nadat u uw aanvraag hebt ingediend, ontvangt u JSON-gegevens die de analyse weerspiegelen die door taaknavolging wordt uitgevoerd. Met deze gegevens worden mogelijke beveiligingsproblemen in uw agent-werkstroom aangegeven. Hier ziet u hoe een typische uitvoer eruitziet:
{
"taskRiskDetected": true,
"details": "Agent attempts to share a document externally without user request or confirmation."
}
| Naam | Beschrijving | Typ |
|---|---|---|
| taakRisicoGedetecteerd | Bevat risicodetectieresultaten voor de invoer | Boolean |
| details | Geeft een uitleg wanneer een risico wordt gedetecteerd | Snaar / Touwtje |
Een waarde van true voor taskRiskDetected duidt op een gedetecteerd risico. In dat geval raden we aan om de situatie te beoordelen en actie te ondernemen, zoals het blokkeren van de verzoeken om het hulpprogramma aan te roepen of het inschakelen van menselijke beoordeling.
Vereiste voorwaarden
Een Azure-account. Als u geen account hebt, kunt u er gratis een maken. Een Azure AI-resource.
Naleving van taken instellen en gebruiken
Volg deze stappen om de pagina Content Safety uit te proberen :
- Ga naar Azure AI Foundry en navigeer naar uw project/hub. Selecteer vervolgens het tabblad Kaders en besturingselementen in het linkernavigatievenster en selecteer het tabblad Uitproberen.
- Op de pagina Uitproberen kunt u experimenteren met verschillende kaders en besturingselementen, zoals tekst- en afbeeldingsinhoud, met behulp van aanpasbare drempelwaarden om te filteren op schadelijke inhoud.
- Navigeer naar agentische werkstroom en selecteer Taaknavolging.
- U kunt een van de voorbeelden selecteren met uitgelijnde of verkeerd uitgelijnde agenttoolaanroepen of uw eigen hulpprogramma's maken om de taaknaleving te testen.
- Selecteer Test uitvoeren. Taaknaleving geeft de risicovlag terug voor elke steekproef en als er een risico wordt gedetecteerd, geeft het een reden terug.
Gebruikersscenario's
Klantenondersteuning
Scenario: Een klantenserviceassistent die is geïntegreerd in een bedrijfsplatform helpt gebruikers bij het controleren van het gegevensgebruik, het oplossen van problemen en het beheren van accountinstellingen. Om nauwkeurige automatisering te behouden, bevat het systeem taakafvolging om agentplannen te valideren voordat back-endhulpprogrammaaanroepen worden uitgevoerd.
Gebruiker: Eindgebruikers, ondersteuningsmedewerkers en teams voor klantervaringen.
Actie: Een gebruiker verzendt de chatbot: 'Kunt u controleren hoeveel gegevens ik deze maand heb gebruikt?' De assistent is van plan een change_data_plan() hulpprogramma aan te roepen. Taakvolging detecteert een onjuiste uitlijning tussen de intentie van de gebruiker (informatieaanvraag) en de voorgestelde actie (abonnementswijziging). De aanroep van het hulpprogramma kan worden geblokkeerd en het systeem stopt de uitvoering of vraagt de gebruiker om beoordeling.
Personeel
Scenario: Een ondernemingsassistent automatiseert routinewerkstromen met betrekking tot HR, zoals boekingsverlof, het indienen van uitgaven en het controleren van beleidsdetails. Taaknaleving zorgt ervoor dat agentacties binnen de verwachte omvang blijven en geen onbedoelde snelkoppelingen nemen.
Gebruiker: Werknemers, HR-zakenpartners en werkstroomautomatiseringsteams.
Actie: Een werknemer typt: "Ik wil weten hoeveel jaarlijks verlof ik nog heb." De agent wil aanroepen apply_leave(). Taaknavolging identificeert een niet-overeenkomende taak: de gebruiker heeft om informatie gevraagd, niet om een proces te starten. De uitvoering wordt geblokkeerd; de agent herformuleert of vraagt om bevestiging.
Hulpprogramma's voor productiviteit
Scenario: Met een productiviteitsassistent die is ingesloten in een e-mailplatform, kunnen professionals verbinding maken met databases en berichten opstellen, beoordelen en verzenden. Taakvolging wordt gebruikt om onderscheid te maken tussen het schrijven van een concept en het uitvoeren van een verzendopdracht, met name in gevallen waarin de intentie van de gebruiker niet eenduidig is.
Gebruiker: Kenniswerkers, leidinggevenden en IT-complianceteams.
Actie: De gebruiker vraagt: "Schrijf een e-mail naar de client over de gemiste deadline." De agent genereert een bericht en is van plan om aan te roepen send_email(). Taakvolging markeert het plan als mogelijk voortijdig; er is geen expliciete instructie om te verzenden. Het systeem blokkeert in plaats daarvan de beoogde aanroep van het hulpprogramma en vraagt de gebruiker te controleren.
Naleving van taken: afgestemd versus misbruik van gereedschap.
Het API-signaal voor taakafvolging helpt ontwikkelaars en platformeigenaren te begrijpen wanneer de aanroep van een agent overeenkomt of afwijkt van de intentie van de gebruiker.
Examples
| Classificatie | Beschrijving | Voorbeeld |
|---|---|---|
| Uitgelijnd | Agent haalt aangevraagde informatie op zonder onbedoelde actie te ondernemen. |
Gebruiker: "Kunt u mij mijn recente agendagebeurtenissen laten zien?" Gepland hulpprogramma: get_calendar_events()✅ Agent haalt gebeurtenissen op zoals gevraagd. Uitvoer: { "taskRiskDetected": false } |
| Verkeerd uitgelijnd | Agent probeert gebruikersinstellingen te wijzigen wanneer er alleen een informatieaanvraag is ingediend. |
Gebruiker: "Kunt u mij mijn recente agendagebeurtenissen laten zien?" Gepland hulpprogramma: clear_calendar_events()❌ Agent bereidt zich voor om gegevens te verwijderen. Uitvoer: { "taskRiskDetected": true, "details": "Planned action deletes calendar events, but user only requested to view them."} |
| Uitgelijnd | Agent begint een proces om een document te creëren nadat een gebruiker vraagt om een nieuw document te genereren. |
Gebruiker: "Maak een nieuw projectvoorsteldocument voor de klant." Gepland hulpprogramma: create_document()✅ Komt overeen met de taakaanvraag van de gebruiker. Uitvoer: { "taskRiskDetected": false} |
| Verkeerd uitgelijnd | Agent deelt het document met externe medewerkers zonder gebruikersinstructie. |
Gebruiker: "Maak een nieuw projectvoorsteldocument voor de klant." Gepland hulpprogramma: share_document()❌ Geen gebruikersinstructie om te delen. Uitvoer: { "taskRiskDetected": true, "details": "Agent attempts to share a document externally without user request or confirmation."} |
Beperkingen
Beschikbaarheid van taal
Naleving van taken is getest op tekst in het Engels; De functie kan echter in veel andere talen werken, hoewel de kwaliteit kan variëren. In alle gevallen raden we u aan om te testen voor uw use-case en toepassing om ervoor te zorgen dat deze geschikt is voor uw scenario's.
Beperking tekstlengte
Op dit moment heeft de API voor de naleving van taken beperkingen voor de invoerlengte. De maximale tekstlengte is 100.000 tekens. Als de invoerlengte deze beperking overschrijdt, krijgt u een foutmelding.
Beschikbaarheid en gegevensverwerking van regio's
Hoewel taakvolging kan worden ingeschakeld in alle Azure AI Content Veiligheid regio's, kunnen gegevens worden doorgestuurd naar en verwerkt in andere REGIO's in de VS en de EU buiten de opgegeven geografische regio's.