Delen via

Fouten met verantwoordelijke AI-inhoudsfilters oplossen

Gebruik de stappen in dit artikel om te identificeren en te verduidelijken waarom verantwoordelijke AI-richtlijnen Copilot Studio-agentberichten filteren.

Symptomen

Als een agent een scenario identificeert dat in strijd is met de richtlijnen voor verantwoorde AI, wordt het volgende foutbericht geactiveerd:

Error Message: The content was filtered due to Responsible AI restrictions.
Error Code: ContentFiltered

Schermopname van een foutberichtwaarschuwing dat de inhoud is gefilterd vanwege verantwoordelijke AI-beperkingen.

Oorzaak

Copilot Studio dwingt beleid voor inhoudsbeheer af op alle generatieve AI-aanvragen om ervoor te zorgen dat beheerders, makers en gebruikers niet blootstaan aan potentieel aanstootgevend of schadelijk materiaal.

Deze beleidsregels hebben ook betrekking op acties zoals jailbreaking, promptinjectie, exfiltratie en inbreuk op het auteursrecht.

Inhoud wordt tweemaal geëvalueerd: eenmaal in de fase van gebruikersinvoer en opnieuw voordat de agent een antwoord geeft. Als schadelijke, aanstootgevende of schadelijke inhoud wordt gedetecteerd, blokkeert het systeem dat de agent reageert en een foutbericht weergeeft aan de gebruiker.

Probleemoplossingsproces

Foutonderzondering controleren met Azure Application Insights

Met Azure Application Insights kunt u telemetrie van agentgebeurtenissen bekijken, inclusief geactiveerde uitzonderingen.

Opmerking

Als u Application Insights wilt gebruiken, vereist uw tenant een actief Azure-abonnement en moet u over de benodigde rollen beschikken om Azure-resources te maken.

Zie Application Insights-resources maken en configureren enTelemetrie vastleggen met Application Insights voor meer informatie over het verbinden van Application Insights met uw agent.

Zodra Azure Application Insights beschikbaar is en is verbonden met uw agent, kunt u de telemetrie analyseren, inclusief verantwoordelijke AI-uitzonderingen. Als u wilt controleren of uw agent deze uitzonderingen bevat of om te begrijpen of een specifieke gespreks-id is beïnvloed, kunt u de volgende KQL-query's gebruiken:

  • Controleer of uw agent een RAI-uitzondering heeft gelopen:
customEvents
> \| where customDimensions contains "ContentFiltered"
\| project timestamp, name, itemType, customDimensions, session_Id,
user_Id, cloud_RoleInstance

Voorbeelduitvoer

Schermopname van een Azure Application Insights-tabel gefilterd op een KQL-query om te bepalen of er RAI-uitzonderingen zijn.

  • Controleer of hetzelfde scenario heeft plaatsgevonden voor een specifieke gespreks-id:
customEvents
\| where customDimensions contains "***conversationID***"
\| where customDimensions contains "ContentFiltered" \| project
timestamp, name, itemType, customDimensions, session_Id, user_Id,
cloud_RoleInstance

Voorbeelduitvoer

Schermopname van een Azure Application Insights-tabel die is gefilterd op een KQL-query om te valideren op basis van een specifieke gespreks-id.

Verantwoordelijke AI-fouten analyseren met gesprektranscripties

U kunt gesprektranscripties ook bekijken om te begrijpen wat het bericht was dat een respons op een verantwoordelijk AI-filter heeft geactiveerd. Zie voor meer informatie hoe u gesprektranscripties downloadt.

Voorbeeld van gesprektranscriptiefragment

Schermopname van een voorbeeld van een transcriptiefragment van een gesprek.

Solution

Als uw agentantwoorden worden gefilterd vanwege verantwoordelijke AI-kaders en op basis van de informatie die is opgehaald uit gesprektranscripties, kunt u verantwoorde AI-richtlijnen met uw agentgebruikers versterken om deze situatie te voorkomen.

U kunt eventueel ook het beleid voor inhoudsbeheer van de agent bijwerken.

  • Last updated on