Menselijk toezicht op computergebruik

Note

Dit artikel beschrijft functies die worden gebruikt in agenten of agentstromen die gebruikmaken van het standard harness.

Wanneer u menselijk toezicht gebruikt, escaleert de computer-using-agent naar de persoon die u configureert in de instellingen voor menselijk toezicht wanneer deze bevestiging of meer informatie nodig heeft.

Note

Computergebruikende agenten kunnen te maken krijgen met promptinjectie-aanvallen, waarbij verborgen instructies in schermopnamen, webpagina's of andere invoer proberen om acties op onbedoelde manieren te beïnvloeden. U kunt dit risico minimaliseren door deze agenten in vertrouwde, geïsoleerde omgevingen te gebruiken en robuuste validatiecontroles toe te passen voordat u instructies uitvoert.

Feature-ondersteuning per model

De volgende tabel geeft weer welke modellen de menselijke supervisiefunctie ondersteunen.

Modelaanbieder	Versie	Status	Ondersteunt menselijke supervisie
Azure OpenAI	OpenAI-computer met Agent v1	Gepensioneerd	Yes
Azure OpenAI	Computergebruiker-Agent (CGA)	Actief	Yes
Anthropic	Claude Sonnet 4.5	Actief	Yes

Activiteiten van agenten en computergebruik controleren

Tijdens de uitvoering, wanneer de agent die de computer gebruikt bevestiging of aanvullende informatie nodig heeft, kan hij een reviewverzoek sturen naar de geconfigureerde menselijke reviewer via Outlook-e-mail. Het kan ook een inline beoordelingskaart tonen in het paneel voor geavanceerde computergebruiksactiviteiten.

Waarschijnlijk AI-modelgedrag triggert menselijke reviewverzoeken. Dit gedrag betekent dat het model deze verzoeken niet in elke situatie activeert waarin iemand een pauze wil, en het kan deze verzoeken ook activeren wanneer een pauze niet nodig is. Vertrouw niet op menselijke beoordelings- of verduidelijkingsverzoeken als failsafe of als garantie dat het systeem altijd menselijke input vraagt voordat het verder gaat.

Note

• Alleen de ontwikkelaar van de tool voor computergebruik ontvangt verzoeken om menselijke beoordeling en heeft toegang tot gedetailleerde logboeken via het geavanceerde activiteitenpaneel voor computergebruik. Als je onder machineinstellingen Eindgebruikersgegevens selecteert , ontvangt de persoon die oorspronkelijk de verbinding heeft ingesteld deze verzoeken, maar alleen als hij ook als een van de aangewezen menselijke beoordelaars is opgenomen.
• Om de menselijke beoordelingsverzoeken te bekijken die direct in het computer-gebruikende agentactiviteitspaneel binnen de activiteitskaart van de agent staan, moet je geavanceerde computergebruikslogging in je omgeving inschakelen. Als de geavanceerde activiteitservaring voor computergebruik niet wordt weergegeven in het activiteitenoverzicht, heeft uw beheerder deze functie mogelijk uitgeschakeld voor uw omgeving.

In de volgende tabel ziet u de belangrijkste informatie die is opgenomen in een e-mailaanvraag voor menselijke beoordeling:

Veld	Description
Agent die het hulpprogramma gebruikt	De naam van de Copilot Studio-agent.
Hulpprogramma voor computergebruik	De naam van het hulpprogramma voor computergebruik dat de aanvraag heeft geactiveerd.
Gesprek	De dieplink naar de agentactiviteit waarin het hulpprogramma voor computergebruik momenteel wordt uitgevoerd.
Time-out van aanvraag	De datum en tijd van de time-out van het verzoek
Aangevraagd door	De maker (eigenaar van de verbinding) van het hulpprogramma voor computergebruik.
Ontbrekende informatie opgeven	Het tekstvak voor het antwoord dat moet worden verzonden naar het hulpprogramma voor computergebruik.
Verzenden	De knop om het ingevoerde tekstantwoord in te dienen. Voor een bevestigingsverzoek kun je Ja typen om te bevestigen of Nee om te weigeren.

Reageren op aanvragen voor menselijke beoordeling

Als u wilt reageren op aanvragen voor menselijke controle, kunt u reageren via e-mail of inline via het activiteitenvenster voor computergebruik in de activiteitenkaart van de agent. Inline antwoorden vereisen dat logregistratie van geavanceerd computergebruik in de omgeving is ingeschakeld. Als u in beide gevallen geen antwoord opgeeft, blijft de werkstroom onderbroken en stopt deze automatisch wanneer de time-out die is opgegeven in het e-mailbericht wordt bereikt.

Important

Het menselijke supervisiesysteem is gebaseerd op probabilistisch AI-modelgedrag. Hoewel het systeem een systeemprompt en misschien andere beperkingen bevat, kan het soms verduidelijkingsaanvragen genereren die niet nodig zijn. Het kan niet worden geactiveerd wanneer er een wordt verwacht, of het kan vragen om informatie die niet in de opgegeven context moet worden opgegeven, inclusief mogelijk gevoelige informatie.

Daarom moeten beoordelaars oordeel hanteren bij het beantwoorden van verzoeken om menselijke supervisie en geen gevoelige informatie zoals gebruikersnamen, wachtwoorden, pincodes, creditcardgegevens of sofinummers indienen. Afhankelijk van de configuratie van uw organisatie kunnen antwoorden op menselijke reviewverzoeken blijven bestaan in uw Dataverse-omgeving of Purview-auditlogs en zichtbaar zijn voor gemachtigde gebruikers binnen uw organisatie.

Reageren via e-mail

De e-mail van de menselijke beoordelingsaanvraag bevat details over de agent, het hulpprogramma en het gesprek, samen met de specifieke informatie of verduidelijking die wordt aangevraagd. Controleer de aanvraag zorgvuldig om te bepalen of u voldoende informatie hebt om te reageren. Voer, indien van toepassing, uw antwoord in het aangewezen tekstveld in en selecteer Verzenden.

Inline reageren

1. Selecteer de koppeling Gesprek in de e-mail van de menselijke beoordelingsaanvraag om het activiteitenoverzicht van de agent te openen.
2. Zoek de computergebruiksactie die overeenkomt met het geconfigureerde hulpprogramma voor computergebruik en open het zijpaneel.
3. Bekijk de lijst met activiteiten in de sectie Activiteit van het zijpaneel. Activiteiten die wachten op menselijke beoordeling worden gemarkeerd met een wachtindicator naast het modelantwoord.
4. Controleer de aanvraag zorgvuldig en bepaal of u voldoende informatie hebt om te reageren. Voer, indien van toepassing, uw antwoord in het aangewezen tekstveld in en selecteer Verzenden.

Schakel menselijke supervisie uit

Important

Het uitschakelen van menselijke supervisie maakt de computergebruikende agent niet volledig autonoom. De medewerker pauzeert nog steeds als hij bevestiging of verduidelijking nodig heeft. Als er geen beoordelaars zijn geconfigureerd, kunnen deze verzoeken nergens naartoe worden gestuurd, waardoor de sessie mislukt wanneer de agent pauzeert. Configureer minstens één reviewer.

Om menselijke supervisie uit te schakelen, ga je naar de sectie Menselijke supervisie van de computertool en verwijder je alle beoordelaars uit de lijst Opdrachten toewijzen .

Verwante informatie

Veelgestelde vragen over het hulpprogramma voor computergebruik