Notitie
Voor toegang tot deze pagina is autorisatie vereist. U kunt proberen u aan te melden of de directory te wijzigen.
Voor toegang tot deze pagina is autorisatie vereist. U kunt proberen de mappen te wijzigen.
[Dit artikel maakt deel uit van de voorlopige documentatie en kan nog veranderen.]
Met de functie voor menselijk toezicht kan het hulpprogramma voor computergebruik escaleren naar de revisor die u configureert onder de instellingen voor menselijk toezicht wanneer potentiële veiligheidsproblemen worden gedetecteerd. Dit gebeurt momenteel binnen de categorie Schadelijke instructies.
Notitie
Deze functie wordt geleidelijk geïmplementeerd in omgevingen met een vroege releasecyclus in de regio Verenigde Staten en is mogelijk nog niet beschikbaar in uw omgeving.
Belangrijk
Dit artikel bevat documentatie voor de preview van Microsoft Copilot Studio en kan nog veranderen.
Preview-functies zijn niet bedoeld voor productiegebruik en bieden mogelijk beperkte functionaliteit. Deze functies zijn beschikbaar voor een officiële release zodat u vroeg toegang kunt krijgen en feedback kunt geven.
Zie Overzicht van Microsoft Copilot Studio als u een productieklare agent aan het bouwen bent.
Het AI-model voert detectie uit door schermopnameafbeeldingen te evalueren voor conflictueuze inhoud die het gedrag van het model kan wijzigen. Wanneer het model dergelijke instructies tijdens de uitvoering signaleert (wat voorheen tot een onmiddellijke stop leidde), stuurt het nu het verzoek door naar een mens voor validatie. De menselijke revisor beslist of het gesignaleerde veiligheidsprobleem reëel is en de uitvoering moet worden stopgezet of dat de signalering onterecht is en het proces veilig kan worden voortgezet. In dergelijke gevallen genereert het systeem een beoordelingsaanvraag voor de geconfigureerde menselijke revisoren via e-mail (Outlook). Als er binnen de opgegeven time-outperiode geen antwoord wordt ontvangen, stopt de uitvoering van computergebruik zodra die tijdslimiet is bereikt.
Belangrijk
- Agenten voor computergebruik kunnen aanvallen met promptinjectie tegenkomen, waarbij verborgen instructies in schermopnamen, webpagina's of andere invoerpogingen proberen om acties op onbedoelde manieren te beïnvloeden. U kunt dit risico minimaliseren door deze agenten in vertrouwde, geïsoleerde omgevingen te gebruiken en robuuste validatiecontroles toe te passen voordat u instructies uitvoert. Als u Menselijk toezicht inschakelt, voegt u extra zichtbaarheid en controle toe door geautoriseerde menselijke revisoren toe te staan om gesignaleerde acties te valideren wanneer het model mogelijk schadelijke instructies detecteert, wat de kans op onbedoeld gedrag kan verminderen.
- De veiligheidscontroles die door de agent voor computergebruik worden uitgevoerd, kunnen worden geactiveerd door één antwoord, invoer of schermopname, of door meerdere onderdelen van dergelijke context. De veiligheidscontroles zijn bedoeld om menselijke controle uit te voeren voordat potentieel onomkeerbare of ongeoorloofde acties worden ondernomen door de agent voor computergebruik, maar de agent kan fouten maken bij het uitvoeren van de controles. Het kan bijvoorbeeld zijn dat de agent voor computergebruik bepaalde acties niet detecteert of om controle vraagt terwijl er geen veiligheidsrisico is. Beschouw de veiligheidscontroles niet als vervanging voor verantwoordelijk ontwerp en richtlijnen van de agent.
- De functie voor menselijk toezicht vraagt om controle van mogelijk onomkeerbare of ongeoorloofde acties, maar ondersteunt momenteel geen algemene bevestigingsverzoeken, vragen om ontbrekende informatie of andere soorten veiligheidscontroles.
Activiteiten van agenten en computergebruik controleren
Wanneer de agent voor computergebruik mogelijk schadelijke instructies detecteert, ontvangen de geconfigureerde revisoren een Outlook-e-mail. Voordat u reageert, is het belangrijk om te bevestigen om welke agentactiviteit het gaat en op welke activiteit van computergebruik de aanvraag betrekking heeft.
Notitie
Elke agentuitvoering en de bijbehorende activiteit is gekoppeld aan de gebruiker die deze initieert. Als u een andere revisor kiest dan de persoon die de agent voor computergebruik uitvoert, wordt de activiteit waarschijnlijk niet weergegeven omdat deze de uitvoering niet heeft gestart. Als u meerdere menselijke revisoren configureert, ontvangt elk een e-mail, maar alleen de initiator van de uitvoering heeft toegang tot de details van de activiteit.
In de volgende tabel ziet u de belangrijkste informatie die is opgenomen in een e-mailaanvraag voor menselijke beoordeling:
| Veld | Beschrijving |
|---|---|
| Agent die het hulpprogramma gebruikt | De naam van de Copilot Studio-agent. |
| Hulpprogramma voor computergebruik | De naam van het hulpprogramma voor computergebruik dat de aanvraag heeft geactiveerd. |
| Gespreks-id | De gespreks-id die u kunt gebruiken om een bepaalde activiteit te vinden. |
| Time-out van aanvraag | De datum en tijd van de aanvraagtime-out. |
| Aangevraagd door | De maker (eigenaar van de verbinding) van het hulpprogramma voor computergebruik. |
| Verzenden (met opties) | De definitieve beslissing Ja of Nee van de revisor om door te gaan of de uitvoering van computergebruik te stoppen. |
Aanvragen voor menselijke beoordeling door computergebruik controleren
Notitie
Als u de aanvragen voor menselijke beoordeling in het zijpaneel Actie Computergebruik in het activiteitenoverzicht van de agent wilt bekijken, moet u de functie Geavanceerde computergebruiksactiviteit inschakelen in uw omgeving. Als de geavanceerde activiteitservaring voor computergebruik niet wordt weergegeven in het activiteitenoverzicht, heeft uw beheerder deze functie mogelijk uitgeschakeld voor uw omgeving. Meer informatie vindt u in Geavanceerde computergebruiksactiviteit.
Aanvragen voor menselijke beoordeling controleren:
- Kopieer de gespreks-id (GUID) uit de hoofdtekst van de aanvraag voor menselijke beoordeling.
- Selecteer de koppeling Agent die het hulpprogramma gebruikt in het e-mailbericht om de overzichtspagina van de agent in Microsoft Copilot Studio te openen.
- Ga naar Activiteiten.
- Selecteer Zoeken naar uitvoering op id boven aan de lijst met activiteiten en voer de gekopieerde gespreks-id in.
- Zoek de computergebruiksactie met de naam van het geconfigureerde hulpprogramma voor computergebruik en open het zijpaneel.
- Bekijk de lijst met activiteiten in de sectie Activiteit van het zijpaneel. Voor activiteiten die wachten op menselijke beoordeling wordt een wachtsymbool weergegeven naast de antwoordtekst van het model. Veiligheidscontroles die door de agent voor computergebruik worden uitgevoerd, kunnen worden geactiveerd door één antwoord, invoer of schermopname, of door meerdere onderdelen van dergelijke context. Daarom bevat de schermopname die wordt weergegeven in een aanvraag voor menselijke beoordeling mogelijk zelf geen schadelijke inhoud.
- Bekijk zorgvuldig de activiteitengeschiedenis en schermopnamen om te bepalen of de veiligheidscontrole van het computergebruiksmodel geldig is.
- Wanneer u klaar bent, gaat u terug naar de e-mailmelding in Outlook en voert u de juiste actie uit op basis van uw bevindingen.