Misbruikcontrole

  • Artikel

Azure OpenAI Service detecteert en beperkt exemplaren van terugkerende inhoud en/of gedragingen die het gebruik van de service voorstellen op een manier die de gedragscode of andere toepasselijke productvoorwaarden kan schenden. Meer informatie over hoe gegevens worden verwerkt, vindt u op de pagina Gegevens, Privacy en Beveiliging. Aanvragen voor aangepaste misbruikbewaking met behulp van dit formulier: Beperkte toegangsbeoordeling van Azure OpenAI: Gewijzigd misbruikbewaking.

Onderdelen van misbruikbewaking

Er zijn verschillende onderdelen voor het misbruiken van bewaking:

  • Inhoudsclassificatie: Classificatiemodellen detecteren schadelijke taal en/of afbeeldingen in gebruikersprompts (invoer) en voltooiingen (uitvoer). Het systeem zoekt naar categorieën van schade zoals gedefinieerd in de inhoudsvereisten en wijst ernstniveaus toe, zoals beschreven op de pagina Inhoudsfiltering.

  • Misbruikpatroon vastleggen: de bewaking van misbruik van De Azure OpenAI-service kijkt naar gebruikspatronen van klanten en maakt gebruik van algoritmen en heuristieken om indicatoren van potentieel misbruik te detecteren. Gedetecteerde patronen zijn bijvoorbeeld de frequentie en ernst waarmee schadelijke inhoud wordt gedetecteerd in de prompts en voltooiingen van een klant.

  • Menselijke beoordeling en beslissing: wanneer prompts en/of voltooiingen worden gemarkeerd via inhoudsclassificatie en misbruikpatroon, zoals hierboven beschreven, kunnen geautoriseerde Microsoft-werknemers de gemarkeerde inhoud beoordelen en de classificatie of bepaling bevestigen of corrigeren op basis van vooraf gedefinieerde richtlijnen en beleidsregels. Gegevens kunnen alleen worden geopend voor menselijke beoordeling door geautoriseerde Microsoft-werknemers via Secure Access Workstations (SAW's) met Just-In-Time-aanvraaggoedkeuring verleend door teammanagers. Voor Azure OpenAI Service-resources die zijn geïmplementeerd in de Europese Economische Ruimte, bevinden de geautoriseerde Microsoft-werknemers zich in de Europese Economische Ruimte.

  • Melding en actie: wanneer een drempelwaarde voor belediging is bevestigd op basis van de voorgaande drie stappen, wordt de klant op de hoogte gesteld van de bepaling per e-mail. Behalve in gevallen van ernstig of terugkerend misbruik krijgen klanten doorgaans de mogelijkheid om het misbruik te verklaren of te herstellen en mechanismen te implementeren om terugkeerpatroon te voorkomen. Als u het gedrag, of terugkerend of ernstig misbruik, niet kunt aanpakken, kan dit leiden tot opschorting of beëindiging van de toegang van de klant tot Azure OpenAI-resources en/of -mogelijkheden.

Volgende stappen