Wat is Azure Content Moderator?
Belangrijk
De Content Moderator-beoordelings-API's en het online beoordelingsprogramma zijn op 31-12-2021 buiten gebruik gesteld. De Beheer-API's zijn nog steeds beschikbaar.
Azure Content Moderator is een AI-service waarmee u inhoud kunt afhandelen die mogelijk aanstootgevend, riskant of anderszins ongewenst is. Het bevat de door AI aangedreven service voor inhoudsbeheer waarmee tekst, afbeeldingen en video's worden gescand en inhoudsvlagmen automatisch worden toegepast.
U kunt software toevoegen voor het filteren van inhoud aan uw app om te voldoen aan de regelgeving of om de beoogde omgeving voor gebruikers te behouden.
Deze documentatie bevat de volgende artikeltypen:
- Quickstarts zijn aan de slag-instructies om u te helpen bij het indienen van aanvragen bij de service.
- Instructiegidsen bevatten instructies voor het gebruik van de service op specifiekere of aangepaste manieren.
- Concepten bieden uitgebreide uitleg over de servicefunctionaliteit en -functies.
- Zelfstudies zijn langere handleidingen die laten zien hoe u de service kunt gebruiken als onderdeel van bredere bedrijfsoplossingen.
Volg een trainingsmodule voor Content Moderator voor een meer gestructureerde aanpak.
Waar het wordt gebruikt
Hieronder vindt u enkele scenario's waarin een softwareontwikkelaar of -team een service nodig hebben om toezicht te houden op content:
- Onlinemarktplaatsen die toezicht willen houden op productcatalogi en andere door gebruikers gegenereerde inhoud.
- Gamingbedrijven die toezicht willen houden op door gebruikers gegenereerde gameartefacten en chatruimten.
- Platforms voor sociale berichten die toezicht willen houden op afbeeldingen, tekst en video's die door gebruikers worden toegevoegd.
- Grote mediabedrijven die gecentraliseerd toezicht implementeren voor hun inhoud.
- Leveranciers van oplossingen voor lager en voortgezet onderwijs die willen filteren op inhoud die ongepast is voor leerlingen en docenten.
Belangrijk
U kunt Content Moderator niet gebruiken om illegale afbeeldingen van kindermisbruik te detecteren. Gekwalificeerde organisaties kunnen echter de Cloud Service gebruiken om te controleren op dit type inhoud.
Samenstelling van Content Moderator
De Content Moderator-service bestaat uit verschillende webservice-API's die beschikbaar zijn via zowel REST-aanroepen als een SDK voor .NET.
Beheer-API's
De Content Moderator-service omvat Beheer-API’s, waarmee inhoud wordt gecontroleerd op materiaal dat mogelijk ongeschikt of aanstootgevend is.
In de volgende tabel worden de verschillende typen Beheer-API's beschreven.
| API-groep | Beschrijving |
|---|---|
| Beheer van tekst | Hiermee wordt tekst gescand op aanstootgevende inhoud, expliciet of suggestief seksuele inhoud, grof taalgebruik en persoonlijk gegevens. |
| Aangepaste terminologielijsten | Hiermee wordt tekst vergeleken met een aangepaste lijst met termen, naast de ingebouwde termen. U kunt aangepaste lijsten gebruiken om inhoud te blokkeren of toe te staan volgens uw eigen beleidsregels voor inhoud. |
| Beheer van afbeeldingen | Hiermee worden afbeeldingen gescand op erotische of racistische inhoud, wordt tekst in afbeeldingen gedetecteerd met de OCR-functie (optische tekenherkenning) en worden gezichten gedetecteerd. |
| Aangepaste afbeeldingslijsten | Hiermee worden afbeeldingen vergeleken met een aangepaste lijst van afbeeldingen. U kunt aangepaste afbeeldingslijsten gebruiken om te filteren op exemplaren van veelvoorkomende terugkerende inhoud die u niet opnieuw wilt classificeren. |
| Beheer van video | Hiermee worden video's gescand op erotische of racistische inhoud en worden tijdmarkeringen voor deze inhoud geretourneerd. |
Gegevensprivacy en -beveiliging
Zoals geldt voor alle services van Cognitive Services, dienen ontwikkelaars die de Content Moderator-service gebruiken op de hoogte te zijn van het beleid van Microsoft inzake klantgegevens. Zie de pagina Cognitive Services (Engelstalig) in het Microsoft Trust Center voor meer informatie.
Volgende stappen
Om aan de slag te gaan met Content Moderator in het webportaal, gaat u naar Content Moderator op het web uitproberen. U kunt ook een quickstart voor de clientbibliotheek of REST API doorlopen om het basisscenario met code te implementeren.