Meer informatie over concepten voor afbeeldingsbeheer

  • Artikel

Gebruik het machine-assisted image modereren van Content Moderator om afbeeldingen te modereren voor erotische en ongepaste inhoud. Afbeeldingen scannen op tekstinhoud en die tekst extraheren en gezichten detecteren. U kunt afbeeldingen vergelijken met aangepaste lijsten en verdere actie ondernemen.

Evalueren op inhoud voor volwassenen en ongepaste inhoud

De evaluatiebewerking retourneert een betrouwbaarheidsscore tussen 0 en 1. Het retourneert ook booleaanse gegevens die gelijk zijn aan waar of onwaar. Deze waarden voorspellen of de afbeelding mogelijk inhoud voor volwassenen of ongepaste inhoud bevat. Wanneer u de API aanroept met uw afbeelding (bestand of URL), bevat het geretourneerde antwoord de volgende informatie:

"ImageModeration": {
    .............
    "adultClassificationScore": 0.019196987152099609,
    "isImageAdultClassified": false,
    "racyClassificationScore": 0.032390203326940536,
    "isImageRacyClassified": false,
    ............
    ],

Notitie

  • isImageAdultClassified geeft de mogelijke aanwezigheid weer van afbeeldingen die in bepaalde situaties als seksueel expliciet of erotisch kunnen worden beschouwd.
  • isImageRacyClassified geeft de mogelijke aanwezigheid weer van afbeeldingen die in bepaalde situaties als suggestief of voor volwassenen kunnen worden beschouwd.
  • De scores liggen tussen 0 en 1. Hoe hoger de score, hoe hoger het model voorspelt dat de categorie van toepassing kan zijn. Deze preview is afhankelijk van een statistisch model in plaats van handmatig gecodeerde resultaten. We raden u aan om te testen met uw eigen inhoud om te bepalen hoe elke categorie overeenkomt met uw vereisten.
  • De Booleaanse waarden zijn waar of onwaar, afhankelijk van de drempelwaarden voor interne scores. Klanten moeten beoordelen of ze deze waarde willen gebruiken of moeten beslissen over aangepaste drempelwaarden op basis van hun inhoudsbeleid.

Tekst detecteren met Optical Character Recognition (OCR)

De OCR-bewerking (Optical Character Recognition) voorspelt de aanwezigheid van tekstinhoud in een afbeelding en extraheert deze voor tekstbeheer, onder andere voor gebruik. U kunt de taal opgeven. Als u geen taal opgeeft, wordt de detectie standaard ingesteld op Engels.

Het antwoord bevat de volgende informatie:

  • De oorspronkelijke tekst.
  • De gedetecteerde tekstelementen met hun betrouwbaarheidsscores.

Voorbeeldextract:

"TextDetection": {
    "status": {
        "code": 3000.0,
        "description": "OK",
        "exception": null
    },
    .........
    "language": "eng",
    "text": "IF WE DID \r\nALL \r\nTHE THINGS \r\nWE ARE \r\nCAPABLE \r\nOF DOING, \r\nWE WOULD \r\nLITERALLY \r\nASTOUND \r\nOURSELVE \r\n",
    "candidates": []
},

Gezichten detecteren

Het detecteren van gezichten helpt bij het detecteren van persoonlijke gegevens, zoals gezichten in de afbeeldingen. U detecteert potentiële gezichten en het aantal potentiële gezichten in elke afbeelding.

Een antwoord bevat deze informatie:

  • Aantal gezichten
  • Lijst met locaties van gedetecteerde gezichten

Voorbeeldextract:

"FaceDetection": {
    ......
    "result": true,
    "count": 2,
    "advancedInfo": [
        .....
    ],
    "faces": [
        {
            "bottom": 598,
            "left": 44,
            "right": 268,
            "top": 374
        },
        {
            "bottom": 620,
            "left": 308,
            "right": 532,
            "top": 396
        }
    ]
}

Aangepaste lijsten maken en beheren

In veel onlinecommunities kunnen aanstootgevende items na het uploaden van afbeeldingen of een ander type inhoud meerdere keren worden gedeeld in de volgende dagen, weken en maanden. De kosten van het herhaaldelijk scannen en filteren van dezelfde afbeelding of zelfs enigszins gewijzigde versies van de afbeelding vanaf meerdere locaties kunnen duur en foutgevoelig zijn.

In plaats van dezelfde afbeelding meerdere keren te modereren, voegt u de aanstootgevende afbeeldingen toe aan uw aangepaste lijst met geblokkeerde inhoud. Op die manier vergelijkt uw systeem voor inhoudsbeheer binnenkomende afbeeldingen met uw aangepaste lijsten en stopt u verdere verwerking.

Notitie

Er is een maximumlimiet van 5 afbeeldingslijsten waarbij elke lijst niet meer dan 10.000 afbeeldingen mag bevatten.

Content Moderator biedt een volledige API voor het beheren van afbeeldingenlijsten met bewerkingen voor het beheren van lijsten met aangepaste installatiekopieën. Begin met de API-console voor afbeeldingslijsten en gebruik de REST API-codevoorbeelden. Bekijk ook de snelstart voor de lijst met afbeeldingen van .NET als u bekend bent met Visual Studio en C#.

Overeenkomen met uw aangepaste lijsten

Met de bewerking Vergelijken kunt u binnenkomende afbeeldingen vergelijken met een van uw aangepaste lijsten, die zijn gemaakt en beheerd met de lijstbewerkingen.

Als er een overeenkomst wordt gevonden, retourneert de bewerking de id en de beheertags van de overeenkomende afbeelding. Het antwoord bevat deze informatie:

  • Wedstrijdscore (tussen 0 en 1)
  • Overeenkomende afbeelding
  • Afbeeldingstags (toegewezen tijdens vorige beheer)
  • Afbeeldingslabels

Voorbeeldextract:

{
    ..............,
    "IsMatch": true,
    "Matches": [
        {
            "Score": 1.0,
            "MatchId": 169490,
            "Source": "169642",
            "Tags": [],
            "Label": "Sports"
        }
    ],
    ....
}

Volgende stappen

Test de console image moderation-API en gebruik de REST API-codevoorbeelden.