Meer informatie over concepten voor afbeeldingsbeheer

Gebruik het beheer van door de machine ondersteunde afbeeldingen van Content Moderator om afbeeldingen te modereren voor inhoud voor volwassenen en ongepaste inhoud. Afbeeldingen scannen op tekstinhoud en die tekst extraheren en gezichten detecteren. U kunt afbeeldingen vergelijken met aangepaste lijsten en verdere actie ondernemen.

Evalueren voor inhoud voor volwassenen en ongepaste inhoud

De evaluatiebewerking retourneert een betrouwbaarheidsscore tussen 0 en 1. Het retourneert ook booleaanse gegevens die gelijk zijn aan waar of onwaar. Deze waarden voorspellen of de afbeelding potentiële inhoud voor volwassenen of ongepaste inhoud bevat. Wanneer u de API aanroept met uw afbeelding (bestand of URL), bevat het geretourneerde antwoord de volgende informatie:

"ImageModeration": {
    .............
    "adultClassificationScore": 0.019196987152099609,
    "isImageAdultClassified": false,
    "racyClassificationScore": 0.032390203326940536,
    "isImageRacyClassified": false,
    ............
    ],

Notitie

• isImageAdultClassified geeft de mogelijke aanwezigheid weer van afbeeldingen die in bepaalde situaties als seksueel expliciet of erotisch kunnen worden beschouwd.
• isImageRacyClassified geeft de mogelijke aanwezigheid weer van afbeeldingen die in bepaalde situaties als suggestief of voor volwassenen kunnen worden beschouwd.
• De scores liggen tussen 0 en 1. Hoe hoger de score, hoe hoger het model voorspelt dat de categorie van toepassing kan zijn. Deze preview is afhankelijk van een statistisch model in plaats van handmatig gecodeerde resultaten. We raden u aan om te testen met uw eigen inhoud om te bepalen hoe elke categorie overeenkomt met uw vereisten.
• De Booleaanse waarden zijn waar of onwaar, afhankelijk van de interne scoredrempels. Klanten moeten beoordelen of ze deze waarde moeten gebruiken of moeten beslissen over aangepaste drempelwaarden op basis van hun inhoudsbeleid.

Tekst detecteren met OCR (Optical Character Recognition)

De OCR-bewerking (Optical Character Recognition) voorspelt de aanwezigheid van tekstinhoud in een afbeelding en extraheert deze voor tekstbeheer, onder andere. U kunt de taal opgeven. Als u geen taal opgeeft, wordt de detectie standaard ingesteld op Engels.

Het antwoord bevat de volgende informatie:

• De oorspronkelijke tekst.
• De gedetecteerde tekstelementen met hun betrouwbaarheidsscores.

Voorbeeldextract:

"TextDetection": {
    "status": {
        "code": 3000.0,
        "description": "OK",
        "exception": null
    },
    .........
    "language": "eng",
    "text": "IF WE DID \r\nALL \r\nTHE THINGS \r\nWE ARE \r\nCAPABLE \r\nOF DOING, \r\nWE WOULD \r\nLITERALLY \r\nASTOUND \r\nOURSELVE \r\n",
    "candidates": []
},

Gezichten detecteren

Het detecteren van gezichten helpt bij het detecteren van persoonlijke gegevens, zoals gezichten in de afbeeldingen. U detecteert potentiële gezichten en het aantal potentiële gezichten in elke afbeelding.

Een antwoord bevat deze informatie:

• Aantal gezichten
• Lijst met locaties van gedetecteerde gezichten

Voorbeeldextract:

"FaceDetection": {
    ......
    "result": true,
    "count": 2,
    "advancedInfo": [
        .....
    ],
    "faces": [
        {
            "bottom": 598,
            "left": 44,
            "right": 268,
            "top": 374
        },
        {
            "bottom": 620,
            "left": 308,
            "right": 532,
            "top": 396
        }
    ]
}

Aangepaste lijsten maken en beheren

In veel onlinecommunity's, nadat gebruikers afbeeldingen of ander type inhoud hebben geüpload, kunnen aanstootgevende items meerdere keren worden gedeeld gedurende de volgende dagen, weken en maanden. De kosten voor het herhaaldelijk scannen en filteren van dezelfde afbeelding of zelfs enigszins gewijzigde versies van de installatiekopieën vanaf meerdere plaatsen kunnen duur en foutgevoelig zijn.

In plaats van dezelfde afbeelding meerdere keren te modereren, voegt u de aanstootgevende afbeeldingen toe aan uw aangepaste lijst met geblokkeerde inhoud. Op die manier vergelijkt uw systeem voor inhoudsbeheer binnenkomende afbeeldingen met uw aangepaste lijsten en stopt u verdere verwerking.

Notitie

Er is een maximumlimiet van 5 afbeeldingslijsten waarbij elke lijst niet meer dan 10.000 afbeeldingen mag bevatten.

Content Moderator biedt een volledige API voor Image List Management met bewerkingen voor het beheren van lijsten met aangepaste installatiekopieën. Begin met de API-console afbeeldingenlijsten en gebruik de REST API-codevoorbeelden. Bekijk ook de snelstartgids Image List .NET als u bekend bent met Visual Studio en C#.

Overeenkomen met uw aangepaste lijsten

Met de vergelijkingsbewerking kunnen binnenkomende afbeeldingen fuzzy worden vergeleken met een van uw aangepaste lijsten, gemaakt en beheerd met behulp van de lijstbewerkingen.

Als er een overeenkomst wordt gevonden, retourneert de bewerking de id en de toezichtstags van de overeenkomende afbeelding. Het antwoord bevat deze informatie:

• Wedstrijdscore (tussen 0 en 1)
• Overeenkomende afbeelding
• Afbeeldingstags (toegewezen tijdens vorige toezicht)
• Afbeeldingslabels

Voorbeeldextract:

{
    ..............,
    "IsMatch": true,
    "Matches": [
        {
            "Score": 1.0,
            "MatchId": 169490,
            "Source": "169642",
            "Tags": [],
            "Label": "Sports"
        }
    ],
    ....
}

Volgende stappen

Test het station van de CONSOLE Image Moderation API en gebruik de REST API-codevoorbeelden.