Lär dig begrepp om bildmoderering

  • Artikel

Använd Content Moderators maskinassisterade bildmoderering för att moderera bilder för vuxet och olämpligt innehåll. Sök igenom bilder efter textinnehåll och extrahera texten och identifiera ansikten. Du kan matcha bilder mot anpassade listor och vidta ytterligare åtgärder.

Utvärdera för vuxet och olämpligt innehåll

Åtgärden Evaluate returnerar en konfidenspoäng mellan 0 och 1. Den returnerar också booleska data som är lika med sant eller falskt. Dessa värden förutsäger om bilden innehåller potentiellt vuxet eller olämpligt innehåll. När du anropar API:et med din bild (fil eller URL) innehåller det returnerade svaret följande information:

"ImageModeration": {
    .............
    "adultClassificationScore": 0.019196987152099609,
    "isImageAdultClassified": false,
    "racyClassificationScore": 0.032390203326940536,
    "isImageRacyClassified": false,
    ............
    ],

Anteckning

  • isImageAdultClassified representerar den potentiella förekomsten av bilder som kan uppfattas som sexuellt explicita eller ämnade för vuxna.
  • isImageRacyClassified representerar den potentiella förekomsten av bilder som kan uppfattas som sexuellt laddade eller ämnade för vuxna.
  • Poängen är mellan 0 och 1. Ju högre poäng, desto högre förutsäger modellen att kategorin kan vara tillämplig. Den här förhandsversionen förlitar sig på en statistisk modell i stället för manuellt kodade resultat. Vi rekommenderar att du testar med ditt eget innehåll för att avgöra hur varje kategori överensstämmer med dina krav.
  • De booleska värdena är antingen sanna eller falska beroende på tröskelvärdena för interna poäng. Kunder bör utvärdera om de ska använda det här värdet eller besluta om anpassade tröskelvärden baserat på deras innehållsprinciper.

Identifiera text med optisk teckenläsning (OCR)

Åtgärden optisk teckenläsning (OCR) förutsäger förekomsten av textinnehåll i en bild och extraherar det för textmoderering, bland annat. Du kan ange språket. Om du inte anger något språk är standardidentifieringen engelska.

Svaret innehåller följande information:

  • Den ursprungliga texten.
  • De identifierade textelementen med deras förtroendepoäng.

Exempel på extrahering:

"TextDetection": {
    "status": {
        "code": 3000.0,
        "description": "OK",
        "exception": null
    },
    .........
    "language": "eng",
    "text": "IF WE DID \r\nALL \r\nTHE THINGS \r\nWE ARE \r\nCAPABLE \r\nOF DOING, \r\nWE WOULD \r\nLITERALLY \r\nASTOUND \r\nOURSELVE \r\n",
    "candidates": []
},

Identifiera ansikten

Genom att identifiera ansikten kan du identifiera personliga data, till exempel ansikten i bilderna. Du identifierar potentiella ansikten och antalet potentiella ansikten i varje bild.

Ett svar innehåller den här informationen:

  • Antal ansikten
  • Lista över platser där ansikten har identifierats

Exempel på extrahering:

"FaceDetection": {
    ......
    "result": true,
    "count": 2,
    "advancedInfo": [
        .....
    ],
    "faces": [
        {
            "bottom": 598,
            "left": 44,
            "right": 268,
            "top": 374
        },
        {
            "bottom": 620,
            "left": 308,
            "right": 532,
            "top": 396
        }
    ]
}

Skapa och hantera anpassade listor

När användare har laddat upp bilder eller annan typ av innehåll i många onlinegrupper kan stötande objekt delas flera gånger under de följande dagarna, veckorna och månaderna. Kostnaderna för att upprepade gånger skanna och filtrera ut samma bild eller till och med något ändrade versioner av bilden från flera platser kan vara dyra och felbenägna.

I stället för att moderera samma bild flera gånger lägger du till stötande bilder i din anpassade lista över blockerat innehåll. På så sätt jämför ditt system för innehållsmoderering inkommande bilder mot dina anpassade listor och stoppar all ytterligare bearbetning.

Anteckning

Det finns en maxgräns på 5 bildlistor där varje lista inte får överstiga 10 000 bilder.

Content Moderator tillhandahåller ett komplett API för hantering av bildlistor med åtgärder för att hantera listor över anpassade avbildningar. Börja med API-konsolen för avbildningslistor och använd REST API-kodexemplen. Läs även snabbstarten för bildlistan .NET om du är bekant med Visual Studio och C#.

Matchning mot dina anpassade listor

Åtgärden Matcha tillåter fuzzy-matchning av inkommande bilder mot någon av dina anpassade listor, som skapas och hanteras med hjälp av liståtgärderna.

Om en matchning hittas returnerar åtgärden identifieraren och modereringstaggar för den matchade bilden. Svaret innehåller den här informationen:

  • Matchresultat (mellan 0 och 1)
  • Matchad bild
  • Avbildningstaggar (tilldelade vid tidigare moderering)
  • Bildetiketter

Exempel på extrahering:

{
    ..............,
    "IsMatch": true,
    "Matches": [
        {
            "Score": 1.0,
            "MatchId": 169490,
            "Source": "169642",
            "Tags": [],
            "Label": "Sports"
        }
    ],
    ....
}

Nästa steg

Provkör API-konsolen Image Moderation och använd REST API-kodexemplen.