Sdílet prostřednictvím

Seznámení s koncepty moderování obrázků

  • Článek

Moderování obrázků s podporou počítače pomocí Content Moderatoru můžete použít k moderování obrázků pro obsah pro dospělé a nevhodný obsah. Naskenujte obrázky pro textový obsah a extrahujte tento text a detekujte tváře. Obrázky můžete spárovat s vlastními seznamy a provádět další akce.

Vyhodnocení obsahu pro dospělé a nevhodný obsah

Operace Vyhodnocení vrátí skóre spolehlivosti mezi 0 a 1. Vrátí také logická data rovna hodnotě true nebo false. Tyto hodnoty předpovídají, jestli obrázek obsahuje potenciální obsah pro dospělé nebo nevhodný obsah. Při volání rozhraní API s obrázkem (souborem nebo adresou URL) obsahuje vrácená odpověď následující informace:

"ImageModeration": {
    .............
    "adultClassificationScore": 0.019196987152099609,
    "isImageAdultClassified": false,
    "racyClassificationScore": 0.032390203326940536,
    "isImageRacyClassified": false,
    ............
    ],

Poznámka:

  • isImageAdultClassified představuje potenciální přítomnost obrázků, které lze v určitých situacích považovat za sexuálně explicitní nebo pouze pro dospělé.
  • isImageRacyClassified představuje potenciální přítomnost obrázků, které lze v určitých situacích považovat za sexuálně sugestivní nebo pouze pro dospělé.
  • Skóre je mezi 0 a 1. Čím vyšší je skóre, tím vyšší model predikuje, že kategorie může být použitelná. Tato verze Preview spoléhá na statistický model, nikoli na ručně zakódované výsledky. Doporučujeme testovat s vlastním obsahem, abyste zjistili, jak jednotlivé kategorie odpovídají vašim požadavkům.
  • Logické hodnoty jsou buď true, nebo false v závislosti na prahových hodnotách interního skóre. Zákazníci by měli posoudit, jestli tuto hodnotu použít, nebo se rozhodnout o vlastních prahových hodnotách na základě zásad obsahu.

Rozpoznávání textu pomocí optického rozpoznávání znaků (OCR)

Operace optického rozpoznávání znaků (OCR) předpovídá přítomnost textového obsahu na obrázku a extrahuje ho mimo jiné pro moderování textu. Můžete zadat jazyk. Pokud neurčíte jazyk, výchozí nastavení detekce je angličtina.

Odpověď obsahuje následující informace:

  • Původní text.
  • Zjištěné textové prvky se skóre spolehlivosti.

Příklad extrakce:

"TextDetection": {
    "status": {
        "code": 3000.0,
        "description": "OK",
        "exception": null
    },
    .........
    "language": "eng",
    "text": "IF WE DID \r\nALL \r\nTHE THINGS \r\nWE ARE \r\nCAPABLE \r\nOF DOING, \r\nWE WOULD \r\nLITERALLY \r\nASTOUND \r\nOURSELVE \r\n",
    "candidates": []
},

Rozpoznávání tváří

Rozpoznávání tváří pomáhá rozpoznat osobní údaje, jako jsou tváře na obrázcích. Rozpoznáte potenciální tváře a počet potenciálních tváří na každém obrázku.

Odpověď obsahuje tyto informace:

  • Počet tváří
  • Seznam zjištěných míst tváří

Příklad extrakce:

"FaceDetection": {
    ......
    "result": true,
    "count": 2,
    "advancedInfo": [
        .....
    ],
    "faces": [
        {
            "bottom": 598,
            "left": 44,
            "right": 268,
            "top": 374
        },
        {
            "bottom": 620,
            "left": 308,
            "right": 532,
            "top": 396
        }
    ]
}

Vytváření a správa vlastních seznamů

V mnoha online komunitách se po nahrání obrázků nebo jiného typu obsahu můžou urážlivé položky sdílet vícekrát za následující dny, týdny a měsíce. Náklady na opakovanou kontrolu a odfiltrování stejného obrázku nebo dokonce mírně upravené verze obrázku z více míst můžou být nákladné a náchylné k chybám.

Místo moderování stejného obrázku několikrát přidáte urážlivé obrázky do vlastního seznamu blokovaného obsahu. Díky tomu systém kon režim stanu ration porovnává příchozí obrázky s vašimi vlastními seznamy a zastaví jakékoli další zpracování.

Poznámka:

Limit je maximálně 5 seznamů obrázků a v každém seznamu může být maximálně 10 000 obrázků.

Content Moderator poskytuje kompletní rozhraní API pro správu seznamu obrázků s operacemi pro správu seznamů vlastních imagí. Pokud znáte Visual Studio a C#, projděte si rychlý start se seznamem obrázků .NET.

Porovnávání s vlastními seznamy

Operace Shoda umožňuje přibližné porovnávání příchozích imagí s libovolnými vlastními seznamy vytvořenými a spravovanými pomocí operací Seznam.

Pokud se najde shoda, vrátí operace identifikátor a značky moderování odpovídajícího obrázku. Odpověď obsahuje tyto informace:

  • Skóre shody (mezi 0 a 1)
  • Odpovídající obrázek
  • Značky obrázků (přiřazené během předchozího moderování)
  • Popisky obrázků

Příklad extrakce:

{
    ..............,
    "IsMatch": true,
    "Matches": [
        {
            "Score": 1.0,
            "MatchId": 169490,
            "Source": "169642",
            "Tags": [],
            "Label": "Sports"
        }
    ],
    ....
}

Další kroky

Otestujte rychlý start a použijte ukázky kódu rozhraní REST API.