Seznámení s koncepty moderování obrázků

  • Článek

Pomocí moderování obrázků s asistencí v Content Moderatoru můžete moderovat obrázky pro obsah pro dospělé a obsah pro dospělé. Na obrázcích vyhledejte textový obsah, extrahujte ho a rozpoznáte tváře. Obrázky můžete porovnat s vlastními seznamy a provést další akce.

Vyhodnocení obsahu pro dospělé a obsahu pro dospělé

Operace Evaluate vrátí skóre spolehlivosti mezi 0 a 1. Vrátí také logická data rovna hodnotě true nebo false. Tyto hodnoty předpovídají, jestli obrázek obsahuje potenciální obsah pro dospělé nebo nesměšný obsah. Při volání rozhraní API s obrázkem (souborem nebo adresou URL) bude vrácená odpověď obsahovat následující informace:

"ImageModeration": {
    .............
    "adultClassificationScore": 0.019196987152099609,
    "isImageAdultClassified": false,
    "racyClassificationScore": 0.032390203326940536,
    "isImageRacyClassified": false,
    ............
    ],

Poznámka

  • isImageAdultClassified představuje potenciální přítomnost obrázků, které lze v určitých situacích považovat za sexuálně explicitní nebo pouze pro dospělé.
  • isImageRacyClassified představuje potenciální přítomnost obrázků, které lze v určitých situacích považovat za sexuálně sugestivní nebo pouze pro dospělé.
  • Skóre jsou mezi 0 a 1. Čím vyšší skóre, tím vyšší model predikuje, že kategorie může být použitelná. Tato verze Preview spoléhá spíše na statistický model než na ručně kódované výsledky. Doporučujeme testovat s vlastním obsahem, abyste zjistili, jak jednotlivé kategorie odpovídají vašim požadavkům.
  • V závislosti na prahových hodnotách interního skóre jsou logické hodnoty true nebo false. Zákazníci by měli posoudit, jestli mají tuto hodnotu použít, nebo se rozhodnout pro vlastní prahové hodnoty na základě svých zásad obsahu.

Rozpoznávání textu pomocí optického rozpoznávání znaků (OCR)

Operace optického rozpoznávání znaků (OCR) předpovídá přítomnost textového obsahu na obrázku a extrahuje ho mimo jiné pro moderování textu. Můžete zadat jazyk. Pokud nezadáte jazyk, bude ve výchozím nastavení zjišťování angličtina.

Odpověď obsahuje následující informace:

  • Původní text.
  • Zjištěné textové prvky se skóre spolehlivosti.

Příklad extrakce:

"TextDetection": {
    "status": {
        "code": 3000.0,
        "description": "OK",
        "exception": null
    },
    .........
    "language": "eng",
    "text": "IF WE DID \r\nALL \r\nTHE THINGS \r\nWE ARE \r\nCAPABLE \r\nOF DOING, \r\nWE WOULD \r\nLITERALLY \r\nASTOUND \r\nOURSELVE \r\n",
    "candidates": []
},

Rozpoznávání tváří

Rozpoznávání tváří pomáhá detekovat osobní údaje, jako jsou tváře na obrázcích. Zjistíte potenciální tváře a počet potenciálních tváří na každém obrázku.

Odpověď obsahuje tyto informace:

  • Počet tváří
  • Seznam polohy rozpoznaných tváří

Příklad extrakce:

"FaceDetection": {
    ......
    "result": true,
    "count": 2,
    "advancedInfo": [
        .....
    ],
    "faces": [
        {
            "bottom": 598,
            "left": 44,
            "right": 268,
            "top": 374
        },
        {
            "bottom": 620,
            "left": 308,
            "right": 532,
            "top": 396
        }
    ]
}

Vytváření a správa vlastních seznamů

V mnoha online komunitách můžou uživatelé po nahrání obrázků nebo jiného typu obsahu v následujících dnech, týdnech a měsících několikrát sdílet urážlivé položky. Náklady na opakované skenování a filtrování stejné image nebo dokonce mírně upravené verze image z více míst mohou být nákladné a náchylné k chybám.

Místo toho, abyste několikrát moderovali stejný obrázek, přidáte urážlivé obrázky do vlastního seznamu blokovaného obsahu. Systém moderování obsahu tak porovná příchozí obrázky s vašimi vlastními seznamy a zastaví jakékoli další zpracování.

Poznámka

Limit je maximálně pět seznamů obrázků a v každém seznamu může být maximálně 10 000 obrázků.

Content Moderator poskytuje kompletní rozhraní API pro správu seznamů imagí s operacemi pro správu seznamů vlastních imagí. Začněte konzolou rozhraní API Pro seznamy obrázků a použijte ukázky kódu rozhraní REST API. Pokud jste obeznámeni se sadou Visual Studio a jazykem C#, podívejte se také na rychlý start pro seznam imagí .NET .

Porovnávání s vašimi vlastními seznamy

Operace Shoda umožňuje přibližné porovnávání příchozích imagí s libovolnými vlastními seznamy vytvořenými a spravovanými pomocí operací Seznamu.

Pokud se najde shoda, vrátí operace identifikátor a značky moderování odpovídajícího obrázku. Odpověď obsahuje tyto informace:

  • Skóre shody (mezi 0 a 1)
  • Odpovídající obrázek
  • Značky obrázků (přiřazené během předchozího moderování)
  • Popisky obrázků

Příklad extrakce:

{
    ..............,
    "IsMatch": true,
    "Matches": [
        {
            "Score": 1.0,
            "MatchId": 169490,
            "Source": "169642",
            "Tags": [],
            "Label": "Sports"
        }
    ],
    ....
}

Další kroky

Otestujte konzolu rozhraní API pro moderování obrázků a použijte ukázky kódu rozhraní REST API.