Képmoderálási fogalmak megismerése

  • Cikk

A Content Moderator gépi támogatású képmoderálásával moderálhatja a képeket a felnőtteknek és a kényes tartalmaknak. Képeken kereshet szöveges tartalmat, kinyerheti a szöveget, és arcokat észlelheti. A képeket egyeztetheti az egyéni listákhoz, és további lépéseket tehet.

Felnőtt és kényes tartalmak kiértékelése

Az Evaluate művelet 0 és 1 közötti megbízhatósági pontszámot ad vissza. Igaz vagy hamis logikai adatokat is visszaad. Ezek az értékek azt jelzik előre, hogy a kép tartalmaz-e potenciális felnőtt vagy kényes tartalmat. Amikor meghívja az API-t a képpel (fájllal vagy URL-címmel), a visszaadott válasz a következő információkat tartalmazza:

"ImageModeration": {
    .............
    "adultClassificationScore": 0.019196987152099609,
    "isImageAdultClassified": false,
    "racyClassificationScore": 0.032390203326940536,
    "isImageRacyClassified": false,
    ............
    ],

Megjegyzés

  • Az isImageAdultClassified az olyan képek esetleges előfordulását jelzi, amelyek bizonyos esetekben szexuálisan explicit vagy felnőtt tartalomnak minősülhetnek.
  • Az isImageRacyClassified az olyan képek esetleges előfordulását jelzi, amelyek bizonyos esetekben szexuális utalásokat tartalmazó vagy felnőtt tartalomnak minősülhetnek.
  • A pontszámok 0 és 1 között vannak. Minél magasabb a pontszám, annál nagyobb a modell előrejelzése, hogy a kategória alkalmazható lehet. Ez az előzetes verzió a manuálisan kódolt eredmények helyett statisztikai modellre támaszkodik. Javasoljuk, hogy saját tartalommal tesztelje, hogy az egyes kategóriák hogyan igazodjanak az Ön igényeihez.
  • A logikai értékek igaz vagy hamisak a belső pontszám küszöbértékeitől függően. Az ügyfeleknek fel kell mérniük, hogy ezt az értéket használják-e, vagy a tartalomszabályzataik alapján döntenek az egyéni küszöbértékekről.

Szöveg észlelése optikai karakterfelismeréssel (OCR)

Az Optikai karakterfelismerés (OCR) művelet előrejelzi a szöveges tartalom jelenlétét a képeken, és kinyeri azt szövegmoderálásra, többek között. Megadhatja a nyelvet. Ha nem ad meg nyelvet, az észlelés alapértelmezés szerint angol lesz.

A válasz a következő információkat tartalmazza:

  • Az eredeti szöveg.
  • Az észlelt szöveges elemek megbízhatósági pontszámmal.

Példakivonat:

"TextDetection": {
    "status": {
        "code": 3000.0,
        "description": "OK",
        "exception": null
    },
    .........
    "language": "eng",
    "text": "IF WE DID \r\nALL \r\nTHE THINGS \r\nWE ARE \r\nCAPABLE \r\nOF DOING, \r\nWE WOULD \r\nLITERALLY \r\nASTOUND \r\nOURSELVE \r\n",
    "candidates": []
},

Arcészlelés

Az arcok észlelése segít észlelni a személyes adatokat, például a képeken lévő arcokat. Az egyes képeken észlelheti a potenciális arcokat és a potenciális arcok számát.

A válasz a következő információkat tartalmazza:

  • Arcok száma
  • Az észlelt arcok helyének listája

Példakivonat:

"FaceDetection": {
    ......
    "result": true,
    "count": 2,
    "advancedInfo": [
        .....
    ],
    "faces": [
        {
            "bottom": 598,
            "left": 44,
            "right": 268,
            "top": 374
        },
        {
            "bottom": 620,
            "left": 308,
            "right": 532,
            "top": 396
        }
    ]
}

Egyéni listák létrehozása és kezelése

Számos online közösségben, miután a felhasználók képeket vagy más típusú tartalmakat töltenek fel, a sértő elemeket többször is megoszthatják a következő napokban, hetekben és hónapokban. Költséges és hibalehetőségekkel jár, ha többször is beolvasjuk és kiszűrjük ugyanazt a képet, vagy akár a kép kissé módosított verzióit is több helyről.

Ahelyett, hogy többször is moderálása ugyanazt a képet, a sértő képeket hozzáadja a letiltott tartalmak egyéni listájához. Ily módon a tartalommoderálási rendszer összehasonlítja a bejövő képeket az egyéni listáival, és leállítja a további feldolgozást.

Megjegyzés

A maximális korlát 5 képlista, amelyek egyenként nem haladhatják meg a 10 000 képet.

A Content Moderator teljes képlista-kezelési API-t biztosít az egyéni rendszerképek listáinak kezelésére szolgáló műveletekkel. Kezdje az Image Lists API-konzollal , és használja a REST API-kódmintákat. Ha ismeri a Visual Studiót és a C#-t, tekintse meg a Képlista .NET rövid útmutatóját is.

Egyeztetés az egyéni listákhoz

Az Egyezés művelet lehetővé teszi a bejövő rendszerképek intelligens egyeztetését bármely egyéni listához, amelyet a List műveletekkel hoztak létre és kezelnek.

Ha talál egyezést, a művelet visszaadja a egyeztetett kép azonosítóját és moderálási címkéit. A válasz a következő információkat tartalmazza:

  • Egyezés pontszáma (0 és 1 között)
  • Egyező kép
  • Képcímkék (az előző moderálás során hozzárendelve)
  • Képfeliratok

Példakivonat:

{
    ..............,
    "IsMatch": true,
    "Matches": [
        {
            "Score": 1.0,
            "MatchId": 169490,
            "Source": "169642",
            "Tags": [],
            "Label": "Sports"
        }
    ],
    ....
}

Következő lépések

Tesztelje az Image Moderation API-konzolt , és használja a REST API-kódmintákat.