Képmoderálási fogalmak megismerése

A Content Moderator géppel támogatott képmoderálásával moderálhatja a képeket felnőtt és racy tartalmak esetén. Képek keresése szöveges tartalomra és szöveg kinyerésére, valamint arcok észlelésére. A rendszerképeket egyéni listákhoz igazíthatja, és további lépéseket hajthat végre.

Felnőtt és racy tartalom kiértékelése

A Kiértékelési művelet 0 és 1 közötti megbízhatósági pontszámot ad vissza. Igaz vagy hamis logikai adatokat is ad vissza. Ezek az értékek előrejelezik, hogy a kép tartalmaz-e potenciális felnőtt vagy racy tartalmat. Amikor meghívja az API-t a rendszerképével (fájl vagy URL-cím), a visszaadott válasz a következő információkat tartalmazza:

"ImageModeration": {
    .............
    "adultClassificationScore": 0.019196987152099609,
    "isImageAdultClassified": false,
    "racyClassificationScore": 0.032390203326940536,
    "isImageRacyClassified": false,
    ............
    ],

Feljegyzés

• Az isImageAdultClassified az olyan képek esetleges előfordulását jelzi, amelyek bizonyos esetekben szexuálisan explicit vagy felnőtt tartalomnak minősülhetnek.
• Az isImageRacyClassified az olyan képek esetleges előfordulását jelzi, amelyek bizonyos esetekben szexuális utalásokat tartalmazó vagy felnőtt tartalomnak minősülhetnek.
• A pontszámok 0 és 1 között vannak. Minél magasabb a pontszám, annál magasabb a modell előrejelzése, hogy a kategória alkalmazható lehet. Ez az előzetes verzió nem manuálisan kódolt eredményekre, hanem statisztikai modellre támaszkodik. Javasoljuk, hogy saját tartalommal tesztelje, hogy az egyes kategóriák hogyan igazodjanak a követelményekhez.
• A logikai értékek igaz vagy hamisak a belső pontszám küszöbértékétől függően. Az ügyfeleknek fel kell mérniük, hogy ezt az értéket használják-e, vagy a tartalomszabályzataik alapján egyéni küszöbértékek mellett döntenek.

Szöveg észlelése optikai karakterfelismeréssel (OCR)

Az optikai karakterfelismerési (OCR) művelet előrejelzi a szöveges tartalom jelenlétét a képeken, és kinyeri azt a szövegmoderáláshoz, többek között. Megadhatja a nyelvet. Ha nem ad meg nyelvet, az észlelés alapértelmezés szerint angol.

A válasz a következő információkat tartalmazza:

• Az eredeti szöveg.
• Az észlelt szöveges elemek megbízhatósági pontszámmal.

Példakivonat:

"TextDetection": {
    "status": {
        "code": 3000.0,
        "description": "OK",
        "exception": null
    },
    .........
    "language": "eng",
    "text": "IF WE DID \r\nALL \r\nTHE THINGS \r\nWE ARE \r\nCAPABLE \r\nOF DOING, \r\nWE WOULD \r\nLITERALLY \r\nASTOUND \r\nOURSELVE \r\n",
    "candidates": []
},

Arcészlelés

Az arcok észlelése segít észlelni a személyes adatokat, például a képeken lévő arcokat. A lehetséges arcokat és a potenciális arcok számát az egyes képeken észlelheti.

A válasz az alábbi információkat tartalmazza:

• Arcok száma
• Az észlelt arcok helyének listája

Példakivonat:

"FaceDetection": {
    ......
    "result": true,
    "count": 2,
    "advancedInfo": [
        .....
    ],
    "faces": [
        {
            "bottom": 598,
            "left": 44,
            "right": 268,
            "top": 374
        },
        {
            "bottom": 620,
            "left": 308,
            "right": 532,
            "top": 396
        }
    ]
}

Egyéni listák létrehozása és kezelése

Számos online közösségben, miután a felhasználók képeket vagy más típusú tartalmat töltenek fel, a sértő elemeket a következő napokban, hetekben és hónapokban többször is megoszthatják. Költséges és hibalehetőséget jelenthet, ha ugyanazt a képet vagy akár a kép kissé módosított verzióit többször is beolvasják és kiszűrik több helyről.

Ahelyett, hogy többször is moderálásra használjuk ugyanazt a képet, hozzáadjuk a sértő képeket a letiltott tartalmak egyéni listájához. Így a con sátormód ration rendszer összehasonlítja a bejövő képeket az egyéni listákhoz, és leállítja a további feldolgozást.

Feljegyzés

A maximális korlát 5 képlista, amelyek egyenként nem haladhatják meg a 10 000 képet.

A Content Moderator egy teljes képlista-kezelési API-t biztosít az egyéni rendszerképek listájának kezelésére szolgáló műveletekkel. Ha ismeri a Visual Studiót és a C#-t, tekintse meg a Képlista .NET rövid útmutatót .

Egyeztetés az egyéni listákhoz

Az Egyezés művelet lehetővé teszi a bejövő rendszerképek homályos egyeztetését bármely egyéni listához, amelyet a Listaműveletekkel hoztak létre és kezelnek.

Ha talál egyezést, a művelet visszaadja a egyeztetett rendszerkép azonosítóját és moderálási címkéit. A válasz az alábbi információkat tartalmazza:

• Pontszám egyeztetése (0 és 1 között)
• Egyező kép
• Képcímkék (az előző moderálás során hozzárendelve)
• Képfeliratok

Példakivonat:

{
    ..............,
    "IsMatch": true,
    "Matches": [
        {
            "Score": 1.0,
            "MatchId": 169490,
            "Source": "169642",
            "Tags": [],
            "Label": "Sports"
        }
    ],
    ....
}

Következő lépések

Tesztelje a rövid útmutatót , és használja a REST API-kódmintákat.