Egyéni kategóriák (előzetes verzió)

Important

Az egyéni kategóriák (standard) 2026. szeptember 1-jén nyugdíjba vonulnak. Áttérés a Custom text API-ra a Foundry egyéni szöveg besorolásában – Foundry Tools | Microsoft Learn.

Az Azure AI Tartalombiztonság lehetővé teszi saját tartalomkategóriák létrehozását és kezelését a speciális szabályzatoknak vagy használati eseteknek megfelelő továbbfejlesztett moderáláshoz és szűréshez.

A testreszabás típusai

Az egyéni kategóriákat több módszerrel is definiálhatja és használhatja. Ez a szakasz részletesen ismerteti és összehasonlítja ezeket a metódusokat.

API Funkciók
Egyéni kategóriák (szabványos) API Testre szabható gépi tanulási modell használatával testre szabott kategóriát hozhat létre, kérhet le, kérdezhet le és törölhet. Vagy listázhatja az összes testre szabott kategóriát a további jegyzetkészítési feladatokhoz.
Egyéni kategóriák (gyors) API Egy nagy nyelvi modell (LLM) használatával gyorsan megismerheti az egyes tartalommintákat a megjelenő tartalomeseményekben.

Egyéni kategóriák (szabványos) API

Az Egyéni kategóriák (standard) API lehetővé teszi az igényeinek megfelelő kategóriák meghatározását, a mintaadatok megadását, az egyéni gépi tanulási modellek betanítását és az új tartalmak tanult kategóriák szerinti besorolását.

Ez az API szabványos munkafolyamatot biztosít a gépi tanulási modellek testreszabásához. A betanítási adatok minőségétől függően nagyon jó teljesítményszinteket érhet el, de akár több órát is igénybe vehet a modell betanítása.

Ez az implementáció szöveges tartalommal működik, nem képtartalommal.

Egyéni kategóriák (gyors) API

Az egyéni kategóriák (gyors) API gyorsabb és rugalmasabb, mint a standard módszer. Segítségével azonosíthatja, elemezheti, tartalmazhatja, megszüntetheti és helyreállíthatja azokat a kibereseményeket, amelyek nem megfelelő vagy káros tartalmakat tartalmaznak az online platformokon.

Az incidensek olyan újonnan megjelenő tartalommintákat (szöveg, kép vagy egyéb módozatok) tartalmazhatnak, amelyek sértik a Microsoft közösségi irányelveit vagy az ügyfelek saját szabályzatait és elvárásait. Ezeket az incidenseket gyorsan és pontosan kell elhárítania, hogy elkerülje az élő webhely esetleges problémáit vagy a felhasználókat és a közösségeket érintő károkat.

Ez a megvalósítás mind szöveges, mind képtartalmakon működik.

Tipp

Az újonnan felmerülő tartalmi incidensek kezelésének egy másik módja a blokkolási listák használata, de ez a lehetőség csak a pontos szövegegyezést teszi lehetővé, a képek egyeztetését nem. Az Egyéni kategóriák (gyors) API a következő speciális képességeket kínálja:

  • szemantikus szövegegyezés a keresés beágyazásával egy egyszerűsített osztályozóval
  • képillesztés egy egyszerűsített objektumkövetési modellel és a keresés beágyazása

Hogyan működik?

Az Azure AI Tartalombiztonság egyéni kategóriák funkciója többlépéses folyamatot használ egyéni tartalombesorolási modellek létrehozásához, betanításához és használatához. A munkafolyamat a következő:

1. lépés: Definíció és beállítás

Amikor meghatároz egy egyéni kategóriát, meg kell tanítania az MI-t arra, hogy milyen típusú tartalmat szeretne azonosítani. Ez a lépés magában foglalja egy egyértelmű kategórianév és egy részletes definíció megadását, amely magában foglalja a tartalom jellemzőit.

Ezután egy kiegyensúlyozott adatkészletet gyűjthet pozitív és (opcionálisan) negatív példákkal, hogy segítsen az AI-nek a kategória árnyalatainak megismerésében. Ezek az adatok a modell által valós forgatókönyvekben tapasztalt tartalom változatosságát jelölik.

2. lépés: Modell betanítása

Miután előkészítette az adathalmazt és meghatározta a kategóriákat, az Azure AI Tartalombiztonság szolgáltatás betanítja az új gépi tanulási modellt. Ez a modell a definíciókat és a feltöltött adatkészletet használja az adatnagyobbítás végrehajtásához egy nagy nyelvi modell használatával. Ennek eredményeképpen a betanítási adatkészlet nagyobb és jobb minőségű. A betanítás során az AI-modell elemzi az adatokat, és megtanul különbséget tenni a megadott kategóriához és nem megfelelő tartalomhoz igazodó tartalmak között.

3. lépés: Modell kiértékelése

A betanítás után értékelje ki a modellt, hogy megfeleljen a pontossági követelményeknek. Tesztelje a modellt olyan új tartalommal, amelyet nem kapott a betanítás során. A kiértékelési fázis segít azonosítani azokat a lehetséges módosításokat, amelyek a modell éles környezetben való üzembe helyezése előtt szükségesek.

4. lépés: Modellhasználat

Az analyzeCustomCategory API használatával elemezheti a szöveges tartalmakat, és meghatározhatja, hogy az megfelel-e a megadott egyéni kategóriának. A szolgáltatás egy logikai értéket ad vissza, amely jelzi, hogy a tartalom igazodik-e a megadott kategóriához.

Korlátozások

Nyelvi rendelkezésre állás

Az Egyéni kategóriák API-k támogatják a Content Safety szövegmoderálás által támogatott összes nyelvet. Tekintse meg a régió elérhetőségét.

Bemeneti korlátozások

Az egyéni kategóriák (standard) API bemeneti korlátait az alábbi táblázat ismerteti:

Objektum Korlátozás
Támogatott nyelvek Csak angol nyelvű
Kategóriák száma felhasználónként 3
Verziók száma kategóriánként 3
Egyidejű buildek (folyamatok) száma kategóriánként 1
Következtetési műveletek másodpercenként 5
Minták száma egy kategóriaverzióban Pozitív minták (kötelező): legalább 50, legfeljebb 5000
Összesen (mind negatív, mind pozitív minták): 10K
Nem engedélyezett duplikált minták használata.
Mintafájl mérete legfeljebb 128000 bájt
Szövegminta hossza legfeljebb 125 000 karakter
Kategóriadefiníció hossza legfeljebb 1000 karakter
Kategórianév hossza legfeljebb 128 karakter
Blob URL-címének hossza legfeljebb 500 karakter

Régiónkénti elérhetőség

Ezeknek az API-knak a használatához létre kell hoznia az Azure AI Tartalombiztonság-erőforrást az egyik támogatott régióban. További információ: Régió rendelkezésre állása.

Következő lépés

Az Azure AI Tartalombiztonság API-k egyéni kategóriák létrehozásához kövesse az útmutatót.

  • Utolsó frissítés időpontja: