Mi az Azure AI Content Széf ty?
Az Azure AI Content Széf ty észleli a felhasználók által létrehozott és AI által létrehozott tartalmakat az alkalmazásokban és szolgáltatásokban. Az Azure AI Content Széf ty szöveges és képi API-kat tartalmaz, amelyek lehetővé teszik a káros anyagok észlelését. Egy interaktív Tartalom Széf ty Studióval is rendelkezünk, amely lehetővé teszi a káros tartalmak különböző módokon történő észlelésére szolgáló mintakód megtekintését, feltárását és kipróbálását.
A tartalomszűrési szoftverek segíthetnek az alkalmazásnak a szabályozásoknak való megfelelésben, vagy a felhasználók számára a kívánt környezet fenntartásában.
Ez a dokumentáció a következő cikktípusokat tartalmazza:
- A rövid útmutatók első lépések, amelyek végigvezetik a szolgáltatás kéréseinek teljesítésén.
- Az útmutatók konkrétabb vagy testre szabottabb módon tartalmazzák a szolgáltatás használatára vonatkozó utasításokat.
- A fogalmak részletesen ismertetik a szolgáltatás funkcióit és funkcióit.
A használat helye
Az alábbiakban néhány olyan forgatókönyvet lásunk, amelyekben egy szoftverfejlesztő vagy -csapat con sátormód ration szolgáltatást igényelne:
- Online piacterek, amelyek moderálják a termékkatalógusokat és más, felhasználó által létrehozott tartalmakat.
- Játékvállalatok, amelyek moderálják a felhasználó által létrehozott játékelemeket és csevegőszobákat.
- Közösségi üzenetkezelési platformok, amelyek moderálják a felhasználók által hozzáadott képeket és szöveget.
- A tartalom központosított moderálását megvalósító nagyvállalati médiavállalatok.
- A K-12 oktatási megoldásszolgáltatók kiszűrik a diákok és oktatók számára nem megfelelő tartalmakat.
Fontos
Az Azure AI Content Széf ty nem használható az illegális gyermek-kizsákmányolási képek észlelésére.
Terméktípusok
A szolgáltatás különböző elemzési típusokat kínál. Az alábbi táblázat a jelenleg elérhető API-kat ismerteti.
| Típus | Funkciók |
|---|---|
| Szöveg API elemzése | Több súlyossági szinttel megvizsgálja a szexuális tartalmakat, az erőszakot, a gyűlöletet és az önkárosítást. |
| Kép API elemzése | Több súlyossági szinttel vizsgálja a képeket a szexuális tartalom, az erőszak, a gyűlölet és az önkárosítás szempontjából. |
| Prompt Shields (előzetes verzió) | Beolvassa a nagy méretű nyelvi modell felhasználói bemeneti támadásának kockázatát. Gyors útmutató |
| Földi észlelés (előzetes verzió) | Észleli, hogy a nagy nyelvi modellek (LLM-ek) szöveges válaszai a felhasználók által biztosított forrásanyagokban vannak-e alapulva. Gyors útmutató |
| Védett anyag szövegészlelése (előzetes verzió) | Az AI által létrehozott szöveget ismert szöveges tartalmak (például dalszövegek, cikkek, receptek, kijelölt webes tartalom) keresése. Gyors útmutató |
Content Széf ty Studio
Az Azure AI Content Széf ty Studio egy online eszköz, amely potenciálisan sértő, kockázatos vagy nemkívánatos tartalmak kezelésére szolgál élvonalbeli con sátormód ration ML-modellek használatával. Sablonokat és testreszabott munkafolyamatokat biztosít, amelyek lehetővé teszik a felhasználók számára, hogy saját con sátormód ration rendszert válasszanak és építsenek ki. A felhasználók feltölthetik saját tartalmaikat, vagy kipróbálhatják a megadott mintatartalommal.
A Content Széf ty Studio nem csak beépített AI-modelleket tartalmaz, hanem a Microsoft beépített kifejezéseket tartalmazó blokklistáit is, hogy megjelölje a trágárságokat, és naprakész maradjon az új trendekkel. A saját blokklistáit is feltöltheti a használati esetre jellemző káros tartalmak lefedettségének növelése érdekében.
A Studio lehetővé teszi egy moderálási munkafolyamat beállítását is, ahol folyamatosan figyelheti és javíthatja a con sátormód ration teljesítményét. Segít megfelelni a különféle iparágak, például a játék, a média, az oktatás, az e-kereskedelem és egyebek tartalomkövetelményeinek. A vállalatok egyszerűen csatlakoztathatják szolgáltatásaikat a Studióhoz, és valós időben sátormód minősíthetik őket, akár felhasználó által generált, akár AI-alapú.
Ezeket a képességeket a Studio és annak háttérrendszere kezeli; az ügyfeleknek nem kell aggódniuk a modellfejlesztés miatt. Az adatok gyors érvényesítéséhez és a KPI-k megfelelő monitorozásához készítheti el az adatokat, például technikai metrikákat (késés, pontosság, visszahívás) vagy üzleti metrikákat (blokksebesség, blokkmennyiség, kategóriaarányok, nyelvi arányok stb.). Az egyszerű műveletek és konfigurációk segítségével az ügyfelek gyorsan tesztelhetik a különböző megoldásokat, és megtalálhatják a legmegfelelőbb megoldást ahelyett, hogy egyéni modellekkel kísérleteznek, vagy manuálisan végeznek moderálást.
A Content Széf ty Studio funkciói
A Content Széf ty Studióban a következő Azure AI Content Széf ty szolgáltatásfunkciók érhetők el:
Közepes szöveges tartalom: A szövegmoderálási eszközzel egyszerűen futtathat teszteket a szöveges tartalmakon. Akár egyetlen mondatot, akár teljes adathalmazt szeretne tesztelni, eszközünk egy felhasználóbarát felületet kínál, amellyel közvetlenül a portálon értékelheti a teszteredményeket. Különböző bizalmassági szintekkel kísérletezhet a tartalomszűrők és a tiltólista-kezelés konfigurálásához, biztosítva, hogy a tartalom mindig a pontos specifikációknak megfelelően legyen moderálva. Emellett a kód exportálásának lehetőségével közvetlenül az alkalmazásban implementálhatja az eszközt, egyszerűsítve a munkafolyamatot, és időt takaríthat meg.
Mérsékelt képtartalom: A képmoderálási eszközzel egyszerűen futtathat teszteket a képeken, hogy azok megfeleljenek a tartalomszabványoknak. A felhasználóbarát felület lehetővé teszi a teszteredmények kiértékelését közvetlenül a portálon, és különböző bizalmassági szintekkel kísérletezhet a tartalomszűrők konfigurálásához. Miután testre szabta a beállításokat, egyszerűen exportálhatja a kódot az eszköz alkalmazásbeli implementálásához.
Online tevékenység monitorozása: A hatékony monitorozási oldal lehetővé teszi a moderálási API használatának és trendjeinek nyomon követését különböző módokon. Ezzel a funkcióval részletes válaszinformációkat érhet el, beleértve a kategória- és súlyossági eloszlást, a késést, a hibát és a tiltólista-észlelést. Ezek az információk teljes áttekintést nyújtanak a con sátormód ration teljesítményéről, így optimalizálhatja a munkafolyamatot, és biztosíthatja, hogy a tartalom mindig a pontos specifikációknak megfelelően legyen moderálva. Felhasználóbarát felületünkkel gyorsan és egyszerűen navigálhat a monitorozási oldalon, hogy hozzáférjen azokhoz az információkhoz, amelyekre szüksége van ahhoz, hogy megalapozott döntéseket hozzon a con sátormód ration stratégiáról. Rendelkezik azokkal az eszközökkel, amelyekre szüksége van ahhoz, hogy a con sátormód ration teljesítményén felül maradjon, és elérje a tartalom céljait.
Bemeneti követelmények
A szöveges beküldések alapértelmezett maximális hossza 10K karakter. Ha hosszabb szövegblokkokat szeretne elemezni, a bemeneti szöveget (például írásjel vagy térköz) több kapcsolódó beküldésre is feloszthatja.
A képbeküldések maximális mérete 4 MB, a képméreteknek pedig 50 x 50 képpont és 2048 x 2048 képpont között kell lenniük. A képek LEHETNEK JPEG, PNG, GIF, BMP, TIFF vagy WEBP formátumban.
Biztonság
Hozzáférés kezelése a Microsoft Entra-azonosító vagy a felügyelt identitás használatával
A fokozott biztonság érdekében a Microsoft Entra ID vagy a Managed Identity (MI) használatával kezelheti az erőforrásokhoz való hozzáférést.
- A felügyelt identitás automatikusan engedélyezve lesz tartalom Széf ty erőforrás létrehozásakor.
- A Microsoft Entra ID api- és SDK-forgatókönyvekben is támogatott. Tekintse meg a Microsoft Entra ID-val való hitelesítés általános AI-szolgáltatásokra vonatkozó útmutatóját. A szervezeten belül más felhasználók számára is hozzáférést biztosíthat, ha hozzárendeli őket a Cognitive Services felhasználói és olvasói szerepköreihez. Ha többet szeretne megtudni arról, hogyan biztosíthat felhasználói hozzáférést az Azure-erőforrásokhoz az Azure Portal használatával, tekintse meg a szerepköralapú hozzáférés-vezérlési útmutatót.
A tárolt adatok titkosítása
Megtudhatja, hogyan kezeli az Azure AI Content Széf ty az adatok titkosítását és visszafejtést. Az ügyfél által felügyelt kulcsok (CMK), más néven a Saját kulcs (BYOK) nagyobb rugalmasságot biztosítanak a hozzáférési vezérlők létrehozásához, elforgatásához, letiltásához és visszavonásához. Továbbá az adatok védelméhez használt titkosítási kulcsok naplózására is lehetősége van.
Díjszabás
Az Azure AI Content Széf ty jelenleg F0 és S0 tarifacsomagokkal rendelkezik.
Szolgáltatáskorlátok
Nyelvi támogatás
A tartalom Széf modelleket kifejezetten a következő nyelveken képezték ki és tesztelték: angol, német, japán, spanyol, francia, olasz, portugál és kínai. A szolgáltatás azonban számos más nyelven is működhet, de a minőség eltérő lehet. Minden esetben saját tesztelést kell végeznie, hogy megbizonyosodjon, az Ön alkalmazása esetében is működik.
További információ: Nyelvi támogatás.
Régió/hely
A Content Széf ty API-k használatához létre kell hoznia az Azure AI Content Széf ty-erőforrást a támogatott régiókban. Jelenleg a következő Azure-régiókban érhető el:
- Kelet-Ausztrália
- Kelet-Kanada
- USA középső régiója
- USA keleti régiója
- USA 2. keleti régiója
- Közép-Franciaország
- Kelet-Japán
- USA északi középső régiója
- USA déli középső régiója
- Észak-Svájc
- Az Egyesült Királyság déli régiója
- Nyugat-Európa
- USA 2. nyugati régiója
- Közép-Svédország
A nyilvános előzetes verziójú funkciók, például a Prompt Shields és a védett anyagészlelés az alábbi Azure-régiókban érhetők el:
- USA keleti régiója
- Nyugat-Európa
Forduljon hozzánk , ha más régiókra van szüksége vállalkozása számára.
Lekérdezési arányok
| Tarifacsomag | Kérelmek 10 másodpercenként (RPS) |
|---|---|
| F0 | 1000 |
| S0 | 1000 |
Ha gyorsabb díjszabásra van szüksége, kérjük, forduljon hozzánk a kéréshez.
Kapcsolat
Ha elakad, küldjön nekünk e-mailt, vagy használja a visszajelzési widgetet bármelyik dokumentumoldal jobb felső sarkában.
Következő lépések
Az Azure AI Content Széf ty alkalmazásbeli használatának megkezdéséhez kövessen egy rövid útmutatót.