Mi az Azure AI Content Safety?

Cikk
10/30/2024

Az Azure AI Content Safety egy AI-szolgáltatás, amely észleli a felhasználók által létrehozott és AI által létrehozott tartalmakat az alkalmazásokban és szolgáltatásokban. Az Azure AI Content Safety szöveges és képi API-kat tartalmaz, amelyek lehetővé teszik a káros anyagok észlelését. Az interaktív Content Safety Studio lehetővé teszi a káros tartalmak különböző módokon történő észlelésére szolgáló mintakód megtekintését, feltárását és kipróbálását.

A tartalomszűrési szoftverek segíthetnek az alkalmazásnak a szabályozásoknak való megfelelésben, vagy a felhasználók számára a kívánt környezet fenntartásában.

Ez a dokumentáció a következő cikktípusokat tartalmazza:

A fogalmak részletesen ismertetik a szolgáltatás funkcióit és funkcióit.
A rövid útmutatók első lépések, amelyek végigvezetik a szolgáltatás kéréseinek teljesítésén.
Az útmutatók konkrétabb vagy testre szabottabb módon tartalmazzák a szolgáltatás használatára vonatkozó utasításokat.

A használat helye

Az alábbiakban néhány olyan forgatókönyvet lásunk, amelyekben egy szoftverfejlesztő vagy -csapat con sátormód ration szolgáltatást igényelne:

A felhasználói kérések elküldve egy generatív AI-szolgáltatásnak.
Generatív AI-modellek által előállított tartalom.
Online piacterek, amelyek moderálják a termékkatalógusokat és más, felhasználó által létrehozott tartalmakat.
Játékvállalatok, amelyek moderálják a felhasználó által létrehozott játékelemeket és csevegőszobákat.
Közösségi üzenetkezelési platformok, amelyek moderálják a felhasználók által hozzáadott képeket és szöveget.
A tartalom központosított moderálását megvalósító nagyvállalati médiavállalatok.
A K-12 oktatási megoldásszolgáltatók kiszűrik a diákok és oktatók számára nem megfelelő tartalmakat.

Fontos

Az Azure AI Content Safety nem használható illegális gyermek-kihasználtsági képek észlelésére.

Termékjellemzők

Ez a szolgáltatás számos különböző elemzéstípust tesz elérhetővé. Az alábbi táblázat a jelenleg elérhető API-kat ismerteti.

Szolgáltatás	Funkciók	Alapfogalmak útmutatója	Első lépések
Parancssori pajzsok	Beolvassa a nagy méretű nyelvi modell felhasználói bemeneti támadásának kockázatát.	A Prompt Shields fogalmai	Gyors útmutató
Földi észlelés (előzetes verzió)	Észleli, hogy a nagy nyelvi modellek (LLM-ek) szöveges válaszai a felhasználók által biztosított forrásanyagokban vannak-e alapulva.	A földi észlelés fogalmai	Gyors útmutató
Védett anyag szövegészlelése	Az AI által létrehozott szöveget ismert szöveges tartalmak (például dalszövegek, cikkek, receptek, kijelölt webes tartalom) keresése.	Védett anyag fogalmai	Gyors útmutató
Egyéni kategóriák (standard) API (előzetes verzió)	Lehetővé teszi saját egyéni tartalomkategóriák létrehozását és betanítása, valamint a szöveg egyezések keresését.	Egyéni kategóriák fogalmai	Gyors útmutató
Egyéni kategóriák (gyors) API (előzetes verzió)	Lehetővé teszi a megjelenő káros tartalomminták definiálását, valamint a szövegek és képek egyezések keresését.	Egyéni kategóriák fogalmai	Útmutató
Szöveg API elemzése	Több súlyossági szinttel megvizsgálja a szexuális tartalmakat, az erőszakot, a gyűlöletet és az önkárosítást.	Kárkategóriák	Gyors útmutató
Kép API elemzése	Több súlyossági szinttel vizsgálja a képeket a szexuális tartalom, az erőszak, a gyűlölet és az önkárosítás szempontjából.	Kárkategóriák	Gyors útmutató

Content Safety Studio

Az Azure AI Content Safety Studio egy online eszköz, amely potenciálisan sértő, kockázatos vagy nemkívánatos tartalmak kezelésére szolgál élvonalbeli con sátormód ration ML-modellek használatával. Sablonokat és testreszabott munkafolyamatokat biztosít, amelyek lehetővé teszik a felhasználók számára, hogy saját con sátormód ration rendszert válasszanak és építsenek ki. A felhasználók feltölthetik saját tartalmaikat, vagy kipróbálhatják a megadott mintatartalommal.

A Content Safety Studio nem csak a beépített AI-modelleket tartalmazza, hanem a Microsoft beépített kifejezéseket tartalmazó blokklistáit is, amellyel megjelölhető a trágárság, és naprakészen tarthatja az új tartalomtrendeket. A saját blokklistáit is feltöltheti a használati esetre jellemző káros tartalmak lefedettségének növelése érdekében.

A Studio lehetővé teszi egy moderálási munkafolyamat beállítását is, ahol folyamatosan figyelheti és javíthatja a con sátormód ration teljesítményét. Segít megfelelni a különféle iparágak, például a játék, a média, az oktatás, az e-kereskedelem és egyebek tartalomkövetelményeinek. A vállalatok egyszerűen csatlakoztathatják szolgáltatásaikat a Studióhoz, és valós időben sátormód minősíthetik őket, akár felhasználó által generált, akár AI-alapú.

Ezeket a képességeket a Studio és annak háttérrendszere kezeli; az ügyfeleknek nem kell aggódniuk a modellfejlesztés miatt. Az adatok gyors érvényesítéséhez és a KPI-k megfelelő monitorozásához készítheti el az adatokat, például technikai metrikákat (késés, pontosság, visszahívás) vagy üzleti metrikákat (blokksebesség, blokkmennyiség, kategóriaarányok, nyelvi arányok stb.). Az egyszerű műveletek és konfigurációk segítségével az ügyfelek gyorsan tesztelhetik a különböző megoldásokat, és megtalálhatják a legmegfelelőbb megoldást ahelyett, hogy egyéni modellekkel kísérleteznek, vagy manuálisan végeznek moderálást.

A Content Safety Studio kipróbálás

A Content Safety Studio funkciói

A Content Safety Studióban a következő Azure AI Content Safety-funkciók érhetők el:

Közepes szöveges tartalom: A szövegmoderálási eszközzel egyszerűen futtathat teszteket a szöveges tartalmakon. Akár egyetlen mondatot, akár teljes adathalmazt szeretne tesztelni, eszközünk egy felhasználóbarát felületet kínál, amellyel közvetlenül a portálon értékelheti a teszteredményeket. Különböző bizalmassági szintekkel kísérletezhet a tartalomszűrők és a tiltólista-kezelés konfigurálásához, biztosítva, hogy a tartalom mindig a pontos specifikációknak megfelelően legyen moderálva. Emellett a kód exportálásának lehetőségével közvetlenül az alkalmazásban implementálhatja az eszközt, egyszerűsítve a munkafolyamatot, és időt takaríthat meg.
Mérsékelt képtartalom: A képmoderálási eszközzel egyszerűen futtathat teszteket a képeken, hogy azok megfeleljenek a tartalomszabványoknak. A felhasználóbarát felület lehetővé teszi a teszteredmények kiértékelését közvetlenül a portálon, és különböző bizalmassági szintekkel kísérletezhet a tartalomszűrők konfigurálásához. Miután testre szabta a beállításokat, egyszerűen exportálhatja a kódot az eszköz alkalmazásbeli implementálásához.
Online tevékenység monitorozása: A hatékony monitorozási oldal lehetővé teszi a moderálási API használatának és trendjeinek nyomon követését különböző módokon. Ezzel a funkcióval részletes válaszinformációkat érhet el, beleértve a kategória- és súlyossági eloszlást, a késést, a hibát és a tiltólista-észlelést. Ezek az információk teljes áttekintést nyújtanak a con sátormód ration teljesítményéről, így optimalizálhatja a munkafolyamatot, és biztosíthatja, hogy a tartalom mindig a pontos specifikációknak megfelelően legyen moderálva. Felhasználóbarát felületünkkel gyorsan és egyszerűen navigálhat a monitorozási oldalon, hogy hozzáférjen azokhoz az információkhoz, amelyekre szüksége van ahhoz, hogy megalapozott döntéseket hozzon a con sátormód ration stratégiáról. Rendelkezik azokkal az eszközökkel, amelyekre szüksége van ahhoz, hogy a con sátormód ration teljesítményén felül maradjon, és elérje a tartalom céljait.

Biztonság

Hozzáférés kezelése a Microsoft Entra-azonosító vagy a felügyelt identitás használatával

A fokozott biztonság érdekében a Microsoft Entra ID vagy a Managed Identity (MI) használatával kezelheti az erőforrásokhoz való hozzáférést.

A felügyelt identitás automatikusan engedélyezve lesz tartalombiztonsági erőforrás létrehozásakor.
A Microsoft Entra ID api- és SDK-forgatókönyvekben is támogatott. Tekintse meg a Microsoft Entra ID-val való hitelesítés általános AI-szolgáltatásokra vonatkozó útmutatóját. A szervezeten belül más felhasználók számára is hozzáférést biztosíthat, ha hozzárendeli őket a Cognitive Services felhasználói és olvasói szerepköreihez. Ha többet szeretne megtudni arról, hogyan biztosíthat felhasználói hozzáférést az Azure-erőforrásokhoz az Azure Portal használatával, tekintse meg a szerepköralapú hozzáférés-vezérlési útmutatót.

A tárolt adatok titkosítása

Megtudhatja, hogyan kezeli az Azure AI Content Safety az adatok titkosítását és visszafejtést. Az ügyfél által felügyelt kulcsok (CMK), más néven a Saját kulcs (BYOK) nagyobb rugalmasságot biztosítanak a hozzáférési vezérlők létrehozásához, elforgatásához, letiltásához és visszavonásához. Továbbá az adatok védelméhez használt titkosítási kulcsok naplózására is lehetősége van.

Díjszabás

Az Azure AI Content Safety jelenleg F0 és S0 tarifacsomaggal rendelkezik. További információért tekintse meg az Azure díjszabási oldalát .

Szolgáltatáskorlátok

Figyelemfelhívás

Elavulással kapcsolatos értesítés

A Content Safety verziószámozásának és életciklus-kezelésének részeként bejelentjük a szolgáltatás API-k egyes nyilvános előzetes és GA-verzióinak elavulását. Az elavulással kapcsolatos szabályzatot követve:

Nyilvános előzetes verzió: Minden új nyilvános előzetes verzió egy 90 napos időszak után aktiválja az előző előzetes verzió elavulását, feltéve, hogy nem vezetnek be kompatibilitástörő módosításokat.
GA-verziók: Ha új ga-verziót ad ki, a korábbi GA-verzió 90 napos időszak után megszűnik, ha a kompatibilitás megmarad.

A közelgő elavulásokról a What's new (Újdonságok) oldalon olvashat.

Bemeneti követelmények

Az egyes funkciók bemeneti követelményeit az alábbi lista tartalmazza.

Szöveges API elemzése:
- Alapértelmezett maximális hossz: 10K karakter (szükség szerint hosszabb szövegek felosztása).
Képi API elemzése:
- Képfájl maximális mérete: 4 MB
- Méretek 50 x 50 és 7200 x 7200 képpont között.
- A képek LEHETNEK JPEG, PNG, GIF, BMP, TIFF vagy WEBP formátumban.
Többmodális API elemzése (előzetes verzió):
- Alapértelmezett maximális szöveghossz: 1K karakter.
- Képfájl maximális mérete: 4 MB
- Méretek 50 x 50 és 7200 x 7200 képpont között.
- A képek LEHETNEK JPEG, PNG, GIF, BMP, TIFF vagy WEBP formátumban.
Prompt Shields API:
- Az üzenet maximális hossza: 10K karakter.
- Legfeljebb öt dokumentum, összesen 10K karakter hosszúságú.
Földiesség-észlelési API (előzetes verzió)::
- A földelési források maximális hossza: 55 000 karakter (API-hívásonként).
- Szöveg és lekérdezés maximális hossza: 7500 karakter.
Védett anyagészlelési API-k:
- Alapértelmezett maximális hossz: 1K karakter.
- Alapértelmezett minimális hossz: 110 karakter (az LLM-befejezések vizsgálatához, nem a felhasználói kérésekhez).
Egyéni kategóriák (standard) API (előzetes verzió):
- Maximális következtetési beviteli hossz: 1K karakter.

Nyelvi támogatás

Az Azure AI Content Safety-modellek a védett anyagokhoz, a földiesség-észleléshez és az egyéni kategóriákhoz (standard) csak angol nyelven működnek.

Más Azure AI Content Safety-modelleket kifejezetten a következő nyelveken képeztek ki és teszteltek: kínai, angol, francia, német, spanyol, olasz, japán, portugál. Ezek a funkciók azonban számos más nyelven is használhatók, de a minőség eltérő lehet. Minden esetben saját tesztelést kell végeznie, hogy megbizonyosodjon, az Ön alkalmazása esetében is működik.

További információ: Nyelvi támogatás.

Régiónkénti elérhetőség

A Content Safety API-k használatához létre kell hoznia az Azure AI Content Safety-erőforrást egy támogatott régióban. A Content Safety funkciói jelenleg a következő Azure-régiókban érhetők el különböző API-verziókkal:

Régió	Egyéni kategória	Alapozottság	Kép	Multimodális (kép Tex-szel)	Incidensmegoldás	Parancssori pajzs	Védett anyag (szöveg)	Védett anyag (kód)	Szöveg	Egyesített API
Kelet-Ausztrália	✅		✅		✅	✅	✅	✅	✅	✅
Kelet-Kanada			✅		✅	✅	✅	✅	✅	✅
USA középső régiója			✅		✅	✅	✅	✅	✅	✅
USA keleti régiója	✅		✅	✅	✅	✅	✅	✅	✅	✅
USA 2. keleti régiója		✅	✅		✅	✅	✅	✅	✅	✅
Közép-Franciaország		✅	✅		✅	✅	✅	✅	✅	✅
Kelet-Japán			✅		✅	✅	✅	✅	✅	✅
USA északi középső régiója			✅		✅	✅	✅	✅	✅	✅
Közép-Lengyelország			✅			✅	✅	✅	✅	✅
USA déli középső régiója			✅		✅	✅	✅	✅	✅	✅
Dél-India			✅		✅		✅	✅	✅	✅
Közép-Svédország		✅	✅		✅	✅	✅	✅	✅	✅
Észak-Svájc	✅		✅		✅	✅	✅	✅	✅	✅
Nyugat-Svájc			✅		✅	✅	✅	✅	✅
Egyesült Arab Emírségek északi régiója			✅		✅	✅	✅	✅	✅
Az Egyesült Királyság déli régiója		✅	✅		✅	✅	✅	✅	✅	✅
Nyugat-Európa			✅	✅	✅	✅	✅	✅	✅	✅
USA nyugati régiója		✅	✅		✅	✅	✅	✅	✅	✅
USA 2. nyugati régiója			✅		✅	✅	✅	✅	✅	✅
USA 3. nyugati régiója			✅		✅	✅	✅	✅	✅	✅
FairFax - USGovArizona			✅			✅	✅		✅	✅
FairFax - USGovVirginia			✅			✅	✅		✅	✅

Forduljon hozzánk , ha vállalkozásának más régiókra van szüksége ahhoz, hogy elérhetőek legyenek.

Lekérdezési arányok

A tartalombiztonsági funkciók lekérdezési sebességkorlátokkal rendelkeznek a másodpercenkénti kérelmek (RPS) vagy a kérések 10 másodpercenkénti (RP10S) esetében. Az egyes funkciók korlátozási rátáit az alábbi táblázatban tekintheti meg.

Tarifacsomag	Moderálási API-k (szöveg és kép)	Javaslati pajzsok	Jogvédett anyagok észlelése	Alapozottság észlelések (előzetes verzió)	Egyéni kategóriák (gyors) (előzetes verzió)	Egyéni kategóriák (standard) (előzetes verzió)	Multimodális
F0	5 RPS	5 RPS	5 RPS	n/a	5 RPS	5 RPS	5 RPS
S0	1000 RP10S	1000 RP10S	1000 RP10S	50 RPS	1000 RP10S	5 RPS	10 RPS

Ha gyorsabb díjszabásra van szüksége, kérjük , vegye fel velünk a kapcsolatot a kéréshez.

Kapcsolat

Ha elakad, küldjön nekünk e-mailt, vagy használja bármelyik Microsoft Learn-oldal alján található visszajelzési widgetet.

Következő lépések

Kövesse az Azure AI Content Safety alkalmazásbeli használatának első lépéseit ismertető rövid útmutatót.

Tartalombiztonság – rövid útmutató

Megosztás a következőn keresztül: