Mi az Azure AI Tartalombiztonság?

Az Azure AI Tartalombiztonság egy AI-szolgáltatás, amely észleli a felhasználók által létrehozott és AI által létrehozott tartalmakat az alkalmazásokban és szolgáltatásokban. Az Azure AI Tartalombiztonság szöveges és képi API-kat tartalmaz, amelyek lehetővé teszik a káros anyagok észlelését. Az interaktív Content Safety Studio lehetővé teszi a káros tartalmak különböző módokon történő észlelésére szolgáló mintakód megtekintését, feltárását és kipróbálását.

A tartalomszűrési szoftverek segíthetnek az alkalmazásnak a szabályozásoknak való megfelelésben, vagy a felhasználók számára a kívánt környezet fenntartásában.

Előfeltételek

Az Azure AI Tartalombiztonság használatához a következőkre van szüksége:

Ez a dokumentáció a következő cikktípusokat tartalmazza:

  • A fogalmak részletesen ismertetik a szolgáltatás funkcióit és funkcióit.
  • A rövid útmutatók induló lépéseket tartalmaznak, amelyek végigvezetik a szolgáltatásnak küldött kérések elküldésén.
  • Az útmutatók konkrétabb vagy testre szabottabb módon tartalmazzák a szolgáltatás használatára vonatkozó utasításokat.

Tartalommoderálási funkciók

A Content Safety számos API-t biztosít a különböző moderálási igényekhez:

AI-biztonság és gyors védelem

Feature Cél Alapfogalmak útmutatója Első lépések
Parancssori pajzsok Szöveget vizsgál a nagy nyelvi modell elleni felhasználói bemeneti támadás kockázatának észlelésére. Prompt Shields fogalmak Quickstart
Megbízhatóság érzékelése (előzetes verzió) Észleli, hogy a nagy nyelvi modellek (LLM-ek) szöveges válaszai a felhasználók által biztosított forrásanyagokban vannak-e alapulva. A megalapozottság észlelésének fogalmai Quickstart
Védett anyag szövegészlelése Az AI által generált szöveget ismert szöveges tartalmakkal (például dalszövegekkel, cikkekkel, receptekkel, kiválasztott webes tartalommal) veti össze. Védett anyag fogalmai Quickstart
Feladatbetartási API Észleli, hogy az AI-ügynökök által használt eszközök mikor nem megfelelőek, nem szándékosak vagy idő előttiek egy felhasználói interakció kontextusában. Tevékenységbetartási fogalmak Quickstart

Tartalomelemzés

Feature Cél Alapfogalmak útmutatója Első lépések
Szöveg elemzése API Több súlyossági szinttel megvizsgálja a szexuális tartalmakat, az erőszakot, a gyűlöletet és az önkárosítást. Kárkategóriák Quickstart
Kép elemzése API Több súlyossági szinttel vizsgálja a képeket a szexuális tartalom, az erőszak, a gyűlölet és az önkárosítás szempontjából. Kárkategóriák Quickstart

Egyéni észlelés

Feature Cél Alapfogalmak útmutatója Első lépések
Egyéni kategóriák (standard) API (előzetes verzió) Lehetővé teszi saját egyéni tartalomkategóriák létrehozását és betanítását, valamint a szövegben való egyezéseket keresést. Egyéni kategóriák fogalmai Quickstart
Egyéni kategóriák (gyors) API (előzetes verzió) Lehetővé teszi a megjelenő káros tartalomminták definiálását, valamint a szövegek és képek egyezések keresését. Egyéni kategóriák fogalmai Útmutató

A használat helye

Az alábbiakban néhány olyan forgatókönyvet látunk, amelyekben egy szoftverfejlesztő vagy -csapat tartalommoderációs szolgáltatásra lenne szüksége.

  • A felhasználói kérések elküldve egy generatív AI-szolgáltatásnak.
  • Generatív AI-modellek által előállított tartalom.
  • Online piacterek, amelyek moderálják a termékkatalógusokat és más, felhasználó által létrehozott tartalmakat.
  • Játékvállalatok, amelyek moderálják a felhasználó által létrehozott játékelemeket és csevegőszobákat.
  • Közösségi üzenetkezelési platformok, amelyek moderálják a felhasználók által hozzáadott képeket és szöveget.
  • A tartalom központosított moderálását megvalósító nagyvállalati médiavállalatok.
  • A K-12 oktatási megoldásszolgáltatók kiszűrik a diákok és oktatók számára nem megfelelő tartalmakat.

Important

Az Azure AI Tartalombiztonság nem használható illegális gyermek-kihasználtsági képek észlelésére.

Tartalom Biztonsági Stúdió

Az Azure AI Tartalombiztonság Studio egy online eszköz, amely potenciálisan sértő, kockázatos vagy nemkívánatos tartalmak kezelésére szolgál élvonalbeli tartalommoderáló gépi tanulási modellek használatával. Sablonokat és testreszabott munkafolyamatokat biztosít, amelyek lehetővé teszik a felhasználók számára, hogy saját tartalommoderációs rendszerüket válasszanak és hozzanak létre. A felhasználók feltölthetik saját tartalmaikat, vagy kipróbálhatják a megadott mintatartalommal.

A Content Safety Studio nem csak a beépített AI-modelleket tartalmazza, hanem a Microsoft beépített kifejezéseket tartalmazó blokklistáit is, amellyel megjelölhető a trágárság, és naprakészen tarthatja az új tartalomtrendeket. A saját blokklistáit is feltöltheti a használati esetre jellemző káros tartalmak lefedettségének növelése érdekében.

A Studio lehetővé teszi egy moderálási munkafolyamat beállítását is, ahol folyamatosan figyelheti és javíthatja a tartalommoderálás teljesítményét. Segít megfelelni a különféle iparágak, például a játék, a média, az oktatás, az e-kereskedelem és egyebek tartalomkövetelményeinek. A vállalatok egyszerűen csatlakoztathatják szolgáltatásaikat a Studióhoz, és valós időben moderálhatják tartalmukat, akár felhasználó által generált, akár AI által generált.

Ezeket a képességeket a Studio és annak háttérrendszere kezeli; az ügyfeleknek nem kell aggódniuk a modellfejlesztés miatt. Az adatok gyors érvényesítéséhez és a KPI-k megfelelő monitorozásához készítheti el az adatokat, például technikai metrikákat (késés, pontosság, visszahívás) vagy üzleti metrikákat (blokksebesség, blokkmennyiség, kategóriaarányok, nyelvi arányok stb.). Az egyszerű műveletek és konfigurációk segítségével az ügyfelek gyorsan tesztelhetik a különböző megoldásokat, és megtalálhatják a legmegfelelőbb megoldást ahelyett, hogy egyéni modellekkel kísérleteznek, vagy manuálisan végeznek moderálást.

Próbálja ki a Content Safety Studio-t

A Content Safety Studio funkciói

A Content Safety Studióban a következő Azure AI Tartalombiztonság-funkciók érhetők el:

  • Szöveges tartalom moderálása: A szövegmoderálási eszközzel egyszerűen futtathat teszteket a szöveges tartalmakon. Akár egyetlen mondatot, akár teljes adathalmazt szeretne tesztelni, eszközünk egy felhasználóbarát felületet kínál, amellyel közvetlenül a portálon értékelheti a teszteredményeket. Különböző bizalmassági szintekkel kísérletezhet a tartalomszűrők és a tiltólista-kezelés konfigurálásához, biztosítva, hogy a tartalom mindig a pontos specifikációknak megfelelően legyen moderálva. Emellett a kód exportálásának lehetőségével közvetlenül az alkalmazásban implementálhatja az eszközt, egyszerűsítve a munkafolyamatot, és időt takaríthat meg.

  • Mérsékelt képtartalom: A képmoderálási eszközzel egyszerűen futtathat teszteket a képeken, hogy azok megfeleljenek a tartalomszabványoknak. A felhasználóbarát felület lehetővé teszi a teszteredmények kiértékelését közvetlenül a portálon, és különböző bizalmassági szintekkel kísérletezhet a tartalomszűrők konfigurálásához. Miután testre szabta a beállításokat, egyszerűen exportálhatja a kódot az eszköz alkalmazásbeli implementálásához.

  • Online tevékenység monitorozása: A hatékony monitorozási oldal lehetővé teszi a moderálási API használatának és trendjeinek nyomon követését különböző módokon. Ezzel a funkcióval részletes válaszinformációkat érhet el, beleértve a kategória- és súlyossági eloszlást, a késést, a hibát és a tiltólista-észlelést. Ezek az információk teljes áttekintést nyújtanak a tartalom moderálási teljesítményéről, így optimalizálhatja saját munkafolyamatát, és biztosíthatja, hogy a tartalom mindig a pontos specifikációinak megfelelően legyen moderálva. Felhasználóbarát felületünkkel gyorsan és egyszerűen navigálhat a megfigyelési oldalon, hogy hozzáférjen azokhoz az információkhoz, amelyekre szüksége van ahhoz, hogy megalapozott döntéseket hozzon a tartalommoderálási stratégiájáról. Rendelkezik azokkal az eszközökkel, amelyekre szüksége van ahhoz, hogy hatékonyan végezze a tartalom moderálást, és elérje a tartalmi céljait.

Biztonság

Microsoft Entra-azonosító vagy felügyelt identitás

A fokozott biztonság érdekében a Microsoft Entra ID vagy a Managed Identity (MI) használatával kezelheti az erőforrásokhoz való hozzáférést.

  • A felügyelt identitás automatikusan engedélyezve lesz tartalombiztonsági erőforrás létrehozásakor.
  • A Microsoft Entra ID api- és SDK-forgatókönyvekben is támogatott. Tekintse meg a Microsoft Entra ID-val való hitelesítés általános AI-szolgáltatásokra vonatkozó útmutatóját. A szervezeten belül más felhasználók számára is hozzáférést biztosíthat, ha hozzárendeli őket a Cognitive Services felhasználói és olvasói szerepköreihez. Ha többet szeretne megtudni arról, hogyan biztosíthat felhasználói hozzáférést az Azure-erőforrásokhoz az Azure Portal használatával, tekintse meg a szerepköralapú hozzáférés-vezérlési útmutatót.

A tárolt adatok titkosítása

Megtudhatja, hogyan kezeli az Azure AI Tartalombiztonság az adatok titkosítását és visszafejtést. Az ügyfél által felügyelt kulcsok (CMK), más néven a Saját kulcs (BYOK) nagyobb rugalmasságot biztosítanak a hozzáférési vezérlők létrehozásához, elforgatásához, letiltásához és visszavonásához. Továbbá az adatok védelméhez használt titkosítási kulcsok naplózására is lehetősége van.

Pricing

Az Azure AI Tartalombiztonság F0 és S0 tarifacsomaggal rendelkezik. További információért tekintse meg az Azure díjszabási oldalát .

Szolgáltatási korlátok

Important

Elavulással kapcsolatos értesítés

A Content Safety verziószámozásának és életciklus-kezelésének részeként bejelentjük a szolgáltatás API-k egyes nyilvános előzetes és GA-verzióinak elavulását. Az elavulási szabályzatunkat követve:

  • Nyilvános előzetes verzió: Minden új nyilvános előzetes verzió egy 90 napos időszak után aktiválja az előző előzetes verzió elavulását, feltéve, hogy nem vezetnek be kompatibilitástörő módosításokat.
  • GA-verziók: Ha új ga-verziót ad ki, a korábbi GA-verzió 90 napos időszak után megszűnik, ha a kompatibilitás megmarad.

A közelgő elavulásokról a What's new (Újdonságok ) oldalon olvashat.

Bemeneti követelmények

Az egyes funkciók bemeneti követelményeit az alábbi lista tartalmazza.

  • Szöveg API elemzése:
    • Alapértelmezett maximális hossz: 10K karakter (szükség szerint hosszabb szövegek felosztása).
  • Képelemző API elemzése:
    • Képfájl maximális mérete: 4 MB
    • 50 x 50 és 7200 x 7200 képpont közötti méretek.
    • A képek LEHETNEK JPEG, PNG, GIF, BMP, TIFF vagy WEBP formátumban.
  • Többmodális API elemzése (előzetes verzió):
    • Alapértelmezett maximális szöveghossz: 1K karakter.
    • Képfájl maximális mérete: 4 MB
    • 50 x 50 és 7200 x 7200 képpont közötti méretek.
    • A képek LEHETNEK JPEG, PNG, GIF, BMP, TIFF vagy WEBP formátumban.
  • Prompt Shields API:
    • Az üzenet maximális hossza: 10K karakter.
    • Legfeljebb öt dokumentum, összesen 10K karakter hosszúságú.
  • Gravitáció-érzékelő API (előzetes verzió):
    • A földelési források maximális hossza: 55 000 karakter (API-hívásonként).
    • Szöveg és lekérdezés maximális hossza: 7500 karakter.
    • Lekérdezés minimális hossza: 3 szó.
  • Védett anyagészlelési API-k:
    • Alapértelmezett maximális hossz: 10K karakter.
    • Alapértelmezett minimális hossz: 110 karakter (az LLM-befejezések vizsgálatához, nem a felhasználói kérésekhez).
  • Egyéni kategóriák (standard) API (előzetes verzió):
    • Maximális következtetési beviteli hossz: 1K karakter.
  • Feladatbetartás (előzetes verzió)::
    • Maximális bemeneti hossz: 100 000 karakter.

Nyelvi támogatás

Az Azure AI Tartalombiztonság-modellek a védett anyagokhoz, a megalapozottság észleléséhez és az egyéni kategóriákhoz (standard) csak angol nyelven működnek.

Más Azure AI Tartalombiztonság-modelleket kifejezetten a következő nyelveken képeztek ki és teszteltek: kínai, angol, francia, német, spanyol, olasz, japán, portugál. Ezek a funkciók azonban számos más nyelven is használhatók, de a minőség eltérő lehet. Minden esetben saját tesztelést kell végeznie, hogy megbizonyosodjon, az Ön alkalmazása esetében is működik.

További információ: Nyelvi támogatás.

Régiónkénti elérhetőség

A Content Safety API-k használatához létre kell hoznia az Azure AI Tartalombiztonság-erőforrást egy támogatott régióban. A Content Safety funkciói jelenleg a következő Azure-régiókban érhetők el különböző API-verziókkal:

Region Egyéni kategória (szabvány) Groundedness Image Multimodális (kép TeX-programmal) Testreszabott kategória (gyors) Parancssori pajzs Védett anyag (szöveg) Védett anyag (kód) Text
Ausztrália keleti régiója ✅ ✅ ✅ ✅ ✅ ✅ ✅
Kelet-Kanada ✅ ✅ ✅ ✅ ✅ ✅
USA középső régiója ✅ ✅ ✅ ✅ ✅ ✅
USA keleti régiója ✅ ✅ ✅ ✅ ✅ ✅ ✅ ✅ ✅
USA 2. keleti régiója ✅ ✅ ✅ ✅ ✅ ✅ ✅
Közép-Franciaország ✅ ✅ ✅ ✅ ✅ ✅ ✅
Középnyugat-Németország ✅ ✅ ✅ ✅
Észak-Olaszország ✅ ✅ ✅ ✅
Kelet-Japán ✅ ✅ ✅ ✅ ✅ ✅
Korea középső régiója ✅ ✅ ✅ ✅
USA északi középső régiója ✅ ✅ ✅ ✅ ✅ ✅
Közép-Lengyelország ✅ ✅ ✅ ✅ ✅
USA déli középső régiója ✅ ✅ ✅ ✅ ✅ ✅
Dél-India ✅ ✅ ✅ ✅ ✅ ✅
Közép-Svédország ✅ ✅ ✅ ✅ ✅ ✅ ✅
Észak-Svájc ✅ ✅ ✅ ✅ ✅ ✅ ✅
Nyugat-Svájc ✅ ✅ ✅ ✅ ✅ ✅
Egyesült Arab Emírségek északi régiója ✅ ✅ ✅ ✅ ✅ ✅
Egyesült Királyság déli régiója ✅ ✅ ✅ ✅ ✅ ✅ ✅
Nyugat-Európa ✅ ✅ ✅ ✅ ✅ ✅ ✅
USA nyugati régiója ✅ ✅ ✅ ✅ ✅ ✅ ✅
USA 2. nyugati régiója ✅ ✅ ✅ ✅ ✅ ✅
USA 3. nyugati régiója ✅ ✅ ✅ ✅ ✅ ✅
FairFax - USGovArizona ✅ ✅ ✅ ✅ ✅
FairFax - USGovVirginia ✅ ✅ ✅ ✅

Forduljon hozzánk , ha vállalkozásának más régiókra van szüksége ahhoz, hogy elérhetőek legyenek.

Lekérdezési arányok

A tartalombiztonsági funkciók lekérdezési sebességkorlátokkal rendelkeznek a másodpercenkénti kérelmek (RPS) vagy a kérések 10 másodpercenkénti (RP10S) esetében. Az egyes funkciók korlátozási rátáit az alábbi táblázatban tekintheti meg.

Tarifacsomag Moderálási API-k
(szöveg és kép)		 Sugallatvédők Jogvédett anyagok
észlelés		 Groundedness
észlelés (előzetes verzió)		 Egyéni kategóriák
(gyors) (előzetes verzió)		 Egyéni kategóriák
(standard) (előzetes verzió)		 Multimodal
F0 5 RPS (kérések másodpercenként) 5 RPS (kérések másodpercenként) 5 RPS (kérések másodpercenként) N/A 5 RPS (kérések másodpercenként) 5 RPS (kérések másodpercenként) 5 RPS (kérések másodpercenként)
S0 1000 RP10S 1000 RP10S 1000 RP10S 50 RPS 1000 RP10S 5 RPS (kérések másodpercenként) 10 RPS (kérések másodpercenként)

Ha gyorsabb díjszabásra van szüksége, forduljon hozzánk a kéréshez.

Kapcsolat

Ha elakad, küldjön nekünk e-mailt , vagy használja bármelyik Microsoft Learn-oldal alján található visszajelzési widgetet.

Következő lépések

Válassza ki a fejlesztési útvonalat:

Szövegmoderálás:

Szövegelemzési rövid útmutató

Képmoderálás:

Képelemzési rövid útmutató

Gyors védelem:

Prompt Shields gyorsindítási útmutató

  • Last updated on