Co je obsah Azure AI Sejf ty?
Obsah Azure AI Sejf ty detekuje škodlivý uživatelem generovaný a generovaný obsah umělé inteligence v aplikacích a službách. Obsah Azure AI Sejf ty zahrnuje rozhraní API pro text a obrázky, která umožňují detekovat škodlivý materiál. Máme také interaktivní obsah Sejf ty Studio, který umožňuje zobrazit, prozkoumat a vyzkoušet ukázkový kód pro detekci škodlivého obsahu napříč různými způsoby.
Software pro filtrování obsahu může vaší aplikaci pomoct dodržovat předpisy nebo udržovat určené prostředí pro vaše uživatele.
Tato dokumentace obsahuje následující typy článků:
- Rychlé starty jsou úvodní pokyny, které vás provedou prováděním požadavků na službu.
- Návody obsahují pokyny pro používání služby konkrétnějšími nebo přizpůsobenými způsoby.
- Koncepty poskytují podrobné vysvětlení funkcí a funkcí služby.
Kde se používá
Následuje několik scénářů, ve kterých by vývojář softwaru nebo tým vyžadoval kon režim stanu ration service:
- Online marketplace, které moderují katalogy produktů a další uživatelem generovaný obsah.
- Herní společnosti, které moderují uživatelsky generované herní artefakty a chatovací místnosti.
- Platformy sociálních zpráv, které moderují obrázky a text přidaný jejich uživateli
- Podnikové mediální společnosti, které implementují centralizované moderování obsahu.
- Poskytovatelé řešení pro vzdělávání K-12 filtrují obsah, který není vhodný pro studenty a vyučující.
Důležité
Obsah Azure AI nemůžete použít Sejf ty k detekci neplatných podřízených imagí zneužití.
Typy produktů
V této službě jsou k dispozici různé typy analýz. Následující tabulka popisuje aktuálně dostupná rozhraní API.
| Typ | Funkce |
|---|---|
| Analýza textového rozhraní API | Vyhledá text sexuálního obsahu, násilí, nenávisti a sebepoškozování s více úrovněmi závažnosti. |
| Analýza rozhraní API pro obrázky | Vyhledá obrázky sexuálního obsahu, násilí, nenávisti a sebepoškozování s více úrovněmi závažnosti. |
| Vyzvání štítů (Preview) | Vyhledá text pro riziko útoku uživatelských vstupů na rozsáhlý jazykový model. Rychlý start |
| Detekce uzemnění (Preview) | Zjistí, jestli jsou textové odpovědi velkých jazykových modelů (LLM) uzemněny ve zdrojových materiálech poskytovaných uživateli. Rychlý start |
| Detekce chráněného textu materiálu (Preview) | Prohledá text vygenerovaný pomocí umělé inteligence pro známý textový obsah (například text skladby, články, recepty, vybraný webový obsah). Rychlý start |
| Vlastní kategorie (rychlé) rozhraní API (Preview) | Umožňuje definovat nově vznikající škodlivé vzory obsahu a kontrolovat shody textu a obrázků. Průvodce postupy |
Content Sejf ty Studio
Azure AI Content Sejf ty Studio je online nástroj navržený pro zpracování potenciálně urážlivého, rizikového nebo nežádoucího obsahu pomocí špičkových modelů kon režim stanu ration ML. Poskytuje šablony a přizpůsobené pracovní postupy, které uživatelům umožňují zvolit a vytvořit vlastní kon režim stanu ration system. Uživatelé můžou nahrát vlastní obsah nebo si ho vyzkoušet s poskytnutým ukázkovým obsahem.
Obsah Sejf ty Studio obsahuje nejen předem vytvořené modely AI, ale také integrované seznamy blokovaných termínů Od Microsoftu, které označují vulgární výrazy a zůstávají v aktualizovaném stavu s novými trendy. Můžete také nahrát vlastní seznamy bloků, abyste zvýšili pokrytí škodlivého obsahu, který je specifický pro váš případ použití.
Studio také umožňuje nastavit pracovní postup moderování, kde můžete nepřetržitě monitorovat a zlepšovat výkon con režim stanu ration. Může vám pomoct splnit požadavky na obsah ze všech druhů odvětví, jako jsou hry, média, vzdělávání, elektronické obchodování a další. Firmy můžou snadno propojit své služby se sadou Studio a jejich kon režim stanu hodnocené v reálném čase bez ohledu na to, jestli jsou generované uživatelem nebo vygenerované umělé inteligence.
Všechny tyto funkce zpracovává studio a její back-end; zákazníci se nemusí starat o vývoj modelů. Data můžete připojit k rychlému ověření a odpovídajícím způsobem monitorovat klíčové ukazatele výkonu, jako jsou technické metriky (latence, přesnost, úplnost) nebo obchodní metriky (míra bloků, objem bloků, poměr kategorií, poměr jazyka a další). Díky jednoduchým operacím a konfiguracím můžou zákazníci rychle testovat různá řešení a najít to nejlepší místo toho, abyste strávili čas experimentováním s vlastními modely nebo ručně moderováním.
Funkce content Sejf ty Studio
V content Sejf ty Studio jsou k dispozici následující funkce služby Azure AI Content Sejf ty:
Moderování obsahu textu: Pomocí nástroje pro moderování textu můžete snadno spouštět testy na textovém obsahu. Ať už chcete otestovat jednu větu nebo celou datovou sadu, náš nástroj nabízí uživatelsky přívětivé rozhraní, které vám umožní vyhodnotit výsledky testu přímo na portálu. Můžete experimentovat s různými úrovněmi citlivosti, abyste nakonfigurovali filtry obsahu a správu seznamu blokovaných položek a zajistili tak, že váš obsah bude vždy moderovaný na vaše přesné specifikace. Navíc s možností exportu kódu můžete nástroj implementovat přímo ve vaší aplikaci, streamovat pracovní postup a ušetřit čas.
Moderování obsahu obrázků: Pomocí nástroje pro moderování obrázků můžete snadno spouštět testy obrázků, abyste zajistili, že splňují vaše standardy obsahu. Naše uživatelsky přívětivé rozhraní umožňuje vyhodnotit výsledky testů přímo na portálu a můžete experimentovat s různými úrovněmi citlivosti a nakonfigurovat filtry obsahu. Po přizpůsobení nastavení můžete snadno exportovat kód pro implementaci nástroje ve vaší aplikaci.
Monitorování online aktivit: Výkonná stránka monitorování umožňuje snadno sledovat využití a trendy rozhraní API moderování napříč různými způsoby. Pomocí této funkce získáte přístup k podrobným informacím o odpovědích, včetně distribuce kategorií a závažnosti, latence, chyby a detekce seznamu blokovaných seznamů. Tyto informace vám poskytují úplný přehled výkonu con režim stanu ration, který vám umožní optimalizovat pracovní postup a zajistit, aby byl váš obsah vždy moderovaný na vaše přesné specifikace. S naším uživatelsky přívětivým rozhraním můžete rychle a snadno procházet stránku monitorování a získat přístup k informacím, které potřebujete k informovanému rozhodování o vaší strategii kon režim stanu ration. Máte nástroje, které potřebujete, abyste měli přehled o výkonu a dosažení cílů obsahu režim stanu.
Požadavky na vstup
Výchozí maximální délka odesílání textu je 10 tisíc znaků. Pokud potřebujete analyzovat delší bloky textu, můžete vstupní text rozdělit (například interpunkcí nebo mezerami) napříč několika souvisejícími odesláními.
Maximální velikost odesílání obrázků je 4 MB a rozměry obrázku musí být 50 × 50 pixelů až 2 048 × 2 048 pixelů. Obrázky můžou být ve formátech JPEG, PNG, GIF, BMP, TIFF nebo WEBP.
Zabezpečení
Použití ID Microsoft Entra nebo spravované identity ke správě přístupu
Pokud chcete zvýšit zabezpečení, můžete ke správě přístupu k prostředkům použít Microsoft Entra ID nebo spravovanou identitu (MI).
- Spravovaná identita se automaticky povolí při vytváření prostředku Sejf ty obsahu.
- ID Microsoft Entra se podporuje ve scénářích rozhraní API i sady SDK. Přečtěte si obecné pokyny ke službám AI pro ověřování pomocí ID Microsoft Entra. Přístup můžete udělit také ostatním uživatelům v rámci vaší organizace tím, že jim přiřadíte role uživatelů a čtenáře služeb Cognitive Services. Další informace o udělení přístupu uživatelů k prostředkům Azure pomocí webu Azure Portal najdete v průvodci řízením přístupu na základě role.
Šifrování neaktivních uložených dat
Zjistěte, jak azure AI Content Sejf ty zpracovává šifrování a dešifrování vašich dat. Klíče spravované zákazníkem (CMK), označované také jako ByOK (Bring Your Own Key), nabízejí větší flexibilitu při vytváření, obměně, zákazu a odvolávání řízení přístupu. Šifrovací klíče sloužící k ochraně vašich dat můžete také auditovat.
Ceny
V současné době má obsah Azure AI Sejf ty cenovou úroveň F0 a S0. Další informace najdete na stránce s cenami Azure.
Omezení služby
Podpora jazyků
Modely obsahu Sejf ty byly speciálně natrénovány a testovány v následujících jazycích: angličtina, němčina, japonština, španělština, francouzština, italština, portugalština a čínština. Služba ale může fungovat v mnoha dalších jazycích, ale kvalita se může lišit. Ve všech případech byste měli provést vlastní testování, abyste se ujistili, že to pro vaši aplikaci funguje.
Další informace najdete v tématu Podpora jazyků.
Regionální dostupnost
Pokud chcete použít rozhraní API pro Sejf ty obsahu, musíte v podporovaných oblastech vytvořit prostředek obsahu Azure AI Sejf ty. V současné době jsou funkce content Sejf ty dostupné v následujících oblastech Azure:
| Oblast | Rozhraní API pro moderování | Vyzvání štítů | Chráněný materiál změn |
Uzemnění změn |
Reakce na incidenty | Seznamy blokovaných položek | |
|---|---|---|---|---|---|---|---|
| East US | ✅ | ✅ | ✅ | ✅ | ✅ | ✅ | |
| USA – východ 2 | ✅ | ✅ | |||||
| USA – západ | ✅ | ||||||
| Západní USA 2 | ✅ | ||||||
| USA – střed | ✅ | ||||||
| USA – středosever | ✅ | ||||||
| Středojižní USA | ✅ | ||||||
| Kanada – východ | ✅ | ||||||
| Švýcarsko – sever | ✅ | ||||||
| Švédsko – střed | ✅ | ✅ | ✅ | ||||
| Velká Británie – jih | ✅ | ||||||
| Francie – střed | ✅ | ||||||
| Západní Evropa | ✅ | ✅ | ✅ | ✅ | |||
| Japonsko – východ | ✅ | ||||||
| Austrálie – východ | ✅ | ✅ |
Pokud potřebujete další oblasti pro vaši firmu, neváhejte nás kontaktovat.
Sazby dotazů
| Cenová úroveň | Žádosti za 10 sekund |
|---|---|
| F0 | 1000 |
| S0 | 1000 |
Vyzvání štítů
| Cenová úroveň | Žádosti za 10 sekund |
|---|---|
| F0 | 1000 |
| S0 | 1000 |
Detekce uzemnění
| Cenová úroveň | Žádosti za 10 sekund |
|---|---|
| F0 | 50 |
| S0 | 50 |
Pokud potřebujete rychlejší sazbu, kontaktujte nás a požádejte nás .
Kontaktujte nás
Pokud se zaseknete, pošlete nám e-mail nebo použijte widget pro zpětnou vazbu v pravém horním rohu libovolné stránky dokumentace.
Další kroky
Začněte používat obsah Azure AI Sejf ty ve vaší aplikaci pomocí rychlého startu.