Co je Azure Content Moderator?
Důležité
Azure Content Moderator je od února 2024 zastaralý a do února 2027 bude vyřazený. Nahrazuje ji Azure AI Content Safety, která nabízí pokročilé funkce AI a vyšší výkon.
Azure AI Content Safety je komplexní řešení navržené k detekci škodlivého uživatelem generovaného a generovaného obsahu umělé inteligence v aplikacích a službách. Azure AI Content Safety je vhodný pro mnoho scénářů, jako jsou online marketplace, herní společnosti, platformy sociálních zpráv, podnikové mediální společnosti a poskytovatelé řešení pro vzdělávání K-12. Tady je přehled jeho funkcí a možností:
- Rozhraní API pro rozpoznávání textu a obrázků: Prohledávat text a obrázky pro sexuální obsah, násilí, nenávist a sebepoškozování s několika úrovněmi závažnosti.
- Content Safety Studio: Online nástroj navržený ke zpracování potenciálně urážlivého, rizikového nebo nežádoucího obsahu pomocí našich nejnovějších modelů strojového učení s kon režim stanu ration. Poskytuje šablony a přizpůsobené pracovní postupy, které uživatelům umožňují vytvářet vlastní systémy kon režim stanu ration.
- Podpora jazyků: Azure AI Content Safety podporuje více než 100 jazyků a je speciálně vytrénovaný v angličtině, němčině, japonštině, španělštině, francouzštině, italštině, portugalštině a čínštině.
Azure AI Content Safety poskytuje robustní a flexibilní řešení pro potřeby kon režim stanu race. Přechodem z Content Moderatoru na Azure AI Content Safety můžete využít nejnovější nástroje a technologie, abyste zajistili, že váš obsah bude vždy moderovaný na vaše přesné specifikace.
Přečtěte si další informace o bezpečnosti obsahu Azure AI a prozkoumejte, jak může zvýšit úroveň strategie kon režim stanu ration.
Azure Content Moderator je služba AI, která umožňuje zpracovávat obsah, který je potenciálně urážlivý, rizikový nebo jinak nežádoucí. Zahrnuje službu AI využívající con režim stanu ration, která automaticky prohledává text, obrázek a videa a používá příznaky obsahu.
Do aplikace můžete chtít vytvořit software pro filtrování obsahu, který bude vyhovovat předpisům nebo udržovat určené prostředí pro vaše uživatele.
Tato dokumentace obsahuje následující typy článků:
- Rychlé starty jsou úvodní pokyny, které vás provedou prováděním požadavků na službu.
- Návody obsahují pokyny pro používání služby konkrétnějšími nebo přizpůsobenými způsoby.
- Koncepty poskytují podrobné vysvětlení funkcí a funkcí služby.
Pokud chcete strukturovanější přístup, postupujte podle modulu školení pro Content Moderator.
Kde se používá
Následuje několik scénářů, ve kterých by vývojář softwaru nebo tým vyžadoval kon režim stanu ration service:
- Online marketplace, které moderují katalogy produktů a další uživatelem generovaný obsah.
- Herní společnosti, které moderují uživatelsky generované herní artefakty a chatovací místnosti.
- Platformy sociálních zpráv, které moderují obrázky, text a videa přidaná jejich uživateli.
- Podnikové mediální společnosti, které implementují centralizované moderování obsahu.
- Poskytovatelé řešení pro vzdělávání K-12 filtrují obsah, který není vhodný pro studenty a vyučující.
Důležité
Content Moderator nelze použít k detekci neplatných podřízených obrázků zneužití. Kvalifikované organizace ale můžou pro tento typ obsahu použít cloudovou službu PhotoDNA.
Co zahrnuje
Služba Content Moderator se skládá z několika rozhraní API webových služeb, která jsou k dispozici prostřednictvím volání REST i sady .NET SDK.
Moderace API
Služba Content Moderator zahrnuje rozhraní API moderování, která kontrolují obsah materiálů, které mohou být nevhodné nebo problematické.
Následující tabulka popisuje různé typy rozhraní API moderování.
| Skupina rozhraní API | Popis |
|---|---|
| Moderování textu | Prohledá text urážlivého obsahu, sexuálně explicitně nebo sugestivního obsahu, vulgárních výrazů a osobních údajů. |
| Seznamy vlastních výrazů | Prohledá text s vlastním seznamem termínů spolu s předdefinovaných termínů. Pomocí vlastních seznamů můžete blokovat nebo povolovat obsah podle vlastních zásad obsahu. |
| Moderování obrázků | Vyhledává na obrázcích obsah pro dospělé nebo nevhodný obsah, rozpoznává text na obrázcích pomocí funkce optického rozpoznávání znaků (OCR) a rozpoznává tváře. |
| Seznamy vlastních obrázků | Vyhledává na obrázcích obrázky z vlastního seznamu. Pomocí seznamů vlastních obrázků můžete vyfiltrovat instance běžně se opakujícího obsahu, který nechcete znovu klasifikovat. |
| Moderování videa | Vyhledává ve videích nevhodný obsah nebo obsah pro dospělé a vrací pro uvedený obsah časové značky. |
Ochrana osobních údajů a zabezpečení dat
Stejně jako u všech služeb Azure AI by vývojáři, kteří používají službu Content Moderator, měli vědět o zásadách Microsoftu na zákaznických datech. Další informace najdete na stránce služeb Azure AI v Centru zabezpečení Microsoftu.
Další kroky
- Dokončete klientskou knihovnu nebo rychlý start k rozhraní REST API a implementujte základní scénáře v kódu.