Co je Azure Content Moderator?
Důležité
Rozhraní API pro kontrolu Content Moderatoru a nástroj pro online kontrolu byly 31. 12. 2021 vyřazeny. Rozhraní API pro moderování jsou stále k dispozici.
Azure Content Moderator je služba umělé inteligence, která umožňuje zpracovávat potenciálně urážlivý, rizikový nebo jinak nežádoucí obsah. Zahrnuje službu moderování obsahu využívající umělou inteligenci, která prohledává text, obrázky a videa a automaticky používá příznaky obsahu.
Možná budete chtít do své aplikace začlenit software pro filtrování obsahu, abyste vyhověli předpisům nebo zachovali prostředí určené pro vaše uživatele.
Tato dokumentace obsahuje následující typy článků:
- Rychlá zprovoznění jsou úvodní pokyny, které vás provedou vytvářením požadavků na službu.
- Návody obsahují pokyny pro používání služby konkrétnějšími nebo přizpůsobenými způsoby.
- Koncepty poskytují podrobné vysvětlení funkcí a funkcí služby.
- Kurzy jsou delší příručky, které ukazují, jak službu používat jako součást v širších obchodních řešeních.
Pokud potřebujete strukturovanější přístup, postupujte podle školicího modulu pro Content Moderator.
Kde se používá
Následuje několik scénářů, ve kterých vývojář softwaru nebo tým vyžaduje službu moderování obsahu:
- Online marketplace, která moderují katalogy produktů a další uživatelem generovaný obsah.
- Herní společnosti, které moderují uživatelem generované herní artefakty a chatovací místnosti.
- Sociální platformy pro zasílání zpráv, které moderují obrázky, text a videa přidaná uživateli.
- Podnikové mediální společnosti, které implementují centralizované moderování svého obsahu.
- Poskytovatelé řešení K-12 pro vzdělávání filtrují obsah, který je nevhodný pro studenty a vyučující.
Důležité
Content Moderator nelze použít k detekci neplatných obrázků zneužít děti. Kvalifikované organizace ale můžou k zobrazení tohoto typu obsahu použít Cloud Service PhotoDNA.
Co zahrnuje
Služba Content Moderator se skládá z několika rozhraní API webových služeb, která jsou k dispozici prostřednictvím volání REST i sady .NET SDK.
Rozhraní API pro moderování
Služba Content Moderator zahrnuje rozhraní API pro moderování, která kontrolují obsah z hlediska potenciálně nevhodného nebo problematického materiálu.
Následující tabulka popisuje různé typy rozhraní API moderování.
| Skupina rozhraní API | Description |
|---|---|
| Moderování textu | Vyhledá v textu urážlivý obsah, sexuálně explicitní nebo sugestivní obsah, vulgární výrazy a osobní údaje. |
| Seznamy vlastních výrazů | Skenuje text podle vlastního seznamu termínů spolu s předdefinované termíny. Pomocí vlastních seznamů můžete blokovat nebo povolovat obsah podle vlastních zásad obsahu. |
| Moderování obrázků | Vyhledává na obrázcích obsah pro dospělé nebo nevhodný obsah, rozpoznává text na obrázcích pomocí funkce optického rozpoznávání znaků (OCR) a rozpoznává tváře. |
| Seznamy vlastních obrázků | Vyhledává na obrázcích obrázky z vlastního seznamu. Pomocí seznamů vlastních obrázků můžete vyfiltrovat instance běžně se opakujícího obsahu, který nechcete znovu klasifikovat. |
| Moderování videa | Vyhledává ve videích nevhodný obsah nebo obsah pro dospělé a vrací pro uvedený obsah časové značky. |
Ochrana osobních údajů a zabezpečení dat
Stejně jako všechny služby Cognitive Services by vývojáři, kteří používají službu Content Moderator, měli vědět o zásadách Microsoft týkajících se zákaznických dat. Další informace najdete na stránce Cognitive Services v centru zabezpečení Microsoft.
Další kroky
Pokud chcete začít používat Content Moderator na webovém portálu, postupujte podle pokynů v tématu Vyzkoušet Content Moderator na webu. Nebo dokončete rychlý start pro klientskou knihovnu nebo rozhraní REST API a implementujte základní scénáře v kódu.