Co je Content Moderator?

  • 5 min

Con režim stanu ration je proces, který zahrnuje jednoduché kroky. Kontrola, monitorování a interpretace obsahu před zobrazením nebo uvolněním pro obecnou spotřebu Moderování velkého množství obsahu ale může být časově náročné. Pomocí služby, jako je Content Moderator, můžete automatizovat většinu tohoto procesu a podle potřeby nastavit potřebu lidské kontroly.

Služba Content Moderator je rozhraní API, které využívá umělou inteligenci a běží v Azure. Služba dokáže naskenovat obsah textu, obrázku a videa pro potenciální rizikové, urážlivé nebo nežádoucí aspekty. Použije příznaky obsahu automaticky, ale také se integruje s nástrojem Pro kontrolu. Nástroj Pro kontrolu je online prostředí moderátoru, které se používá k usnadnění kontroly obsahu označeného příznakem.

Rozhraní API

V Content Moderatoru jsou k dispozici různé typy rozhraní API. Následující tabulka popisuje všechna aktuální rozhraní API.

API Funkce
Moderování textu Vyhledá v textu urážlivé, sexuálně explicitní nebo sugestivní, vulgární a osobní údaje.
Moderování obrázků Prohledá obrázky a určí, jestli obsahují obsah pro dospělé nebo nevhodný obsah. Může také naskenovat text na obrázku pomocí optického rozpoznávání znaků (OCR) a rozpoznávat tváře i na obrázku.
Moderování videa Vyhledá obsah pro dospělé nebo nevhodné obsah ve videosouborech. Rozhraní API vrátí časové značky, ve kterých byl obsah nalezen.
Vlastní seznamy termínů Vyhledá v textu seznam termínů, které jste vytvořili. Seznam můžete použít k blokování nebo povolení obsahu na základě zásad obsahu vaší organizace.
Vlastní seznamy obrázků Naskenuje obrázky se seznamy vlastních obrázků. Pomocí seznamu můžete vyfiltrovat často opakovaný obsah, který nechcete znovu klasifikovat.

Kontrola obsahu

Automatizované kon režim stanu ration může stále vyžadovat ověření. Můžete se také rozhodnout, že chcete monitorovat, jak služba funguje v úlohách moderování. Služba Content Moderator podporuje také sadu rozhraní API pro kontrolu. Pomocí revizových rozhraní API můžete do pracovního postupu přenést revidujícíma člověka. Lidé komunikují se službou prostřednictvím nástroje pro kontrolu: Webové rozhraní, které hostuje recenze obsahu, které můžou zpracovávat a monitorovat lidé moderátoři.