Sdílet prostřednictvím

Vlastní kategorie (rychlé)

  • Článek

Ve scénářích kon režim stanu ration je vlastní kategorie (rychlý) proces identifikace, analýzy, obsahující, vymýcení a zotavení z kybernetických incidentů, které zahrnují nevhodný nebo škodlivý obsah na online platformách.

Incident může zahrnovat sadu vznikajících vzorů obsahu (text, obrázek nebo jiné způsoby), které porušují pokyny komunity Microsoftu nebo vlastní zásady a očekávání zákazníků. Tyto incidenty je potřeba rychle a přesně zmírnit, aby nedocházelo k potenciálním problémům s živými weby nebo škodám uživatelům a komunitám.

Vlastní kategorie (rychlé) funkce rozhraní API

Jedním ze způsobů, jak řešit nově vznikající incidenty obsahu, je použití seznamů blokovaných položek, ale to umožňuje pouze přesné porovnávání textu a porovnávání obrázků. Rozhraní API pro obsah Azure AI Sejf ty nabízí následující pokročilé možnosti:

  • sémantické porovnávání textu pomocí vyhledávání vkládání s jednoduchým klasifikátorem
  • porovnávání obrázků s jednoduchým modelem pro sledování objektů a vkládáním hledání.

Jak to funguje

Nejprve pomocí rozhraní API vytvoříte objekt incidentu s popisem. Pak do incidentu přidáte libovolný počet obrázků nebo textových ukázek. Není potřeba žádný krok trénování.

Pak můžete do běžné analýzy textu nebo požadavku na analýzu obrázků zahrnout definovaný incident. Služba bude indikovat, jestli je odeslaný obsah instancí vašeho incidentu. Služba může provádět další kon režim stanu úkoly ve stejném volání rozhraní API.

Omezení

Dostupnost jazyka

Rozhraní API vlastních kategorií textu (rychlé) podporuje všechny jazyky podporované obsahem Sejf moderování textu. Viz Podpora jazyků.

Omezení vstupu

Omezení vstupu vlastních kategorií (rychlého) rozhraní API najdete v následující tabulce:

Object Omezení
Maximální délka názvu incidentu 100 znaků
Maximální počet vzorků textu nebo obrázků na incident 1000
Maximální velikost každého vzorku Text: 500 znaků
Obrázek: 4 MB
Maximální počet textových nebo obrázkových incidentů na prostředek 100
Podporované formáty obrázků BMP, GIF, JPEG, PNG, TIF, WEBP

Regionální dostupnost

Pokud chcete toto rozhraní API použít, musíte vytvořit prostředek obsahu Azure AI Sejf ty v jedné z podporovaných oblastí. Viz Dostupnost oblastí.

Další kroky

Postupujte podle pokynů k používání rozhraní API pro obsah Azure AI Sejf ty vlastních kategorií (rychlé).