Rychlý start: Azure AI Content Safety Studio
Tento článek vysvětluje, jak můžete začít se službou Zabezpečení obsahu Azure AI pomocí nástroje Content Safety Studio v prohlížeči.
Upozornění
Část ukázkového obsahu poskytovaného nástrojem Content Safety Studio může být urážlivá. Ve výchozím nastavení jsou ukázkové obrázky rozmazané. Doporučuje se, aby uživatel rozhodoval.
Požadavky
- Účet Azure. Pokud jej nemáte, můžete si jej zdarma vytvořit.
- Prostředek Azure pro bezpečnost obsahu.
- Přiřaďte k účtu roli uživatele služeb Cognitive Services. Přejděte na web Azure Portal, přejděte k prostředku zabezpečení obsahu nebo prostředku služby Azure AI Services a v levém navigačním panelu vyberte Řízení přístupu, pak vyberte + Přidat přiřazení role, zvolte roli uživatele služeb Cognitive Services a vyberte člena vašeho účtu, ke kterému potřebujete tuto roli přiřadit, a pak zkontrolujte a přiřaďte. Může trvat několik minut, než se přiřazení projeví.
- Přihlaste se k Content Safety Studiu pomocí svého předplatného Azure a prostředku Content Safety.
Důležité
Abyste mohli používat studiové prostředí, musíte k účtu Azure přiřadit roli uživatele služeb Cognitive Services. Přejděte na web Azure Portal, přejděte k prostředku zabezpečení obsahu nebo prostředku služby Azure AI Services a v levém navigačním panelu vyberte Řízení přístupu, pak vyberte + Přidat přiřazení role, zvolte roli uživatele služeb Cognitive Services a vyberte člena vašeho účtu, ke kterému potřebujete tuto roli přiřadit, a pak zkontrolujte a přiřaďte. Může trvat několik minut, než se přiřazení projeví.
Analýza obsahu textu
Stránka moderování obsahu textu poskytuje možnost rychlého vyzkoušení moderování textu.
- Vyberte panel moderování obsahu textu.
- Přidejte text do vstupního pole nebo vyberte ukázkový text z panelů na stránce.
- Vyberte Spustit test.
Služba vrátí všechny zjištěné kategorie s úrovní závažnosti pro každou z těchto kategorií: 0-Safe, 2-Low, 4-Medium, 6-High. Vrátí také binární odmítnutý/ výsledek na základě nakonfigurovaných filtrů. Pomocí matice na kartě Konfigurovat filtry nastavte povolené nebo zakázané úrovně závažnosti pro každou kategorii. Potom můžete text spustit znovu a podívat se, jak filtr funguje.
Karta Použít seznam blokovaných položek umožňuje vytvářet, upravovat a přidávat do pracovního postupu moderování seznam blokovaných položek. Pokud máte při spuštění testu povolený seznam blokovaných položek, zobrazí se panel detekce seznamu blokovaných položek v části Výsledky. Hlásí všechny shody se seznamem blokovaných položek.
Detekce uživatelských vstupních útoků
Panel Prompt Shields umožňuje vyzkoušet detekci rizik vstupu uživatele. Zjistit výzvy uživatelů navržené tak, aby vyvolaly model Generative AI na projevující se chování, které bylo natrénováno, aby se zabránilo nebo porušovalo pravidla nastavená v systémové zprávě. Tyto útoky se mohou lišit od složitých rolí až po jemné subverze bezpečnostního cíle.
- Vyberte panel Výzvy štítů.
- Vyberte ukázkový text na stránce nebo zadejte vlastní obsah pro testování. Soubor CSV můžete nahrát také k dávkovému testování.
- Vyberte Spustit test.
Služba vrátí příznak rizika a typ pro každou ukázku.
Další informace naleznete v koncepční příručce Prompt Shields.
Analýza obsahu obrázků
Stránka moderování obsahu obrázku poskytuje možnost rychlého vyzkoušení moderování obrázků.
- Vyberte panel moderování obsahu obrázku.
- Vyberte ukázkový obrázek z panelů na stránce nebo nahrajte vlastní obrázek. Maximální velikost odesílání obrázků je 4 MB a rozměry obrázku musí být 50 × 50 pixelů až 2 048 × 2 048 pixelů. Obrázky můžou být ve formátech JPEG, PNG, GIF, BMP, TIFF nebo WEBP.
- Vyberte Spustit test.
Služba vrátí všechny zjištěné kategorie s úrovní závažnosti pro každou z těchto kategorií: 0-Safe, 2-Low, 4-Medium, 6-High. Vrátí také binární odmítnutý/ výsledek na základě nakonfigurovaných filtrů. Pomocí matice na kartě Konfigurovat filtry vpravo nastavte povolené nebo zakázané úrovně závažnosti pro každou kategorii. Potom můžete text spustit znovu a podívat se, jak filtr funguje.
Zobrazení a export kódu
Pomocí funkce Zobrazit kód můžete zobrazit a zkopírovat ukázkový kód, který zahrnuje konfiguraci pro filtrování závažnosti, seznamy blokovaných položek a moderování. Pak můžete kód nasadit na svůj konec.
Monitorování online aktivit
Panel online aktivit Monitorování umožňuje zobrazit využití a trendy rozhraní API.
Můžete zvolit typ média, který chcete monitorovat. Časový rozsah, který chcete zkontrolovat, můžete také určit tak , že vyberete Zobrazit data za poslední __.
V grafu četnosti zamítnutí na kategorii můžete také upravit prahové hodnoty závažnosti pro každou kategorii.
Seznam blokovaných termínů můžete také upravit, pokud chcete změnit některé termíny na základě grafu 10 blokovaných termínů s top 10.
Správa prostředku
Pokud chcete zobrazit podrobnosti o prostředcích, jako je název a cenová úroveň, vyberte ikonu Nastavení v pravém horním rohu domovské stránky Content Safety Studio a vyberte kartu Prostředek . Pokud máte i další prostředky, můžete sem přepnout i prostředky.
Vyčištění prostředků
Pokud chcete vyčistit a odebrat prostředek služeb Azure AI, můžete odstranit prostředek nebo skupinu prostředků. Odstraněním skupiny prostředků se odstraní také všechny ostatní prostředky, které jsou k ní přidružené.
Další krok
Dále začněte používat Azure AI Content Safety prostřednictvím rozhraní REST API nebo klientské sady SDK, abyste mohli službu bezproblémově integrovat do své aplikace.