Rychlý start: Detekce chráněného materiálu (Preview)

Článek
06/13/2024

Chráněný text materiálu popisuje jazyk, který odpovídá známému textovému obsahu (například text skladby, články, recepty, vybraný webový obsah). Tuto funkci lze použít k identifikaci a blokování zobrazování známého textového obsahu ve výstupu jazykového modelu (pouze anglický obsah).

Požadavky

Předplatné Azure – Vytvoření předplatného zdarma
Jakmile budete mít předplatné Azure, vytvořte na webu Azure Portal prostředek zabezpečení obsahu, abyste získali svůj klíč a koncový bod. Zadejte jedinečný název vašeho prostředku, vyberte své předplatné a vyberte skupinu prostředků, podporovanou oblast (viz Dostupnost oblastí) a podporovanou cenovou úroveň. Pak vyberte Vytvořit.
- Nasazení prostředku trvá několik minut. Po dokončení vyberte přejít k prostředku. V levém podokně v části Správa prostředků vyberte Klíč předplatného a koncový bod. Koncový bod a jeden z klíčů se používají k volání rozhraní API.
Nainstalovaný cURL

Analýza textu pro detekci chráněných materiálů

Následující část vás provede ukázkovým požadavkem s cURL. Vložte následující příkaz do textového editoru a proveďte následující změny.

Nahraďte <endpoint> adresou URL koncového bodu přidruženou k vašemu prostředku.
Nahraďte <your_subscription_key> jedním z klíčů, které jsou součástí vašeho prostředku.
Volitelně můžete pole v textu nahradit "text" vlastním textem, který chcete analyzovat.

Tip

Viz Požadavky na vstup pro omezení maximální délky textu. Detekce chráněných materiálů je určená ke spuštění při dokončování LLM, nikoli při zobrazování výzev uživatelů.

curl --location --request POST '<endpoint>/contentsafety/text:detectProtectedMaterial?api-version=2023-10-15-preview' \
--header 'Ocp-Apim-Subscription-Key: <your_subscription_key>' \
--header 'Content-Type: application/json' \
--data-raw '{
  "text": "to everyone, the best things in life are free. the stars belong to everyone, they gleam there for you and me. the flowers in spring, the robins that sing, the sunbeams that shine, they\'re yours, they\'re mine. and love can come to everyone, the best things in life are"
}'

Následující pole musí být zahrnuta v adrese URL:

Název	Požadováno	Popis	Typ
Verze rozhraní API	Požaduje se	Toto je verze rozhraní API, která se má zkontrolovat. Aktuální verze je: api-version=2023-10-15-preview. Příklad: `<endpoint>/contentsafety/text:detectProtectedMaterial?api-version=2023-10-15-preview`	String

Parametry v textu požadavku jsou definovány v této tabulce:

Název	Požadováno	Popis	Typ
text	Požaduje se	Jedná se o nezpracovaný text, který se má zkontrolovat. Můžete zahrnout i jiné znaky, které nejsou ascii.	String

Podívejte se na následující text ukázkové žádosti:

{
  "text": "string"
}

Otevřete okno příkazového řádku a spusťte příkaz cURL.

Interpretace odpovědi rozhraní API

Ve výstupu konzoly by se měly zobrazit výsledky detekce chráněných materiálů jako data JSON. Příklad:

{
  "protectedMaterialAnalysis": {
    "detected": true
  }
}

Pole JSON ve výstupu jsou definována tady:

Název	Popis	Typ
protectedMaterialAnalysis	Každá výstupní třída, kterou rozhraní API predikuje.	String
zjištěný	Zda byl zjištěn chráněný materiál, nebo ne.	Logická hodnota

Vyčištění prostředků

Pokud chcete vyčistit a odebrat předplatné služeb Azure AI, můžete odstranit prostředek nebo skupinu prostředků. Odstraněním skupiny prostředků se odstraní také všechny ostatní prostředky, které jsou k ní přidružené.

Další kroky

Nakonfigurujte filtry pro každou kategorii a otestujte datové sady pomocí content Safety Studia, exportujte kód a nasaďte ho.

Rychlý start pro Content Safety Studio

Sdílet prostřednictvím