Dela via

Snabbstart: Identifiera skyddat material (förhandsversion)

  • Artikel

Skyddad materialtext beskriver språk som matchar känt textinnehåll (till exempel sångtexter, artiklar, recept, valt webbinnehåll). Den här funktionen kan användas för att identifiera och blockera känt textinnehåll från att visas i utdata från språkmodeller (endast engelskt innehåll). Mer information finns i Skyddade materialbegrepp.

Förutsättningar

  • En Azure-prenumeration – Skapa en kostnadsfritt
  • När du har din Azure-prenumeration skapar du en Innehållssäkerhetsresurs i Azure-portalen för att hämta din nyckel och slutpunkt. Ange ett unikt namn för resursen, välj din prenumeration och välj en resursgrupp, region som stöds (se Regiontillgänglighet) och prisnivå som stöds. Välj sedan Skapa.
    • Det tar några minuter att distribuera resursen. När den är klar väljer du Gå till resurs. I den vänstra rutan under Resurshantering väljer du Prenumerationsnyckel och Slutpunkt. Slutpunkten och någon av nycklarna används för att anropa API:er.
  • cURL installerat

Analysera text för identifiering av skyddat material

I följande avsnitt går vi igenom en exempelbegäran med cURL. Klistra in kommandot nedan i en textredigerare och gör följande ändringar.

  1. Ersätt <endpoint> med slutpunkts-URL:en som är associerad med resursen.
  2. Ersätt <your_subscription_key> med en av nycklarna som medföljer resursen.
  3. Du kan också ersätta fältet "text" i brödtexten med din egen text som du vill analysera.

    Dricks

    Se Indatakrav för maximala textlängdsbegränsningar. Skyddad materialidentifiering är avsedd att köras vid LLM-slutföranden, inte användaruppmaningar.

curl --location --request POST '<endpoint>/contentsafety/text:detectProtectedMaterial?api-version=2023-10-15-preview' \
--header 'Ocp-Apim-Subscription-Key: <your_subscription_key>' \
--header 'Content-Type: application/json' \
--data-raw '{
  "text": "to everyone, the best things in life are free. the stars belong to everyone, they gleam there for you and me. the flowers in spring, the robins that sing, the sunbeams that shine"
}'

Fälten nedan måste inkluderas i URL:en:

Namn Obligatoriskt Beskrivning Typ
API-version Obligatoriskt Det här är DEN API-version som ska kontrolleras. Den aktuella versionen är: api-version=2023-10-15-preview. Exempel: <endpoint>/contentsafety/text:detectProtectedMaterial?api-version=2023-10-15-preview String

Parametrarna i begärandetexten definieras i den här tabellen:

Namn Obligatoriskt Beskrivning Typ
text Obligatoriskt Det här är den råa text som ska kontrolleras. Andra tecken som inte är ascii-tecken kan inkluderas. String

Se följande exempel på begärandetext:

{
  "text": "string"
}

Öppna ett kommandotolksfönster och kör kommandot cURL.

Tolka API-svaret

Du bör se resultaten för identifiering av skyddat material som visas som JSON-data i konsolens utdata. Till exempel:

{
  "protectedMaterialAnalysis": {
    "detected": true
  }
}

JSON-fälten i utdata definieras här:

Name beskrivning Typ
protectedMaterialAnalysis Varje utdataklass som API:et förutsäger. String
Upptäckt Om skyddat material har identifierats eller inte. Booleskt

Rensa resurser

Om du vill rensa och ta bort en Azure AI-tjänstprenumeration kan du ta bort resursen eller resursgruppen. Om du tar bort resursgruppen tas även alla andra resurser som är associerade med den bort.

Nästa steg

Konfigurera filter för varje kategori och testa datauppsättningar med hjälp av Content Safety Studio, exportera koden och distribuera.

Snabbstart för Content Safety Studio