Delen via

Quickstart: Beveiligd materiaal detecteren (preview)

  • Artikel

De beveiligde materiaaltekst beschrijft de taal die overeenkomt met bekende tekstinhoud (bijvoorbeeld liedteksten, artikelen, recepten, geselecteerde webinhoud). Deze functie kan worden gebruikt om bekende tekstinhoud te identificeren en te blokkeren die wordt weergegeven in de uitvoer van het taalmodel (alleen Engelstalige inhoud).

Vereisten

  • Een Azure-abonnement - Een gratis abonnement maken
  • Zodra u uw Azure-abonnement hebt, maakt u een Content Safety-resource in Azure Portal om uw sleutel en eindpunt op te halen. Voer een unieke naam in voor uw resource, selecteer uw abonnement en selecteer een resourcegroep, ondersteunde regio (zie Beschikbaarheid van regio) en ondersteunde prijscategorie. Selecteer vervolgens Maken.
    • Het implementeren van de resource duurt enkele minuten. Nadat deze is voltooid, gaat u naar de resource. Selecteer in het linkerdeelvenster onder Resourcebeheer de optie Abonnementssleutel en Eindpunt. Het eindpunt en een van de sleutels worden gebruikt om API's aan te roepen.
  • cURL geïnstalleerd

Tekst analyseren voor detectie van beveiligde materialen

In de volgende sectie wordt een voorbeeldaanvraag met cURL beschreven. Plak de onderstaande opdracht in een teksteditor en breng de volgende wijzigingen aan.

  1. Vervang door <endpoint> de eindpunt-URL die is gekoppeld aan uw resource.
  2. Vervang door <your_subscription_key> een van de sleutels die bij uw resource worden geleverd.
  3. Vervang desgewenst het "text" veld in de hoofdtekst door uw eigen tekst die u wilt analyseren.

    Tip

    Zie de invoervereisten voor maximale tekstlengtebeperkingen. Detectie van beveiligde materialen is bedoeld om te worden uitgevoerd op LLM-voltooiingen, niet op gebruikersprompts.

curl --location --request POST '<endpoint>/contentsafety/text:detectProtectedMaterial?api-version=2023-10-15-preview' \
--header 'Ocp-Apim-Subscription-Key: <your_subscription_key>' \
--header 'Content-Type: application/json' \
--data-raw '{
  "text": "to everyone, the best things in life are free. the stars belong to everyone, they gleam there for you and me. the flowers in spring, the robins that sing, the sunbeams that shine, they\'re yours, they\'re mine. and love can come to everyone, the best things in life are"
}'

De onderstaande velden moeten worden opgenomen in de URL:

Naam Vereist Beschrijving Type
API-versie Vereist Dit is de API-versie die moet worden gecontroleerd. De huidige versie is: api-version=2023-10-15-preview. Voorbeeld: <endpoint>/contentsafety/text:detectProtectedMaterial?api-version=2023-10-15-preview String

De parameters in de aanvraagbody worden gedefinieerd in deze tabel:

Naam Vereist Beschrijving Type
tekst Vereist Dit is de onbewerkte tekst die moet worden gecontroleerd. Andere niet-ascii-tekens kunnen worden opgenomen. String

Zie de volgende voorbeeldtekst van de aanvraag:

{
  "text": "string"
}

Open een opdrachtpromptvenster en voer de cURL-opdracht uit.

Het API-antwoord interpreteren

U ziet nu de resultaten van de beveiligde materiaaldetectie die worden weergegeven als JSON-gegevens in de console-uitvoer. Voorbeeld:

{
  "protectedMaterialAnalysis": {
    "detected": true
  }
}

De JSON-velden in de uitvoer worden hier gedefinieerd:

Name Omschrijving Type
protectedMaterialAnalysis Elke uitvoerklasse die de API voorspelt. String
Gedetecteerd Of er al dan niet beveiligd materiaal is gedetecteerd. Booleaanse waarde

Resources opschonen

Als u een Azure AI-servicesabonnement wilt opschonen en verwijderen, kunt u de resource of resourcegroep verwijderen. Als u de resourcegroep verwijdert, worden ook alle bijbehorende resources verwijderd.

Volgende stappen

Configureer filters voor elke categorie en test op gegevenssets met Behulp van Content Safety Studio, exporteer de code en implementeer.

Quickstart voor Content Safety Studio