Delen via

Quickstart: Beveiligde materiaaldetectie voor tekst

De functie Beveiligd materiaal voor tekst biedt een uitgebreide oplossing voor het beheren van risico's die zijn gekoppeld aan door AI gegenereerde inhoud (alleen Engelse inhoud). Door de weergave van beschermd materiaal te detecteren en te voorkomen, kunnen organisaties ervoor zorgen dat ze voldoen aan de intellectuele eigendomsrechten, de originaliteit van inhoud behouden en hun reputatie beschermen. Beschermd materiaal verwijst naar inhoud die overeenkomt met bekende tekst uit auteursrechtelijk beschermde bronnen, zoals liedteksten, artikelen, recepten of andere geselecteerde webinhoud.

De belangrijkste doelstellingen van de functie Beveiligde materiaaldetectie voor tekst voor door AI gegenereerde inhoud zijn:

  • Het detecteren en voorkomen van de weergave van beveiligde inhoud die door AI-modellen wordt gegenereerd.
  • Organisaties in staat stellen risico's te beheren die zijn gekoppeld aan door AI gegenereerde inhoud.
  • Om ervoor te zorgen dat door AI gegenereerde inhoud voldoet aan wettelijke, ethische en beleidsrichtlijnen voor inhoud.

Zie de conceptpagina voor de detectie van beveiligde materialen voor meer informatie over de detectie van beveiligde materialen. Zie de sectie Invoervereisten van het overzicht voor API-invoerlimieten.

Vereiste voorwaarden

Configuratie

Volg deze stappen om de Content Safety uitprobeerpagina te gebruiken:

  1. Ga naar Azure AI Foundry en navigeer naar je project/hub. Selecteer vervolgens het tabblad Kaders en besturingselementen in het linkernavigatievenster en selecteer het tabblad Uitproberen .
  2. Op de pagina Uitproberen kunt u experimenteren met verschillende kaders en besturingselementen, zoals tekst- en afbeeldingsinhoud, met behulp van aanpasbare drempelwaarden om te filteren op ongepaste of schadelijke inhoud.

Schermopname van de uitprobeerpagina voor Guardrails & controls.

Beveiligde materiaaldetectie gebruiken

Met deze functie wordt door AI gegenereerde tekst gescand op bekende tekstinhoud (bijvoorbeeld liedteksten, artikelen, recepten, geselecteerde webinhoud).

  1. Selecteer de detectie van beveiligd materiaal voor tekst of detectie van beveiligde materialen voor het codepaneel .
  2. Selecteer een voorbeeldtekst op de pagina of voer uw eigen tekst in voor het testen.
  3. Selecteer Test uitvoeren. De service retourneert het resultaat van beveiligde inhoud.

Zie de conceptuele handleiding voor beschermd materiaal voor meer informatie.

Vereiste voorwaarden

  • Een Azure-abonnement - Een gratis abonnement maken
  • Zodra u uw Azure-abonnement hebt, in het Azure-portaal om uw sleutel en eindpunt te verkrijgen. Voer een unieke naam in voor uw resource, selecteer uw abonnement en selecteer een resourcegroep, ondersteunde regio (zie Beschikbaarheid van regio) en ondersteunde prijscategorie. Klik vervolgens op Maken.
    • Het implementeren van de resource duurt enkele minuten. Nadat deze is voltooid, selecteer ga naar bron. Selecteer in het linkerdeelvenster onder Resourcebeheer de optie Abonnementssleutel en Eindpunt. Het eindpunt en een van de sleutels worden gebruikt om API's aan te roepen.
  • cURL geïnstalleerd

Tekst analyseren voor detectie van beveiligde materialen

In de volgende sectie wordt een voorbeeldaanvraag met cURL beschreven. Plak de onderstaande opdracht in een teksteditor en breng de volgende wijzigingen aan.

  1. Vervang door <endpoint> de eindpunt-URL die is gekoppeld aan uw resource.
  2. Vervang <your_subscription_key> door een van de sleutels die bij uw bron worden geleverd.
  3. Vervang desgewenst het "text" veld in de hoofdtekst door uw eigen tekst die u wilt analyseren.

    Aanbeveling

    Zie de invoervereisten voor maximale tekstlengtebeperkingen. Detectie van beveiligde materialen is bedoeld om te worden uitgevoerd op LLM-voltooiingen, niet op gebruikersprompts.

curl --location --request POST '<endpoint>/contentsafety/text:detectProtectedMaterial?api-version=2024-09-01' \
--header 'Ocp-Apim-Subscription-Key: <your_subscription_key>' \
--header 'Content-Type: application/json' \
--data-raw '{
  "text": "Kiss me out of the bearded barley Nightly beside the green, green grass Swing, swing, swing the spinning step You wear those shoes and I will wear that dress Oh, kiss me beneath the milky twilight Lead me out on the moonlit floor Lift your open hand Strike up the band and make the fireflies dance Silver moon's sparkling So, kiss me Kiss me down by the broken tree house Swing me upon its hanging tire Bring, bring, bring your flowered hat We'll take the trail marked on your father's map."
}'

De onderstaande velden moeten worden opgenomen in de URL:

Naam Vereist? Beschrijving Typologie
API-versie Verplicht Dit is de API-versie die moet worden gecontroleerd. De huidige versie is: api-version=2024-09-01. Voorbeeld: <endpoint>/contentsafety/text:detectProtectedMaterial?api-version=2024-09-01 Snaar / Touwtje

De parameters in de aanvraagbody worden gedefinieerd in deze tabel:

Naam Vereist? Beschrijving Typologie
tekst Verplicht Dit is de onbewerkte tekst die moet worden gecontroleerd. Andere niet-ascii-tekens kunnen worden opgenomen. Snaar / Touwtje

Zie de volgende voorbeeldtekst van de aanvraag:

{
  "text": "string"
}

Open een opdrachtpromptvenster en voer de cURL-opdracht uit.

Het API-antwoord interpreteren

U ziet nu de resultaten van de beveiligde materiaaldetectie die worden weergegeven als JSON-gegevens in de console-uitvoer. Voorbeeld:

{
  "protectedMaterialAnalysis": {
    "detected": true
  }
}

De JSON-velden in de uitvoer worden hier gedefinieerd:

Naam Beschrijving Typologie
beschermdMateriaalanalyse Elke uitvoerklasse die de API voorspelt. Snaar / Touwtje
Gedetecteerd Of er al dan niet beveiligd materiaal is gedetecteerd. Booleaan

De hulpbronnen opschonen

Als u een Azure AI-servicesabonnement wilt opschonen en verwijderen, kunt u de resource of resourcegroep verwijderen. Als u de resourcegroep verwijdert, worden ook alle andere resources verwijderd die eraan zijn gekoppeld.

Verwante inhoud