Guida introduttiva: Rilevare il materiale protetto (anteprima)

Articolo
06/13/2024

Il testo del materiale protetto descrive la lingua che corrisponde al contenuto di testo noto (ad esempio, testi di canzoni, articoli, ricette, contenuto Web selezionato). Questa funzionalità può essere usata per identificare e bloccare la visualizzazione del contenuto di testo noto nell'output del modello linguistico (solo contenuto in lingua inglese).

Prerequisiti

Una sottoscrizione di Azure: creare un account gratuitamente
Dopo aver creato la sottoscrizione di Azure, Creare una risorsa di Sicurezza dei contenuti nel portale di Azure per ottenere la chiave e l'endpoint. Immettere un nome univoco per la risorsa, selezionare la sottoscrizione e selezionare un gruppo di risorse, un'area supportata (vedere Disponibilità dell'area) e il piano tariffario supportato. Selezionare Crea.
- La distribuzione della risorsa richiede alcuni minuti. Al termine, selezionare Vai alla risorsa. Nel riquadro a sinistra, in Gestione risorse selezionare Chiave di sottoscrizione ed endpoint. L'endpoint e una delle chiavi vengono usati per chiamare le API.
cURL installato

Analizzare il testo per il rilevamento del materiale protetto

La sezione seguente illustra una richiesta di esempio con cURL. Incollare il comando qui di seguito in un editor di testo e apportare le modifiche seguenti.

Sostituire <endpoint> con l'URL dell'endpoint associato alla risorsa.
Sostituire <your_subscription_key> con una delle chiavi fornite con la risorsa.
Facoltativamente, sostituire il campo "text" nel corpo con il testo che si desidera analizzare.

Suggerimento

Vedere Requisiti di input per le limitazioni massime della lunghezza del testo. Il rilevamento del materiale protetto deve essere eseguito sui completamenti LLM, non sulle richieste degli utenti.

curl --location --request POST '<endpoint>/contentsafety/text:detectProtectedMaterial?api-version=2023-10-15-preview' \
--header 'Ocp-Apim-Subscription-Key: <your_subscription_key>' \
--header 'Content-Type: application/json' \
--data-raw '{
  "text": "to everyone, the best things in life are free. the stars belong to everyone, they gleam there for you and me. the flowers in spring, the robins that sing, the sunbeams that shine, they\'re yours, they\'re mine. and love can come to everyone, the best things in life are"
}'

I campi seguenti devono essere inclusi nell'URL:

Nome	Obbligatorio	Descrizione	Tipo
Versione dell'API	Richiesto	La versione dell'API da controllare. La versione corrente è: api-version=2023-10-15-preview. Esempio: `<endpoint>/contentsafety/text:detectProtectedMaterial?api-version=2023-10-15-preview`	String

I parametri nel corpo della richiesta sono definiti in questa tabella:

Nome	Obbligatorio	Descrizione	Tipo
Testo	Richiesto	Si tratta del testo non elaborato da controllare. È possibile includere altri caratteri non ascii.	String

Vedere il corpo della richiesta di esempio seguente:

{
  "text": "string"
}

Aprire una finestra del prompt dei comandi ed eseguire il comando cURL.

Interpretare la risposta dell'API

I risultati del rilevamento del materiale protetto verranno visualizzati come dati JSON nell'output della console. Ad esempio:

{
  "protectedMaterialAnalysis": {
    "detected": true
  }
}

I campi JSON nell'output sono definiti di seguito:

Nome	Descrizione	Tipo
protectedMaterialAnalysis	Ogni classe di output stimata dall'API.	String
rilevato	Indica se il materiale protetto è stato rilevato o meno.	Booleano

Pulire le risorse

Se si vuole pulire e rimuovere una sottoscrizione a Servizi di Azure AI, è possibile eliminare la risorsa o il gruppo di risorse. L'eliminazione del gruppo di risorse comporta anche l'eliminazione di tutte le altre risorse associate.

Passaggi successivi

Configurare i filtri per ogni categoria e test sui set di dati usando Studio di Sicurezza dei contenuti, esportare il codice e distribuire.

Istruzioni di avvio rapido di Studio di Sicurezza dei contenuti

Condividi tramite