Schnellstart: Erkennen geschützter Materialien (Vorschau)
Der geschützte Materialtext beschreibt Sprache, die mit bekannten Textinhalten übereinstimmt (z. B. Liedtexte, Artikel, Rezepte, ausgewählte Webinhalte). Dieses Feature kann verwendet werden, um bekannte Textinhalte zu identifizieren und zu blockieren, die in der Sprachmodellausgabe angezeigt werden (nur englischsprachiger Inhalt).
Voraussetzungen
- Azure-Abonnement: Kostenloses Azure-Konto
- Sobald Sie über ein Azure-Abonnement verfügen, können Sie im Azure-Portal eine Content Safety-Ressource erstellen, um Ihren Schlüssel und Endpunkt abzurufen. Geben Sie für Ihre Ressource einen eindeutigen Namen ein. Wählen Sie Ihr Abonnement aus, und wählen Sie dann eine Ressourcengruppe, eine unterstützte Region (USA, Osten oder Europa, Westen) und einen unterstützten Tarif. Wählen Sie dann Erstellen aus.
- Die Bereitstellung der Ressource dauert einige Minuten. Wählen Sie im Anschluss Zu Ressource wechseln aus. Wählen Sie im linken Bereich unter Ressourcenverwaltung die Option Abonnementschlüssel und Endpunkt aus. Der Endpunkt und einer der Schlüssel werden verwendet, um APIs aufzurufen.
- cURL muss installiert sein.
Analysieren von Text für die geschützte Materialerkennung
Im folgenden Abschnitt wird eine Beispielanforderung mit cURL erläutert. Fügen Sie den nachstehenden Befehl in einen Text-Editor ein, und nehmen Sie folgende Änderungen vor:
- Ersetzen Sie
<endpoint>durch die Endpunkt-URL, die Ihrer Ressource zugeordnet ist. - Ersetzen Sie
<your_subscription_key>durch einen der Schlüssel Ihrer Ressource. - Ersetzen Sie optional das Feld
"text"im Text durch Ihren eigenen Text für die Analyse.Tipp
Textgröße und Granularität
Die standardmäßige maximale Länge für Textübermittlungen liegt bei 1.000 Zeichen. Die maximale Länge beträgt 111 Zeichen. Die Erkennung von geschütztem Material ist für LLM-Vervollständigungen gedacht, nicht für Benutzeraufforderungen.
curl --location --request POST '<endpoint>/contentsafety/text:detectProtectedMaterial?api-version=2023-10-15-preview' \
--header 'Ocp-Apim-Subscription-Key: <your_subscription_key>' \
--header 'Content-Type: application/json' \
--data-raw '{
"text": "to everyone, the best things in life are free. the stars belong to everyone, they gleam there for you and me. the flowers in spring, the robins that sing, the sunbeams that shine, they\'re yours, they\'re mine. and love can come to everyone, the best things in life are"
}'
Folgende Felder müssen in der URL enthalten sein:
| Name | Erforderlich | BESCHREIBUNG | type |
|---|---|---|---|
| API-Version | Erforderlich | Die zu überprüfende API-Version. Aktuelle Version: api-version=2023-10-15-preview. Beispiel: <endpoint>/contentsafety/text:detectProtectedMaterial?api-version=2023-10-15-preview |
String |
Die Parameter im Anforderungstext sind in der folgenden Tabelle definiert:
| Name | Erforderlich | BESCHREIBUNG | type |
|---|---|---|---|
| text | Erforderlich | Der unformatierte Text, der überprüft werden soll. Andere Nicht-ASCII-Zeichen können enthalten sein. | String |
Sehen Sie sich den folgenden exemplarischen Anforderungstext an:
{
"text": "string"
}
Öffnen Sie ein Eingabeaufforderungsfenster, und führen Sie den cURL-Befehl aus.
Interpretieren der API-Antwort
Die Ergebnisse der Risikoerkennung von geschützten Materialien sollten als JSON-Daten in der Konsolenausgabe angezeigt werden. Beispiel:
{
"protectedMaterialAnalysis": {
"detected": true
}
}
Die JSON-Felder in der Ausgabe werden hier definiert:
| Name | Description | Typ |
|---|---|---|
| protectedMaterialAnalysis | Jede Ausgabeklasse, die von der API vorhergesagt wird. | String |
| detected | Ob geschütztes Material erkannt wurde oder nicht. | Boolean |
Bereinigen von Ressourcen
Wenn Sie ein Azure KI Services-Abonnement bereinigen und entfernen möchten, können Sie die Ressource oder die Ressourcengruppe löschen. Wenn Sie die Ressourcengruppe löschen, werden auch alle anderen Ressourcen gelöscht, die ihr zugeordnet sind.
Nächste Schritte
Konfigurieren Sie Filter für jede Kategorie, und testen Sie Datasets mithilfe von Content Safety Studio. Exportieren Sie den Code, und stellen Sie ihn bereit.