Korzystanie z niestandardowego interfejsu API kategorii (szybkich)
Interfejs API kategorii niestandardowych (szybki) umożliwia szybkie reagowanie na pojawiające się szkodliwe zdarzenia zawartości. Możesz zdefiniować zdarzenie z kilkoma przykładami w określonym temacie, a usługa zacznie wykrywać podobną zawartość.
Wykonaj następujące kroki, aby zdefiniować zdarzenie z kilkoma przykładami zawartości tekstowej, a następnie przeanalizować nową zawartość tekstową, aby sprawdzić, czy jest ona zgodna ze zdarzeniem.
Ważne
Ta nowa funkcja jest dostępna tylko w wybranych regionach świadczenia usługi Azure. Zobacz Dostępność regionów.
Uwaga
Przykładowe dane w tym przewodniku mogą zawierać obraźliwą zawartość. Zaleca się, aby użytkownik był dyskrecjonalne.
Wymagania wstępne
- Subskrypcja platformy Azure — utwórz bezpłatnie
- Po utworzeniu subskrypcji platformy Azure utwórz zasób Content Sejf ty w witrynie Azure Portal, aby uzyskać klucz i punkt końcowy. Wprowadź unikatową nazwę zasobu, wybierz subskrypcję i wybierz grupę zasobów, obsługiwany region (zobacz Dostępność regionu) i obsługiwaną warstwę cenową. Następnie wybierz Utwórz.
- Wdrożenie zasobu trwa kilka minut. Po zakończeniu wybierz pozycję Przejdź do zasobu. W okienku po lewej stronie w obszarze Zarządzanie zasobami wybierz pozycję Klucz subskrypcji i punkt końcowy. Punkt końcowy i jeden z kluczy są używane do wywoływania interfejsów API.
- Utwórz również kontener magazynu obiektów blob, jeśli chcesz tam przekazać obrazy. Możesz też kodować obrazy jako ciągi Base64 i używać ich bezpośrednio w wywołaniach interfejsu API.
- Zainstalowano jedną z następujących opcji:
- cURL dla wywołań interfejsu API REST.
- Zainstalowany język Python 3.x
Testowanie interfejsu API kategorii niestandardowych tekstu (szybki)
Użyj przykładowego kodu w tej sekcji, aby utworzyć zdarzenie tekstowe, dodać przykłady do zdarzenia, wdrożyć zdarzenie, a następnie wykryć zdarzenia tekstowe.
Tworzenie obiektu incydentu
W poniższych poleceniach zastąp <your_api_key>
wartości , <your_endpoint>
i innymi niezbędnymi parametrami własnymi wartościami.
Następujące polecenie tworzy zdarzenie o nazwie i definicji.
curl --location --request PATCH 'https://<endpoint>/contentsafety/text/incidents/<text-incident-name>?api-version=2024-02-15-preview' \
--header 'Ocp-Apim-Subscription-Key: <your-content-safety-key>' \
--header 'Content-Type: application/json' \
--data '{
"incidentName": "<text-incident-name>",
"incidentDefinition": "string"
}'
Dodawanie przykładów do zdarzenia
Użyj następującego polecenia, aby dodać przykłady tekstowe do zdarzenia.
curl --location 'https://<endpoint>/contentsafety/text/incidents/<text-incident-name>:addIncidentSamples?api-version=2024-02-15-preview' \
--header 'Ocp-Apim-Subscription-Key: <your-content-safety-key>' \
--header 'Content-Type: application/json' \
--data-raw '{
"IncidentSamples": [
{ "text": "<text-example-1>"},
{ "text": "<text-example-2>"},
...
]
}'
Wdrażanie zdarzenia
Użyj następującego polecenia, aby wdrożyć zdarzenie, udostępniając je do analizy nowej zawartości.
curl --location 'https://<endpoint>/contentsafety/text/incidents/<text-incident-name>:deploy?api-version=2024-02-15-preview' \
--header 'Ocp-Apim-Subscription-Key: <your-content-safety-key>' \
--header 'Content-Type: application/json'
Wykrywanie zdarzeń tekstowych
Uruchom następujące polecenie, aby przeanalizować przykładową zawartość tekstową dla właśnie wdrożonego zdarzenia.
curl --location 'https://<endpoint>/contentsafety/text:detectIncidents?api-version=2024-02-15-preview' \
--header 'Ocp-Apim-Subscription-Key: <your-content-safety-key>' \
--header 'Content-Type: application/json' \
--data '{
"text": "<test-text>",
"incidentNames": [
"<text-incident-name>"
]
}'
Testowanie niestandardowego interfejsu API kategorii obrazów (szybki)
Użyj przykładowego kodu w tej sekcji, aby utworzyć zdarzenie obrazu, dodać przykłady do zdarzenia, wdrożyć zdarzenie, a następnie wykryć zdarzenia obrazu.
Utwórz zdarzenie
W poniższych poleceniach zastąp <your_api_key>
wartości , <your_endpoint>
i innymi niezbędnymi parametrami własnymi wartościami.
Następujące polecenie tworzy zdarzenie obrazu:
curl --location --request PATCH 'https://<endpoint>/contentsafety/image/incidents/<image-incident-name>?api-version=2024-02-15-preview' \
--header 'Ocp-Apim-Subscription-Key: <your-content-safety-key>' \
--header 'Content-Type: application/json' \
--data '{
"incidentName": "<image-incident-name>"
}'
Dodawanie przykładów do zdarzenia
Użyj następującego polecenia, aby dodać przykłady obrazów do zdarzenia. Przykłady obrazów mogą być adresami URL wskazującymi obrazy w kontenerze usługi Azure Blob Storage lub mogą być ciągami Base64.
curl --location 'https://<endpoint>/contentsafety/image/incidents/<image-incident-name>:addIncidentSamples?api-version=2024-02-15-preview' \
--header 'Ocp-Apim-Subscription-Key: <your-content-safety-key>' \
--header 'Content-Type: application/json' \
--data '{
"IncidentSamples": [
{
"image": {
"content": "<base64-data>",
"bloburl": "<your-blob-storage-url>.png"
}
}
]
}'
Wdrażanie zdarzenia
Użyj następującego polecenia, aby wdrożyć zdarzenie, udostępniając je do analizy nowej zawartości.
curl --location 'https://<endpoint>/contentsafety/image/incidents/<image-incident-name>:deploy?api-version=2024-02-15-preview' \
--header 'Ocp-Apim-Subscription-Key: <your-content-safety-key>' \
--header 'Content-Type: application/json'
Wykrywanie zdarzeń obrazów
Użyj następującego polecenia, aby przekazać przykładowy obraz i przetestować go pod kątem wdrożonego zdarzenia. Możesz użyć adresu URL wskazującego obraz w kontenerze usługi Azure Blob Storage lub dodać dane obrazu jako ciąg Base64.
curl --location 'https://<endpoint>/contentsafety/image:detectIncidents?api-version=2024-02-15-preview' \
--header 'Ocp-Apim-Subscription-Key: <your-content-safety-key>' \
--header 'Content-Type: application/json' \
--data '{
"image": {
"url": "<your-blob-storage-url>/image.png",
"content": "<base64-data>"
},
"incidentNames": [
"<image-incident-name>"
]
}
}'
Inne operacje na zdarzeniach
Poniższe operacje są przydatne do zarządzania zdarzeniami i przykładami zdarzeń.
Interfejs API zdarzeń tekstowych
Wyświetlanie listy wszystkich zdarzeń
curl --location GET 'https://<endpoint>/contentsafety/text/incidents?api-version=2024-02-15-preview' \
--header 'Ocp-Apim-Subscription-Key: <your-content-safety-key>'
Pobieranie szczegółów zdarzenia
curl --location GET 'https://<endpoint>/contentsafety/text/incidents/<text-incident-name>?api-version=2024-02-15-preview' \
--header 'Ocp-Apim-Subscription-Key: <your-content-safety-key>'
Usuwanie zdarzenia
curl --location --request DELETE 'https://<endpoint>/contentsafety/text/incidents/<text-incident-name>?api-version=2024-02-15-preview' \
--header 'Ocp-Apim-Subscription-Key: <your-content-safety-key>'
Wyświetlanie listy wszystkich przykładów w ramach zdarzenia
To polecenie pobiera unikatowe identyfikatory wszystkich przykładów skojarzonych z danym obiektem zdarzenia.
curl --location GET 'https://<endpoint>/contentsafety/text/incidents/<text-incident-name>/incidentsamples?api-version=2024-02-15-preview' \
--header 'Ocp-Apim-Subscription-Key: <your-content-safety-key>'
Pobieranie szczegółów przykładu zdarzenia
Użyj przykładowego identyfikatora zdarzenia, aby wyszukać szczegółowe informacje o przykładzie.
curl --location GET 'https://<endpoint>/contentsafety/text/incidents/<text-incident-name>/incidentsamples/<your-incident-sample-id>?api-version=2024-02-15-preview' \
--header 'Ocp-Apim-Subscription-Key: <your-content-safety-key>'
Usuwanie przykładu zdarzenia
Użyj przykładowego identyfikatora zdarzenia, aby pobrać i usunąć ten przykład.
curl --location 'https://<endpoint>/contentsafety/text/incidents/<text-incident-name>:removeIncidentSamples?api-version=2024-02-15-preview' \
--header 'Ocp-Apim-Subscription-Key: <your-content-safety-key>' \
--header 'Content-Type: application/json' \
--data '{
"IncidentSampleIds": [
"<your-incident-sample-id>"
]
}'
Interfejs API zdarzeń obrazów
Pobieranie listy zdarzeń
curl --location GET 'https://<endpoint>/contentsafety/image/incidents?api-version=2024-02-15-preview' \
--header 'Ocp-Apim-Subscription-Key: <your-content-safety-key>'
Pobieranie szczegółów zdarzenia
curl --location GET 'https://<endpoint>/contentsafety/image/incidents/<image-incident-name>?api-version=2024-02-15-preview' \
--header 'Ocp-Apim-Subscription-Key: <your-content-safety-key>'
Usuwanie zdarzenia
curl --location --request DELETE 'https://<endpoint>/contentsafety/image/incidents/<image-incident-name>?api-version=2024-02-15-preview' \
--header 'Ocp-Apim-Subscription-Key: <your-content-safety-key>'
Wyświetlanie listy wszystkich przykładów w ramach zdarzenia
To polecenie pobiera unikatowe identyfikatory wszystkich przykładów skojarzonych z danym obiektem zdarzenia.
curl --location GET 'https://<endpoint>/contentsafety/image/incidents/<image-incident-name>/incidentsamples?api-version=2024-02-15-preview' \
--header 'Ocp-Apim-Subscription-Key: <your-content-safety-key>'
Pobieranie szczegółów przykładu zdarzenia
Użyj przykładowego identyfikatora zdarzenia, aby wyszukać szczegółowe informacje o przykładzie.
curl --location GET 'https://<endpoint>/contentsafety/image/incidents/<image-incident-name>/incidentsamples/<your-incident-sample-id>?api-version=2024-02-15-preview' \
--header 'Ocp-Apim-Subscription-Key: <your-content-safety-key>'
Usuwanie przykładu zdarzenia
Użyj przykładowego identyfikatora zdarzenia, aby pobrać i usunąć ten przykład.
curl --location 'https://<endpoint>/contentsafety/image/incidents/<image-incident-name>:removeIncidentSamples?api-version=2024-02-15-preview' \
--header 'Ocp-Apim-Subscription-Key: <your-content-safety-key>' \
--header 'Content-Type: application/json' \
--data '{
"IncidentSampleIds": [
"<your-incident-sample-id>"
]
}'
Powiązana zawartość
Opinia
https://aka.ms/ContentUserFeedback.
Dostępne już wkrótce: W 2024 r. będziemy stopniowo wycofywać zgłoszenia z serwisu GitHub jako mechanizm przesyłania opinii na temat zawartości i zastępować go nowym systemem opinii. Aby uzyskać więcej informacji, sprawdź:Prześlij i wyświetl opinię dla