Použití vlastních kategorií (rychlého) rozhraní API
Rozhraní API vlastních kategorií (rychlé) umožňuje rychle reagovat na vznikající škodlivé incidenty obsahu. Incident můžete definovat několika příklady v konkrétním tématu a služba začne zjišťovat podobný obsah.
Pomocí těchto kroků definujte incident s několika příklady textového obsahu a pak analyzujte nový textový obsah, abyste zjistili, jestli incident odpovídá.
Důležité
Tato nová funkce je dostupná jenom ve vybraných oblastech Azure. Viz Dostupnost oblastí.
Upozornění
Ukázková data v této příručce můžou obsahovat urážlivý obsah. Doporučuje se, aby uživatel rozhodoval.
Požadavky
- Předplatné Azure – Vytvoření předplatného zdarma
- Jakmile budete mít předplatné Azure, vytvořte na webu Azure Portal prostředek content Sejf ty, abyste získali klíč a koncový bod. Zadejte jedinečný název vašeho prostředku, vyberte své předplatné a vyberte skupinu prostředků, podporovanou oblast (viz Dostupnost oblastí) a podporovanou cenovou úroveň. Pak vyberte Vytvořit.
- Nasazení prostředku trvá několik minut. Po dokončení vyberte přejít k prostředku. V levém podokně v části Správa prostředků vyberte Klíč předplatného a koncový bod. Koncový bod a jeden z klíčů se používají k volání rozhraní API.
- Pokud tam chcete nahrát obrázky, vytvořte také kontejner úložiště objektů blob. Alternativně můžete obrázky zakódovat jako řetězce Base64 a použít je přímo ve voláních rozhraní API.
- Nainstalujte jednu z následujících instalací:
- cURL pro volání rozhraní REST API.
- Nainstalovaný Python 3.x
Testování vlastních kategorií textu (rychlé) rozhraní API
Pomocí vzorového kódu v této části vytvořte textový incident, přidejte do incidentu ukázky, nasaďte incident a pak detekujte textové incidenty.
Vytvoření objektu incidentu
V následujícíchpříkazch <your_api_key>
<your_endpoint>
Následující příkaz vytvoří incident s názvem a definicí.
curl --location --request PATCH 'https://<endpoint>/contentsafety/text/incidents/<text-incident-name>?api-version=2024-02-15-preview' \
--header 'Ocp-Apim-Subscription-Key: <your-content-safety-key>' \
--header 'Content-Type: application/json' \
--data '{
"incidentName": "<text-incident-name>",
"incidentDefinition": "string"
}'
Přidání ukázek k incidentu
K přidání textových příkladů k incidentu použijte následující příkaz.
curl --location 'https://<endpoint>/contentsafety/text/incidents/<text-incident-name>:addIncidentSamples?api-version=2024-02-15-preview' \
--header 'Ocp-Apim-Subscription-Key: <your-content-safety-key>' \
--header 'Content-Type: application/json' \
--data-raw '{
"IncidentSamples": [
{ "text": "<text-example-1>"},
{ "text": "<text-example-2>"},
...
]
}'
Nasazení incidentu
K nasazení incidentu použijte následující příkaz a zpřístupňuje ho k analýze nového obsahu.
curl --location 'https://<endpoint>/contentsafety/text/incidents/<text-incident-name>:deploy?api-version=2024-02-15-preview' \
--header 'Ocp-Apim-Subscription-Key: <your-content-safety-key>' \
--header 'Content-Type: application/json'
Detekce textových incidentů
Spuštěním následujícího příkazu analyzujte ukázkový textový obsah pro incident, který jste právě nasadili.
curl --location 'https://<endpoint>/contentsafety/text:detectIncidents?api-version=2024-02-15-preview' \
--header 'Ocp-Apim-Subscription-Key: <your-content-safety-key>' \
--header 'Content-Type: application/json' \
--data '{
"text": "<test-text>",
"incidentNames": [
"<text-incident-name>"
]
}'
Testování vlastní kategorie imagí (rychlé) rozhraní API
Pomocí vzorového kódu v této části vytvořte incident image, přidejte do incidentu ukázky, nasaďte incident a pak detekujte incidenty obrázků.
Vytvoření incidentu
V následujícíchpříkazch <your_api_key>
<your_endpoint>
Následující příkaz vytvoří incident image:
curl --location --request PATCH 'https://<endpoint>/contentsafety/image/incidents/<image-incident-name>?api-version=2024-02-15-preview' \
--header 'Ocp-Apim-Subscription-Key: <your-content-safety-key>' \
--header 'Content-Type: application/json' \
--data '{
"incidentName": "<image-incident-name>"
}'
Přidání ukázek k incidentu
Pomocí následujícího příkazu přidejte do incidentu příklady obrázků. Ukázky obrázků můžou být adresy URL odkazující na obrázky v kontejneru úložiště objektů blob v Azure nebo můžou být řetězce Base64.
curl --location 'https://<endpoint>/contentsafety/image/incidents/<image-incident-name>:addIncidentSamples?api-version=2024-02-15-preview' \
--header 'Ocp-Apim-Subscription-Key: <your-content-safety-key>' \
--header 'Content-Type: application/json' \
--data '{
"IncidentSamples": [
{
"image": {
"content": "<base64-data>",
"bloburl": "<your-blob-storage-url>.png"
}
}
]
}'
Nasazení incidentu
K nasazení incidentu použijte následující příkaz a zpřístupňuje ho k analýze nového obsahu.
curl --location 'https://<endpoint>/contentsafety/image/incidents/<image-incident-name>:deploy?api-version=2024-02-15-preview' \
--header 'Ocp-Apim-Subscription-Key: <your-content-safety-key>' \
--header 'Content-Type: application/json'
Detekce incidentů obrázků
Pomocí následujícího příkazu nahrajte ukázkový obrázek a otestujte ho proti incidentu, který jste nasadili. Můžete použít adresu URL odkazující na obrázek v kontejneru úložiště objektů blob v Azure, nebo můžete data image přidat jako řetězec Base64.
curl --location 'https://<endpoint>/contentsafety/image:detectIncidents?api-version=2024-02-15-preview' \
--header 'Ocp-Apim-Subscription-Key: <your-content-safety-key>' \
--header 'Content-Type: application/json' \
--data '{
"image": {
"url": "<your-blob-storage-url>/image.png",
"content": "<base64-data>"
},
"incidentNames": [
"<image-incident-name>"
]
}
}'
Jiné operace incidentů
Následující operace jsou užitečné pro správu incidentů a ukázek incidentů.
Rozhraní API pro incidenty textu
Výpis všech incidentů
curl --location GET 'https://<endpoint>/contentsafety/text/incidents?api-version=2024-02-15-preview' \
--header 'Ocp-Apim-Subscription-Key: <your-content-safety-key>'
Získání podrobností o incidentu
curl --location GET 'https://<endpoint>/contentsafety/text/incidents/<text-incident-name>?api-version=2024-02-15-preview' \
--header 'Ocp-Apim-Subscription-Key: <your-content-safety-key>'
Odstranění incidentu
curl --location --request DELETE 'https://<endpoint>/contentsafety/text/incidents/<text-incident-name>?api-version=2024-02-15-preview' \
--header 'Ocp-Apim-Subscription-Key: <your-content-safety-key>'
Výpis všech ukázek v rámci incidentu
Tento příkaz načte jedinečná ID všech ukázek přidružených k danému objektu incidentu.
curl --location GET 'https://<endpoint>/contentsafety/text/incidents/<text-incident-name>/incidentsamples?api-version=2024-02-15-preview' \
--header 'Ocp-Apim-Subscription-Key: <your-content-safety-key>'
Získání podrobností ukázky incidentu
Pomocí id ukázky incidentu vyhledejte podrobnosti o ukázce.
curl --location GET 'https://<endpoint>/contentsafety/text/incidents/<text-incident-name>/incidentsamples/<your-incident-sample-id>?api-version=2024-02-15-preview' \
--header 'Ocp-Apim-Subscription-Key: <your-content-safety-key>'
Odstranění ukázky incidentu
K načtení a odstranění této ukázky použijte ukázkové ID incidentu.
curl --location 'https://<endpoint>/contentsafety/text/incidents/<text-incident-name>:removeIncidentSamples?api-version=2024-02-15-preview' \
--header 'Ocp-Apim-Subscription-Key: <your-content-safety-key>' \
--header 'Content-Type: application/json' \
--data '{
"IncidentSampleIds": [
"<your-incident-sample-id>"
]
}'
Rozhraní API pro incidenty obrázků
Získání seznamu incidentů
curl --location GET 'https://<endpoint>/contentsafety/image/incidents?api-version=2024-02-15-preview' \
--header 'Ocp-Apim-Subscription-Key: <your-content-safety-key>'
Získání podrobností o incidentu
curl --location GET 'https://<endpoint>/contentsafety/image/incidents/<image-incident-name>?api-version=2024-02-15-preview' \
--header 'Ocp-Apim-Subscription-Key: <your-content-safety-key>'
Odstranění incidentu
curl --location --request DELETE 'https://<endpoint>/contentsafety/image/incidents/<image-incident-name>?api-version=2024-02-15-preview' \
--header 'Ocp-Apim-Subscription-Key: <your-content-safety-key>'
Výpis všech ukázek v rámci incidentu
Tento příkaz načte jedinečná ID všech ukázek přidružených k danému objektu incidentu.
curl --location GET 'https://<endpoint>/contentsafety/image/incidents/<image-incident-name>/incidentsamples?api-version=2024-02-15-preview' \
--header 'Ocp-Apim-Subscription-Key: <your-content-safety-key>'
Získání podrobností o ukázce incidentu
Pomocí id ukázky incidentu vyhledejte podrobnosti o ukázce.
curl --location GET 'https://<endpoint>/contentsafety/image/incidents/<image-incident-name>/incidentsamples/<your-incident-sample-id>?api-version=2024-02-15-preview' \
--header 'Ocp-Apim-Subscription-Key: <your-content-safety-key>'
Odstranění ukázky incidentu
K načtení a odstranění této ukázky použijte ukázkové ID incidentu.
curl --location 'https://<endpoint>/contentsafety/image/incidents/<image-incident-name>:removeIncidentSamples?api-version=2024-02-15-preview' \
--header 'Ocp-Apim-Subscription-Key: <your-content-safety-key>' \
--header 'Content-Type: application/json' \
--data '{
"IncidentSampleIds": [
"<your-incident-sample-id>"
]
}'
Související obsah
Váš názor
https://aka.ms/ContentUserFeedback.
Připravujeme: V průběhu roku 2024 budeme postupně vyřazovat problémy z GitHub coby mechanismus zpětné vazby pro obsah a nahrazovat ho novým systémem zpětné vazby. Další informace naleznete v tématu:Odeslat a zobrazit názory pro