Sdílet prostřednictvím

Instalace a spuštění kontejnerů rozpoznávání vlastních pojmenovaných entit

Kontejnery umožňují hostovat rozhraní API pro rozpoznávání vlastních pojmenovaných entit ve vlastní infrastruktuře pomocí vlastního natrénovaného modelu. Pokud máte požadavky na zabezpečení nebo zásady správného řízení dat, které se nedají splnit voláním rozpoznávání vlastních pojmenovaných entit vzdáleně, můžou být kontejnery dobrou volbou.

Poznámka:

  • Bezplatný účet je omezený na 5 000 textových záznamů za měsíc a pro kontejnery jsou platné pouze cenové úrovně Free a Standard. Další informace o sazbách žádostí o transakce najdete v tématu Omezení dat a služeb.

Požadavky

Shromáždění požadovaných parametrů

Jsou vyžadovány tři primární parametry pro všechny kontejnery Azure AI. Licenční podmínky pro software společnosti Microsoft musí být k dispozici s hodnotou přijetí. Vyžaduje se také identifikátor URI koncového bodu a klíč rozhraní API.

Identifikátor URI koncového bodu

Hodnota {ENDPOINT_URI} je k dispozici na stránce Přehled webu Azure Portal odpovídajícího prostředku Foundry Tools. Přejděte na stránku Přehled, najeďte myší na koncový bod a zobrazí se ikona Kopírovat do schránky. Zkopírujte koncový bod a použijte ho tam, kde je to potřeba.

Snímek obrazovky znázorňující shromažďování identifikátoru URI koncového bodu pro pozdější použití

Klávesy

Hodnota {API_KEY} se používá ke spuštění kontejneru a je k dispozici na stránce Klíče webu Azure Portal odpovídajícího prostředku Foundry Tools. Přejděte na stránku Klíče a vyberte ikonu Kopírovat do schránky.

Snímek obrazovky znázorňující získání jednoho ze dvou klíčů pro pozdější použití

Důležité

Tyto klíče předplatného se používají pro přístup k rozhraní API foundry Tools. Nesdílejte klíče. Bezpečně je uložte. Použijte například Azure Key Vault. Doporučujeme tyto klíče pravidelně znovu vygenerovat. K volání rozhraní API je nutný jenom jeden klíč. Při opětovném vygenerování prvního klíče můžete pro pokračování přístupu ke službě použít druhý klíč.

Požadavky na hostitelský počítač a doporučení

Hostitel je počítač založený na platformě x64, na kterém běží kontejner Dockeru. Může to být počítač v místním prostředí nebo hostitelská služba Dockeru v Azure, například:

Následující tabulka popisuje minimální a doporučené specifikace pro kontejnery Custom Named Entity Recognition. Každé jádro procesoru musí mít alespoň 2,6 gigahertz (GHz) nebo rychlejší. Jsou uvedeny také povolené transakce za sekundu (TPS).

Minimální specifikace hostitele Doporučené specifikace hostitele Minimální TPS Maximální počet TPS
Rozpoznávání vlastních pojmenovaných entit 1 jádro, 2 GB paměti 1 jádro, 4 GB paměti 15 30

Jádro procesoru a paměť odpovídají nastavením --cpus a --memory, které se používají jako součást příkazu docker run.

Exportujte svůj model vlastního rozpoznávání pojmenovaných entit

Než budete pokračovat ve spuštění image Dockeru, musíte exportovat vlastní natrénovaný model, abyste ho zpřístupnili kontejneru. Pomocí následujícího příkazu extrahujte model a nahraďte zástupné symboly vlastními hodnotami:

Zástupný symbol Hodnota Formát nebo příklad
{API_KEY} Klíč pro nástroj rozpoznávání vlastních pojmenovaných entit. Najdete ho na stránce Klíč a koncový bod vašeho prostředku na webu Azure Portal. xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx
{ENDPOINT_URI} Koncový bod pro přístup k rozhraní API pro rozpoznávání vlastních pojmenovaných entit. Najdete ho na stránce Klíč a koncový bod vašeho prostředku na webu Azure Portal. https://<your-custom-subdomain>.cognitiveservices.azure.com
{PROJECT_NAME} Název projektu obsahujícího model, který chcete exportovat. Najdete ho na kartě Projekty na portálu Azure Language Studio. myProject
{TRAINED_MODEL_NAME} Název natrénovaného modelu, který chcete exportovat. Vytrénované modely najdete na kartě vyhodnocení modelu pod vaším projektem na portálu Azure Language Studio. myTrainedModel 
curl --location --request PUT '{ENDPOINT_URI}/language/authoring/analyze-text/projects/{PROJECT_NAME}/exported-models/{TRAINED_MODEL_NAME}?api-version=2023-04-15-preview' \
--header 'Ocp-Apim-Subscription-Key: {API_KEY}' \
--header 'Content-Type: application/json' \
--data-raw '{
    "TrainedmodelLabel": "{TRAINED_MODEL_NAME}"
}'

Získání image kontejneru pomocí docker pull

Image kontejneru Rozpoznávání vlastních pojmenovaných entit najdete v syndikátu registru kontejneru mcr.microsoft.com . Nachází se v úložišti azure-cognitive-services/textanalytics/ a má název customner. Plně kvalifikovaný název image kontejneru je mcr.microsoft.com/azure-cognitive-services/textanalytics/customner.

Pokud chcete použít nejnovější verzi kontejneru, můžete použít latest značku. Úplný seznam značek najdete také v MCR.

docker pull Pomocí příkazu stáhněte image kontejneru ze služby Microsoft Container Registry.

docker pull mcr.microsoft.com/azure-cognitive-services/textanalytics/customner:latest

Tip

K výpisu stažených imagí kontejnerů můžete použít příkaz docker images . Následující příkaz například vypíše ID, úložiště a značku každé stažené image kontejneru, která je formátovaná jako tabulka:

docker images --format "table {{.ID}}\t{{.Repository}}\t{{.Tag}}"

IMAGE ID         REPOSITORY                TAG
<image-id>       <repository-path/name>    <tag-name>

Spuštění kontejneru pomocí docker run

Jakmile je kontejner v hostitelském počítači, spusťte kontejnery pomocí příkazu docker run . Kontejner se bude dál spouštět, dokud ho nezastavíte.

Důležité

  • Příkazy Dockeru v následujících částech používají zpětné lomítko , \jako znak pokračování řádku. Tento postup nahraďte nebo odeberte na základě požadavků vašeho hostitelského operačního systému.
  • EulaAby se kontejner spustil, musí být zadány Billinga ApiKey možnosti. V opačném případě se kontejner nespustí. Další informace najdete v tématu Fakturace.

Pokud chcete spustit kontejner Rozpoznávání vlastních pojmenovaných entit, spusťte následující docker run příkaz. Zástupné symboly nahraďte vlastními hodnotami:

Zástupný symbol Hodnota Formát nebo příklad
{API_KEY} Klíč pro nástroj rozpoznávání vlastních pojmenovaných entit. Najdete ho na stránce Klíč a koncový bod vašeho prostředku na webu Azure Portal. xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx
{ENDPOINT_URI} Koncový bod pro přístup k rozhraní API pro rozpoznávání vlastních pojmenovaných entit. Najdete ho na stránce Klíč a koncový bod vašeho prostředku na webu Azure Portal. https://<your-custom-subdomain>.cognitiveservices.azure.com
{PROJECT_NAME} Název projektu obsahujícího model, který chcete exportovat. Najdete ho na kartě Projekty na portálu Azure Language Studio. myProject
{LOCAL_PATH} Cesta, ve které se exportovaný model v předchozím kroku stáhne. Můžete si vybrat libovolnou cestu, která se vám líbí. C:/custom-ner-model
{TRAINED_MODEL_NAME} Název natrénovaného modelu, který chcete exportovat. Vytrénované modely najdete pod svým projektem na kartě vyhodnocení modelu v portálu Azure Language Studio. myTrainedModel 
docker run --rm -it -p5000:5000  --memory 4g --cpus 1 \
-v {LOCAL_PATH}:/modelPath \
mcr.microsoft.com/azure-cognitive-services/textanalytics/customner:latest \
EULA=accept \
BILLING={ENDPOINT_URI} \
APIKEY={API_KEY} \
projectName={PROJECT_NAME}
exportedModelName={TRAINED_MODEL_NAME}

Tento příkaz:

  • Spustí kontejner Rozpoznávání vlastních pojmenovaných entit a stáhne exportovaný model do zadané místní cesty.
  • Přidělí jedno jádro procesoru a 4 gigabajty (GB) paměti.
  • Zpřístupní port TCP 5000 a přidělí pro kontejner pseudo-TTY.
  • Po ukončení kontejneru se automaticky odebere. Image kontejneru je stále dostupná na hostitelském počítači.

Spuštění více kontejnerů na stejném hostiteli

Pokud máte v úmyslu spouštět více kontejnerů s vystavenými porty, nezapomeňte jednotlivé kontejnery spouštět s jiným vystaveným portem. Například spusťte první kontejner na portu 5000 a druhý kontejner na portu 5001.

Můžete mít tento kontejner a jiný kontejner Foundry Tools spuštěný na hostiteli společně. Můžete také mít několik kontejnerů stejného kontejneru Foundry Tools spuštěných.

Zadání dotazu do prediktivního koncového bodu kontejneru

Kontejner poskytuje rozhraní API prediktivního koncového bodu pro dotazy založené na REST.

Pro rozhraní API kontejneru použijte hostitele http://localhost:5000.

Ověření, že je kontejner spuštěný

Existuje několik způsobů, jak ověřit, že je kontejner spuštěný. Vyhledejte externí IP adresu a vystavený port kontejneru a otevřete svůj oblíbený webový prohlížeč. Pomocí různých adres URL požadavků, které následují, ověřte, že kontejner běží. Tady jsou uvedené http://localhost:5000ukázkové adresy URL požadavků, ale váš konkrétní kontejner se může lišit. Ujistěte se, že spoléháte na externí IP adresu kontejneru a vystavený port.

Adresa URL požadavku Účel
http://localhost:5000/ Kontejner poskytuje domovskou stránku.
http://localhost:5000/ready Tento požadavek pomocí příkazu GET zajistí, že tato adresa URL poskytuje ověření, že kontejner je připravený přijmout dotaz na model. Tento požadavek je možné použít pro sondy živosti a připravenosti Kubernetes.
http://localhost:5000/status Tato adresa URL se také ověřuje pomocí GET, aniž by způsobovala dotaz koncového bodu, zda je klíč rozhraní API použitý ke spuštění kontejneru platný. Tento požadavek je možné použít pro sondy živosti a připravenosti Kubernetes.
http://localhost:5000/swagger V kontejneru je ke koncovým bodům a k funkci Vyzkoušet kompletní dokumentace. Pomocí této funkce můžete zadat nastavení do webového formuláře HTML a vytvořit dotaz, aniž byste museli psát žádný kód. Po vrácení dotazu se zobrazí příklad příkazu CURL, který předvede požadované hlavičky HTTP a základní formát.

Domovská stránka kontejneru

Zastavení kontejneru

Pokud chcete kontejner vypnout, vyberte v prostředí příkazového řádku, ve kterém je kontejner spuštěný, ctrl+C.

Řešení problému

Pokud kontejner spustíte s povoleným výstupním připojením a protokolováním, kontejner vygeneruje soubory protokolu, které jsou užitečné při řešení problémů, ke kterým dochází při jeho spuštění nebo provozu.

Tip

Další informace a pokyny k řešení potíží najdete v nejčastějších dotazech k kontejnerům Azure AI.

Fakturace

Kontejnery Custom Named Entity Recognition odesílají fakturační údaje do Azure pomocí prostředku Custom Named Entity Recognition na vašem účtu Azure.

Dotazy na kontejner se účtují podle cenové hladiny zdroje Azure, který se používá pro parametr ApiKey.

Kontejnery Foundry Tools nejsou licencované ke spuštění bez připojení ke koncovému bodu měření nebo fakturace. Kontejnery musíte povolit, aby vždy komunikují fakturační údaje s koncovým bodem fakturace. Kontejnery Foundry Tools neodesílají zákaznická data, jako je obrázek nebo text analyzovaný, do Microsoftu.

Připojení k Azure

Kontejner ke spuštění potřebuje hodnoty fakturačních argumentů. Tyto hodnoty umožňují kontejneru připojit se ke koncovému bodu fakturace. Kontejner hlásí využití přibližně každých 10 až 15 minut. Pokud se kontejner nepřipojí k Azure v rámci povoleného časového intervalu, kontejner se bude dál spouštět, ale nebude obsluhovat dotazy, dokud se neobnoví koncový bod fakturace. Připojení se pokouší 10krát ve stejném časovém intervalu 10 až 15 minut. Pokud se během 10 pokusů nemůže připojit ke koncovému bodu fakturace, kontejner přestane obsluhovat požadavky. Příklad informací odeslaných společnosti Microsoft pro fakturaci najdete v nejčastějších dotazech ke kontejneru Foundry Tools .

Námitky fakturace

Příkaz docker run spustí kontejner, pokud jsou k dispozici všechny tři z následujících možností s platnými hodnotami:

Možnost Popis
ApiKey Klíč rozhraní API prostředku Foundry Tools, který se používá ke sledování fakturačních údajů.
Hodnota této možnosti musí být nastavena na klíč rozhraní API pro zřízený prostředek, který je zadaný v Billing.
Billing Koncový bod prostředku Foundry Tools, který se používá ke sledování fakturačních údajů.
Hodnota této možnosti musí být nastavena na identifikátor URI koncového bodu přiděleného prostředku Azure.
Eula Označuje, že jste přijali licenci pro kontejner.
Hodnota této možnosti musí být nastavena tak, aby přijímala.

Shrnutí

V tomto článku jste se naučili koncepty a pracovní postupy pro stahování, instalaci a spouštění kontejnerů Custom Named Entity Recognition. Souhrnně:

  • Rozpoznávání vlastních pojmenovaných entit poskytuje kontejnery Linuxu pro Docker.
  • Image kontejnerů se stáhnou ze služby Microsoft Container Registry (MCR).
  • Image kontejnerů se spouštějí v Dockeru.
  • Pomocí rozhraní REST API nebo sady SDK můžete volat operace v kontejnerech Custom Named Entity Recognition zadáním identifikátoru URI hostitele kontejneru.
  • Při vytváření instance kontejneru je nutné zadat fakturační údaje.

Důležité

Kontejnery Azure AI nemají licenci ke spuštění bez připojení k Azure pro měření. Zákazníci musí kontejnerům umožnit, aby vždy komunikovaly fakturační údaje se službou měření. Kontejnery Azure AI neodesílají zákaznická data (např. text analyzovaný) do Microsoftu.

Další kroky

  • Last updated on