Instalace a spuštění vlastních kontejnerů rozpoznávání pojmenovaných entit
Kontejnery umožňují hostovat vlastní rozhraní API pro rozpoznávání pojmenovaných entit ve vlastní infrastruktuře pomocí vlastního vytrénovaného modelu. Pokud máte požadavky na zabezpečení nebo zásady správného řízení dat, které není možné splnit vzdáleným voláním vlastního rozpoznávání pojmenovaných entit, můžou být kontejnery dobrou volbou.
Poznámka
- Bezplatný účet je omezený na 5 000 textových záznamů za měsíc a pro kontejnery jsou platné pouze cenové úrovněFree a Standard. Další informace o sazbách požadavků na transakce najdete v tématu Omezení dat a služeb.
Požadavky
- Pokud ještě nemáte předplatné Azure, vytvořte si bezplatný účet.
- Docker nainstalovaný na hostitelském počítači. Docker musí být nakonfigurovaný tak, aby se kontejnery mohly připojit k Azure a odesílat do Azure fakturační data.
- Ve Windows musí být Docker také nakonfigurovaný tak, aby podporoval linuxové kontejnery.
- Měli byste mít základní znalosti o konceptech Dockeru.
- A Language resource s cenovou úrovní Free (F0) nebo Standard (S).
- Natrénovaný a nasazený vlastní model rozpoznávání pojmenovaných entit
Shromáždění požadovaných parametrů
Pro všechny kontejnery Azure AI se vyžadují tři primární parametry. Licenční podmínky pro software společnosti Microsoft musí obsahovat hodnotu accept. Potřebujete také identifikátor URI koncového bodu a klíč rozhraní API.
Identifikátor URI koncového bodu
Hodnota {ENDPOINT_URI} je k dispozici na stránce přehledu Azure Portal odpovídajícího prostředku služeb Azure AI. Přejděte na stránku Přehled , najeďte myší na koncový bod a zobrazí se ikona Zkopírovat do schránky . Zkopírujte a použijte koncový bod tam, kde je to potřeba.
Klíče
Hodnota {API_KEY} se používá ke spuštění kontejneru a je k dispozici na stránce klíče Azure Portal odpovídajícího prostředku služeb Azure AI. Přejděte na stránku Klíče a vyberte ikonu Kopírovat do schránky .
Důležité
Tyto klíče předplatného se používají pro přístup k rozhraní API služeb Azure AI. Nesdílejte klíče. Bezpečně je uložte. Použijte například Azure Key Vault. Doporučujeme také tyto klíče pravidelně vygenerovat. K volání rozhraní API je nutný pouze jeden klíč. Při opětovném vygenerování prvního klíče můžete pro pokračování přístupu ke službě použít druhý klíč.
Požadavky a doporučení hostitelského počítače
Hostitelem je počítač založený na platformě x64, na kterém běží kontejner Dockeru. Může to být počítač ve vašem místním prostředí nebo hostitelská služba Dockeru v Azure, například:
- Azure Kubernetes Service.
- Azure Container Instances.
- Cluster Kubernetes nasazený ve službě Azure Stack. Další informace najdete v tématu Nasazení Kubernetes do služby Azure Stack.
Následující tabulka popisuje minimální a doporučené specifikace pro vlastní kontejnery rozpoznávání pojmenovaných entit. Každé jádro procesoru musí být alespoň 2,6 gigahertzů (GHz) nebo rychlejší. Jsou uvedeny také povolené transakce za sekundu (TPS).
| Minimální specifikace hostitele | Doporučené specifikace hostitele | Minimální počet tps | Maximální počet tps | |
|---|---|---|---|---|
| Vlastní rozpoznávání pojmenovaných entit | 1 jádro, 2 GB paměti | 1 jádro, 4 GB paměti | 15 | 30 |
Jádro procesoru --cpus a paměť odpovídají nastavení a --memory , která se používají jako součást docker run příkazu.
Export vlastního modelu rozpoznávání pojmenovaných entit
Než budete pokračovat ve spuštění image Dockeru, budete muset exportovat vlastní natrénovaný model, abyste ho mohli vystavit kontejneru. Pomocí následujícího příkazu extrahujte model a nahraďte následující zástupné symboly vlastními hodnotami:
| Zástupný symbol | Hodnota | Formát nebo příklad |
|---|---|---|
| {API_KEY} | Klíč pro vlastní prostředek rozpoznávání pojmenovaných entit. Najdete ho na stránce Klíč a koncový bod prostředku na Azure Portal. | xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx |
| {ENDPOINT_URI} | Koncový bod pro přístup k rozhraní API pro rozpoznávání vlastních pojmenovaných entit. Najdete ho na stránce Klíč a koncový bod prostředku na Azure Portal. | https://<your-custom-subdomain>.cognitiveservices.azure.com |
| {PROJECT_NAME} | Název projektu obsahujícího model, který chcete exportovat. Najdete ho na kartě projekty na portálu Language Studio. | myProject |
| {TRAINED_MODEL_NAME} | Název natrénovaného modelu, který chcete exportovat. Natrénované modely najdete na kartě vyhodnocení modelu v rámci projektu na portálu Language Studio. | myTrainedModel |
curl --location --request PUT '{ENDPOINT_URI}/language/authoring/analyze-text/projects/{PROJECT_NAME}/exported-models/{TRAINED_MODEL_NAME}?api-version=2023-04-15-preview' \
--header 'Ocp-Apim-Subscription-Key: {API_KEY}' \
--header 'Content-Type: application/json' \
--data-raw '{
"TrainedmodelLabel": "{TRAINED_MODEL_NAME}"
}'
Získání image kontejneru pomocí docker pull
Image kontejneru Vlastní rozpoznávání pojmenovaných entit najdete v mcr.microsoft.com syndikátu registru kontejneru. Nachází se v úložišti azure-cognitive-services/textanalytics/ a má název customner. Plně kvalifikovaný název image kontejneru je . mcr.microsoft.com/azure-cognitive-services/textanalytics/customner
Pokud chcete použít nejnovější verzi kontejneru, můžete použít značku latest . Úplný seznam značek najdete také v MCR.
Pomocí příkazu docker pull stáhněte image kontejneru ze služby Microsoft Container Registry.
docker pull mcr.microsoft.com/azure-cognitive-services/textanalytics/customner:latest
Tip
K výpisu stažených imagí kontejneru můžete použít příkaz docker images . Následující příkaz například vypíše ID, úložiště a značku každé stažené image kontejneru formátované jako tabulku:
docker images --format "table {{.ID}}\t{{.Repository}}\t{{.Tag}}"
IMAGE ID REPOSITORY TAG
<image-id> <repository-path/name> <tag-name>
Spuštění kontejneru pomocí docker run
Jakmile je kontejner na hostitelském počítači, spusťte kontejnery pomocí příkazu docker run . Kontejner bude dál běžet, dokud ho nezastavíte.
Důležité
- Příkazy Dockeru v následujících částech používají zpětné lomítko
\jako znak pokračování řádku. Nahraďte nebo odeberte tuto položku na základě požadavků hostitelského operačního systému. - Ke
Eulaspuštění kontejneru je nutné zadat možnosti ,BillingaApiKey, jinak se kontejner nespustí. Další informace najdete v tématu Fakturace.
Spuštěním následujícího příkazu spusťte kontejner docker runVlastní rozpoznávání pojmenovaných entit. Nahraďte následující zástupné symboly vlastními hodnotami:
| Zástupný symbol | Hodnota | Formát nebo příklad |
|---|---|---|
| {API_KEY} | Klíč pro vlastní prostředek rozpoznávání pojmenovaných entit. Najdete ho na stránce Klíč a koncový bod prostředku na Azure Portal. | xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx |
| {ENDPOINT_URI} | Koncový bod pro přístup k rozhraní API pro rozpoznávání vlastních pojmenovaných entit. Najdete ho na stránce Klíč a koncový bod prostředku na Azure Portal. | https://<your-custom-subdomain>.cognitiveservices.azure.com |
| {PROJECT_NAME} | Název projektu obsahujícího model, který chcete exportovat. Najdete ho na kartě projekty na portálu Language Studio. | myProject |
| {LOCAL_PATH} | Cesta, do které se stáhne exportovaný model v předchozím kroku. Můžete si vybrat libovolnou cestu, která se vám líbí. | C:/custom-ner-model |
| {TRAINED_MODEL_NAME} | Název natrénovaného modelu, který chcete exportovat. Natrénované modely najdete na kartě vyhodnocení modelu v rámci projektu na portálu Language Studio. | myTrainedModel |
docker run --rm -it -p5000:5000 --memory 4g --cpus 1 \
-v {LOCAL_PATH}:/modelPath \
mcr.microsoft.com/azure-cognitive-services/textanalytics/customner:latest \
EULA=accept \
BILLING={ENDPOINT_URI} \
APIKEY={API_KEY} \
projectName={PROJECT_NAME}
exportedModelName={TRAINED_MODEL_NAME}
Tento příkaz:
- Spustí vlastní kontejner rozpoznávání pojmenovaných entit a stáhne exportovaný model do zadané místní cesty.
- Přidělí jedno jádro procesoru a 4 gigabajty (GB) paměti.
- Zpřístupní port TCP 5000 a přidělí kontejneru pseudo-TTY.
- Automaticky odebere kontejner po jeho ukončení. Image kontejneru je stále dostupná na hostitelském počítači.
Spuštění více kontejnerů na stejném hostiteli
Pokud máte v úmyslu spouštět více kontejnerů s vystavenými porty, nezapomeňte každý kontejner spustit s jiným vystaveným portem. Například spusťte první kontejner na portu 5000 a druhý kontejner na portu 5001.
Na hostiteli můžete mít společně spuštěný tento kontejner a jiný kontejner služeb Azure AI. Můžete také mít spuštěných několik kontejnerů stejného kontejneru služeb Azure AI.
Zadání dotazu do prediktivního koncového bodu kontejneru
Kontejner poskytuje rozhraní API prediktivního koncového bodu pro dotazy založené na REST.
Pro rozhraní API kontejneru použijte hostitele http://localhost:5000.
Ověření, že je kontejner spuštěný
Existuje několik způsobů, jak ověřit, že je kontejner spuštěný. Vyhledejte externí IP adresu a vystavený port příslušného kontejneru a otevřete oblíbený webový prohlížeč. Pomocí různých adres URL požadavků, které následují, ověřte, že kontejner běží. Tady uvedené příklady adres URL požadavků jsou http://localhost:5000, ale váš konkrétní kontejner se může lišit. Ujistěte se, že se spoléháte na externí IP adresu vašeho kontejneru a vystavený port.
| Adresa URL požadavku | Účel |
|---|---|
http://localhost:5000/ |
Kontejner poskytuje domovskou stránku. |
http://localhost:5000/ready |
Tato adresa URL, kterou vyžaduje get, poskytuje ověření, že kontejner je připraven přijmout dotaz na model. Tento požadavek se dá použít pro sondy živosti a připravenosti Kubernetes. |
http://localhost:5000/status |
Tato adresa URL, která je také požadována pomocí příkazu GET, ověřuje, jestli je klíč api-key použitý ke spuštění kontejneru platný, aniž by to způsobilo dotaz koncového bodu. Tento požadavek se dá použít pro sondy živosti a připravenosti Kubernetes. |
http://localhost:5000/swagger |
V kontejneru je ke koncovým bodům a k funkci Vyzkoušet kompletní dokumentace. Pomocí této funkce můžete zadat nastavení do webového formuláře HTML a vytvořit dotaz, aniž byste museli psát kód. Po vrácení dotazu je k dispozici ukázkový příkaz CURL, který demonstruje požadované hlavičky HTTP a formát textu. |
Zastavení kontejneru
Pokud chcete kontejner vypnout, vyberte v prostředí příkazového řádku, ve kterém je kontejner spuštěný, ctrl+C.
Poradce při potížích
Pokud kontejner spustíte s povoleným výstupním připojením a protokolováním, vygeneruje soubory protokolů, které jsou užitečné při řešení problémů, ke kterým dochází při spouštění nebo spouštění kontejneru.
Tip
Další informace a doprovodné materiály k řešení potíží najdete v nejčastějších dotazech k kontejnerům Azure AI.
Fakturace
Kontejnery Vlastní rozpoznávání pojmenovaných entit odesílají fakturační údaje do Azure pomocí vlastního prostředku rozpoznávání pojmenovaných entit na vašem účtu Azure.
Dotazy na kontejner se účtují na cenové úrovni prostředku Azure, který se používá pro ApiKey parametr.
Kontejnery služeb Azure AI nemají licenci ke spouštění bez připojení ke koncovému bodu měření nebo fakturace. Kontejnery musíte povolit, aby neustále komunikují s fakturačními údaji s koncovým bodem fakturace. Kontejnery služeb Azure AI neodesílají do Microsoftu zákaznická data, například analyzovaný obrázek nebo text.
Připojení k Azure
Kontejner potřebuje ke spuštění hodnoty argumentu fakturace. Tyto hodnoty umožňují kontejneru připojit se ke koncovému bodu fakturace. Kontejner hlásí využití každých 10 až 15 minut. Pokud se kontejner v povoleném časovém intervalu nepřipojí k Azure, bude kontejner dál běžet, ale nebude obsluhovat dotazy, dokud se neobnoví koncový bod fakturace. Pokus o připojení se provede 10krát ve stejném časovém intervalu 10 až 15 minut. Pokud se během 10 pokusů nemůže připojit ke koncovému bodu fakturace, kontejner přestane obsluhovat požadavky. Příklad informací odesílaných do Microsoftu k fakturaci najdete v nejčastějších dotazech ke kontejneru služeb Azure AI .
Argumenty fakturace
Příkaz docker run spustí kontejner, pokud jsou všechny tři následující možnosti k dispozici s platnými hodnotami:
| Možnost | Popis |
|---|---|
ApiKey |
Klíč rozhraní API prostředku služeb Azure AI, který se používá ke sledování fakturačních údajů. Hodnota této možnosti musí být nastavená na klíč rozhraní API pro zřízený prostředek, který je zadaný v Billing. |
Billing |
Koncový bod prostředku služeb Azure AI, který slouží ke sledování fakturačních údajů. Hodnota této možnosti musí být nastavená na identifikátor URI koncového bodu zřízeného prostředku Azure. |
Eula |
Označuje, že jste přijali licenci pro kontejner. Hodnota této možnosti musí být nastavena tak, aby přijímala. |
Souhrn
V tomto článku jste se seznámili s koncepty a pracovními postupy pro stahování, instalaci a spouštění vlastních kontejnerů rozpoznávání pojmenovaných entit. Souhrn:
- Vlastní rozpoznávání pojmenovaných entit poskytuje kontejnery Linuxu pro Docker.
- Image kontejnerů se stahují ze služby Microsoft Container Registry (MCR).
- Image kontejneru běží v Dockeru.
- Pomocí rozhraní REST API nebo sady SDK můžete volat operace v kontejnerech rozpoznávání vlastních pojmenovaných entit zadáním identifikátoru URI hostitele kontejneru.
- Při vytváření instance kontejneru je nutné zadat fakturační údaje.
Důležité
Kontejnery Azure AI nemají licenci ke spouštění bez připojení k Azure za účelem měření. Zákazníci musí kontejnerům umožnit, aby neustále komunikují s fakturačními údaji se službou měření. Kontejnery Azure AI neodesílají zákaznická data (např. analyzovaný text) do Microsoftu.
Další kroky
- Viz Konfigurace kontejnerů pro nastavení konfigurace.