Nyelvfelismerési Docker-tárolók használata a helyszínen

A tárolók lehetővé teszik a Language Detection API üzemeltetését a saját infrastruktúráján. Ha olyan biztonsági vagy adatszabályozási követelményekkel rendelkezik, amelyek nem teljesíthetők a nyelvfelismerés távoli meghívásával, akkor a tárolók jó választásnak bizonyulhatnak.

Előfeltételek

• Ha nem rendelkezik Azure-előfizetéssel, hozzon létre egy ingyenes fiókot.
• A gazdaszámítógépre telepített Docker. A Dockert úgy kell konfigurálni, hogy lehetővé tegye a tárolók számára a kapcsolódást és a számlázási adatok Azure-ba való küldését.
  • Windows rendszeren a Dockert is konfigurálni kell a Linux-tárolók támogatásához.
  • Ismernie kell a Docker alapfogalmait.
• erőforrás az ingyenes (F0) vagy standard (S) tarifacsomaggal.

Gyűjtse össze a szükséges paramétereket

Három elsődleges paraméter szükséges az összes Azure AI-tárolóhoz. A Microsoft szoftverlicenc-feltételeinek elfogadási értékkel kell rendelkeznie. Végponti URI-ra és API-kulcsra is szükség van.

Végpont URI-ja

Az {ENDPOINT_URI} érték a megfelelő Azure AI-szolgáltatások erőforrásának Azure Portal Áttekintés oldalán érhető el. Lépjen az Áttekintés lapra, mutasson a végpontra, és megjelenik egy Másolás vágólapra ikon. Szükség esetén másolja és használja a végpontot.

Kulcsok

Az {API_KEY} érték a tároló elindítására szolgál, és a megfelelő Azure AI-szolgáltatási erőforrás Azure Portal Kulcsok lapján érhető el. Lépjen a Kulcsok lapra, és válassza a Másolás a vágólapra ikont.

Fontos

Ezek az előfizetési kulcsok az Azure AI-szolgáltatások API-ját használják. Ne ossza meg a kulcsokat. Biztonságosan tárolhatja őket. Használja például az Azure Key Vault. Azt is javasoljuk, hogy ezeket a kulcsokat rendszeresen hozza létre újra. Az API-hívásokhoz csak egy kulcs szükséges. Az első kulcs újbóli létrehozásakor a második kulcsot használhatja a szolgáltatáshoz való folyamatos hozzáféréshez.

A gazdagépre vonatkozó követelmények és javaslatok

A gazdagép egy x64-alapú számítógép, amely a Docker-tárolót futtatja. Ez lehet egy számítógép a helyszínen vagy egy Docker-üzemeltetési szolgáltatás az Azure-ban, például:

• Azure Kubernetes Service.
• Azure Container Instances.
• Az Azure Stackben üzembe helyezett Kubernetes-fürt. További információ: Kubernetes üzembe helyezése az Azure Stackben.

Az alábbi táblázat a nyelvfelismerési tároló minimális és ajánlott specifikációit ismerteti. Minden processzormagnak legalább 2,6 gigahertzesnek (GHz) vagy gyorsabbnak kell lennie. Az engedélyezett másodpercenkénti tranzakciók (TPS) is szerepelnek a listában.

	Minimális gazdagép-specifikációk	Ajánlott gazdagép-specifikációk	Minimális TPS	Maximális TPS
Nyelvfelismerés	1 mag, 2 GB memória	1 mag, 4 GB memória	15	30

A processzormag és a memória a és --memory a --cpus beállításnak felel meg, amelyeket a docker run parancs részeként használnak.

Tárolórendszerkép lekérése a következővel: docker pull

A Nyelvfelismerés tárolólemezkép a mcr.microsoft.com tárolóregisztrációs adatbázis szindikátumán található. Az adattárban azure-cognitive-services/textanalytics/ található, és neve language. A tárolórendszerkép teljes neve: mcr.microsoft.com/azure-cognitive-services/textanalytics/language

A tároló legújabb verziójának használatához használhatja a címkét latest . A címkék teljes listáját az MCR-en is megtalálhatja.

Az paranccsal töltse le a docker pull tárolórendszerképet a Microsoft Container Registryből.

docker pull mcr.microsoft.com/azure-cognitive-services/textanalytics/language:latest

Tipp

A docker images paranccsal listázhatja a letöltött tárolólemezképeket. A következő parancs például felsorolja az egyes letöltött tárolólemezképek azonosítóját, adattárát és címkéjét táblázatként formázva:

docker images --format "table {{.ID}}\t{{.Repository}}\t{{.Tag}}"

IMAGE ID         REPOSITORY                TAG
<image-id>       <repository-path/name>    <tag-name>

A tároló futtatása a következővel: docker run

Miután a tároló a gazdaszámítógépen van, a docker run paranccsal futtassa a tárolókat. A tároló addig fut, amíg le nem állítja.

Fontos

• A következő szakaszok docker-parancsai a fordított perjelet használják vonalfolytatási \karakterként. Cserélje le vagy távolítsa el ezt a gazda operációs rendszer követelményei alapján.
• A Eulatároló futtatásához meg kell adni a , Billinga és ApiKey a beállítást, ellenkező esetben a tároló nem indul el. További információ: Számlázás.

A Nyelvfelismerés tároló futtatásához hajtsa végre a következő docker run parancsot. Cserélje le az alábbi helyőrzőket a saját értékeire:

Helyőrző	Érték	Formátum vagy példa
{API_KEY}	A nyelvi erőforrás kulcsa. Ezt az erőforrás Kulcs és végpont lapján, a Azure Portal találja.	xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx
{ENDPOINT_URI}	A nyelvfelismerési API elérésének végpontja. Ezt az erőforrás Kulcs és végpont lapján, a Azure Portal találja.	https://<your-custom-subdomain>.cognitiveservices.azure.com

docker run --rm -it -p 5000:5000 --memory 4g --cpus 1 \
mcr.microsoft.com/azure-cognitive-services/textanalytics/language \
Eula=accept \
Billing={ENDPOINT_URI} \
ApiKey={API_KEY}

A parancs a következőket hajtja végre:

• Nyelvfelismerési tárolót futtat a tárolórendszerképből
• Egy processzormagot és 4 gigabájt (GB) memóriát foglal le
• Az 5000-s TCP-portot teszi elérhetővé, és egy pszeudo-TTY-t foglal le a tárolóhoz
• A tárolót a kilépés után automatikusan eltávolítja. A tárolólemezkép továbbra is elérhető a gazdagépen.

Több tároló futtatása ugyanazon a gazdagépen

Ha több tárolót szeretne futtatni közzétett portokkal, mindenképpen futtassa mindegyik tárolót egy másik közzétett porttal. Futtassa például az első tárolót az 5000-s porton, a másodikat pedig az 5001-en.

Ezt a tárolót és egy másik Azure AI-szolgáltatási tárolót futtathat együtt a GAZDAGÉPen. Több tároló is futtatható ugyanabból az Azure AI-szolgáltatási tárolóból.

A tároló előrejelzési végpontjának lekérdezése

A tároló REST-alapú lekérdezés-előrejelzési végpont API-kat nyújt.

A tároló API-khoz használja a gazdagépet (http://localhost:5000).

Ellenőrizze, hogy fut-e egy tároló

A tároló futásának ellenőrzésére többféleképpen is lehetőség van. Keresse meg a szóban forgó tároló külső IP-címét és közzétett portját, és nyissa meg a kedvenc webböngészőt. Használja az alábbi kérés URL-címeket a tároló futásának ellenőrzéséhez. Az itt felsorolt példakérési URL-címek a következők, http://localhost:5000de az adott tároló eltérő lehet. Ügyeljen arra, hogy a tároló külső IP-címére és a közzétett portra támaszkodjon.

Kérelem URL-címe	Cél
http://localhost:5000/	A tároló egy kezdőlappal rendelkezik.
http://localhost:5000/ready	A GET-lel kérve ez az URL-cím ellenőrzi, hogy a tároló készen áll-e egy lekérdezés elfogadására a modellen. Ez a kérés használható a Kubernetes éles és készenléti mintavételeihez.
http://localhost:5000/status	A GET-ben is kért URL-cím ellenőrzi, hogy a tároló elindításához használt API-kulcs érvényes-e végpontlekérdezés nélkül. Ez a kérés használható a Kubernetes éles és készenléti mintavételeihez.
http://localhost:5000/swagger	A tároló átfogó dokumentációval is rendelkezik a végpontokhoz, valamint egy kipróbálás funkcióval is. Ezzel a funkcióval megadhatja a beállításokat egy webes HTML-űrlapon, és kód írása nélkül végezheti el a lekérdezést. A lekérdezés visszaadása után megjelenik egy CURL-példaparancs, amely bemutatja a szükséges HTTP-fejléceket és törzsformátumot.

Az internetről leválasztott tároló futtatása

A tároló internetről leválasztott használatához először hozzáférést kell kérnie egy alkalmazás kitöltésével és egy kötelezettségvállalási csomag megvásárlásával. További információ: Docker-tárolók használata leválasztott környezetekben .

Ha engedélyezte a tároló internetről leválasztott futtatását, használja az alábbi példát, amely a docker run használni kívánt parancs formázását mutatja be helyőrző értékekkel. Cserélje le ezeket a helyőrző értékeket a saját értékeire.

A DownloadLicense=True parancs paramétere docker run letölt egy licencfájlt, amely lehetővé teszi a Docker-tároló futtatását, ha nincs internetkapcsolata. Emellett tartalmaz egy lejárati dátumot is, amely után a licencfájl érvénytelen lesz a tároló futtatásához. Csak a megfelelő tárolóval rendelkező licencfájlt használhatja, amelyet jóváhagyott. Például nem használhat licencfájlt beszédfelismerési szövegtárolóhoz dokumentumintelligencia-tárolóval.

Helyőrző	Érték	Formátum vagy példa
{IMAGE}	A használni kívánt tárolólemezkép.	mcr.microsoft.com/azure-cognitive-services/form-recognizer/invoice
{LICENSE_MOUNT}	A licenc letöltési és csatlakoztatási útvonala.	/host/license:/path/to/license/directory
{ENDPOINT_URI}	A szolgáltatáskérés hitelesítésének végpontja. Ezt az erőforrás Kulcs és végpont lapján, a Azure Portal találja.	https://<your-custom-subdomain>.cognitiveservices.azure.com
{API_KEY}	A Text Analytics erőforrás kulcsa. Ezt az erőforrás Kulcs és végpont lapján, a Azure Portal találja.	xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx
{CONTAINER_LICENSE_DIRECTORY}	A licencmappa helye a tároló helyi fájlrendszerében.	/path/to/license/directory

docker run --rm -it -p 5000:5000 \ 
-v {LICENSE_MOUNT} \
{IMAGE} \
eula=accept \
billing={ENDPOINT_URI} \
apikey={API_KEY} \
DownloadLicense=True \
Mounts:License={CONTAINER_LICENSE_DIRECTORY} 

A licencfájl letöltése után a tárolót leválasztott környezetben futtathatja. Az alábbi példa a használni kívánt parancs formázását docker run mutatja be helyőrző értékekkel. Cserélje le ezeket a helyőrző értékeket a saját értékeire.

A tároló futtatásakor a licencfájlt csatlakoztatni kell a tárolóhoz, és a tároló helyi fájlrendszerében meg kell adni a licencmappa helyét a következővel Mounts:License=: . Kimeneti csatlakoztatást is meg kell adni, hogy a számlázási használati rekordok megírhatók legyenek.

Helyőrző	Érték	Formátum vagy példa
{IMAGE}	A használni kívánt tárolólemezkép.	mcr.microsoft.com/azure-cognitive-services/form-recognizer/invoice
{MEMORY_SIZE}	A tároló számára lefoglalandó memória mérete.	4g
{NUMBER_CPUS}	A tárolóhoz lefoglalandó processzorok megfelelő száma.	4
{LICENSE_MOUNT}	Az elérési út, ahol a licenc található és csatlakoztatva lesz.	/host/license:/path/to/license/directory
{OUTPUT_PATH}	A használati rekordok naplózásának kimeneti útvonala.	/host/output:/path/to/output/directory
{CONTAINER_LICENSE_DIRECTORY}	A licencmappa helye a tároló helyi fájlrendszerében.	/path/to/license/directory
{CONTAINER_OUTPUT_DIRECTORY}	A kimeneti mappa helye a tároló helyi fájlrendszerében.	/path/to/output/directory

docker run --rm -it -p 5000:5000 --memory {MEMORY_SIZE} --cpus {NUMBER_CPUS} \ 
-v {LICENSE_MOUNT} \ 
-v {OUTPUT_PATH} \
{IMAGE} \
eula=accept \
Mounts:License={CONTAINER_LICENSE_DIRECTORY}
Mounts:Output={CONTAINER_OUTPUT_DIRECTORY}

A tároló leállítása

A tároló leállításához a tárolót futtató parancssori környezetben válassza a Ctrl+C billentyűkombinációt.

Hibaelhárítás

Ha a tárolót kimeneti csatlakoztatással és naplózással futtatja, a tároló olyan naplófájlokat hoz létre, amelyek hasznosak a tároló indításakor vagy futtatásakor felmerülő problémák elhárításához.

Tipp

További hibaelhárítási információkért és útmutatásért tekintse meg az Azure AI-tárolókkal kapcsolatos gyakori kérdéseket (GYIK).

Számlázás

A nyelvfelismerési tárolók számlázási adatokat küldenek az Azure-nak egy nyelvi erőforrás használatával az Azure-fiókban.

A tárolóba irányuló lekérdezések számlázása a paraméterhez használt Azure-erőforrás tarifacsomagjában ApiKey van megadva.

Az Azure AI-szolgáltatások tárolói nem futtathatók anélkül, hogy a mérési vagy számlázási végponthoz csatlakozna. Engedélyeznie kell a tárolóknak, hogy mindig közöljék a számlázási adatokat a számlázási végponttal. Az Azure AI-szolgáltatások tárolói nem küldenek ügyféladatokat, például az elemezni kívánt képet vagy szöveget a Microsoftnak.

Csatlakozás az Azure szolgáltatáshoz

A tárolónak futtatnia kell a számlázási argumentum értékeit. Ezek az értékek lehetővé teszik, hogy a tároló csatlakozzon a számlázási végponthoz. A tároló körülbelül 10–15 percenként jelenti a használatot. Ha a tároló az engedélyezett időkereten belül nem csatlakozik az Azure-hoz, a tároló továbbra is fut, de nem szolgál ki lekérdezéseket a számlázási végpont visszaállításáig. A rendszer 10 alkalommal, 10–15 perces időközönként kísérli meg a kapcsolatot. Ha nem tud csatlakozni a számlázási végponthoz a 10 próbálkozáson belül, a tároló leállítja a kérések kiszolgálását. Tekintse meg az Azure AI-szolgáltatások tárolójának gyakori kérdéseit a Microsoftnak számlázás céljából küldött információkra vonatkozó példáért.

Számlázási argumentumok

A docker run parancs akkor indítja el a tárolót, ha az alábbi lehetőségek közül mind a három érvényes értékkel rendelkezik:

Beállítás	Leírás
ApiKey	Az Azure AI-szolgáltatások erőforrásának API-kulcsa, amely a számlázási adatok nyomon követésére szolgál. Ennek a beállításnak az értékét be kell állítani egy API-kulcsra a kiépített erőforráshoz, amely a következőben Billingvan megadva: .
Billing	Az Azure AI-szolgáltatások erőforrásának végpontja, amely a számlázási adatok nyomon követésére szolgál. Ennek a beállításnak az értékét egy kiépített Azure-erőforrás végponti URI-jára kell állítani.
Eula	Azt jelzi, hogy elfogadta a tároló licencét. Ennek a beállításnak az értékét elfogadásra kell állítani.

További információ ezekről a lehetőségekről: Tárolók konfigurálása.

Összefoglalás

Ebben a cikkben megismerkedett a nyelvfelismerési tárolók letöltésével, telepítésével és futtatásával kapcsolatos fogalmakkal és munkafolyamatokkal. Összegezve:

• A nyelvfelismerés Linux-tárolókat biztosít a Dockerhez
• A tárolórendszerképek a Microsoft Container Registryből (MCR) töltődnek le.
• A tárolólemezképek a Dockerben futnak.
• A tárolók példányosításakor meg kell adnia a számlázási adatokat.

Fontos

Ez a tároló nincs licencelve a futtatásra anélkül, hogy az Azure-hoz csatlakozna mérés céljából. Az ügyfeleknek lehetővé kell tenni, hogy a tárolók mindig kommunikáljanak a számlázási adatokkal a mérési szolgáltatással. Az Azure AI-tárolók nem küldenek ügyféladatokat (például az elemzett szöveget) a Microsoftnak.

Következő lépések

• Lásd: Tárolók konfigurálása konfigurációs beállításokhoz.