Megosztás a következőn keresztül:


Elnevezett entitásfelismerési tárolók telepítése és futtatása

A tárolók lehetővé teszik a Named Entity Recognition API üzemeltetését a saját infrastruktúráján. Ha olyan biztonsági vagy adatszabályozási követelményekkel rendelkezik, amelyeket nem lehet teljesíteni az elnevezett entitásfelismerés távoli meghívásával, akkor a tárolók jó választásnak bizonyulhatnak.

Ha még nincs Azure-előfizetése, kezdés előtt hozzon létre egy ingyenes fiókot.

Előfeltételek

Az elnevezett entitásfelismerési tárolók használata előtt meg kell felelnie az alábbi előfeltételeknek.

  • Ha nem rendelkezik Azure-előfizetéssel, hozzon létre egy ingyenes fiókot.
  • A Docker telepítve van egy gazdagépen. A Dockert úgy kell konfigurálni, hogy a tárolók kapcsolódhassanak és számlázási adatokat küldjenek az Azure-ba.
    • Windows rendszeren a Dockert úgy is konfigurálnia kell, hogy támogassa a Linux-tárolókat.
    • Ismernie kell a Docker alapfogalmait.
  • Nyelvi erőforrás

A szükséges paraméterek összegyűjtése

Három elsődleges paraméter szükséges az összes Azure AI-tárolóhoz. A Microsoft szoftverlicenc-feltételeinek elfogadási értékkel kell rendelkeznie. Végponti URI- és API-kulcsra is szükség van.

Végpont URI-ja

Az {ENDPOINT_URI} érték a megfelelő Azure AI-szolgáltatási erőforrás Azure Portal áttekintési oldalán érhető el. Lépjen az Áttekintés lapra, mutasson a végpont fölé, és megjelenik egy Másolás vágólapra ikon. Szükség esetén másolja és használja a végpontot.

Képernyőkép a végpont URI-jának későbbi használatra való gyűjtéséről.

Kulcsok

Az {API_KEY} érték a tároló elindítására szolgál, és elérhető a megfelelő Azure AI-szolgáltatási erőforrás Kulcsok lapján. Lépjen a Kulcsok lapra, és válassza a Vágólapra másolás ikont.

Képernyőkép a két kulcs egyikének későbbi használatra való lekéréséről.

Fontos

Ezek az előfizetési kulcsok az Azure AI-szolgáltatások API-ját használják. Ne ossza meg a kulcsait. Biztonságosan tárolja őket. Használja például az Azure Key Vaultot. Azt is javasoljuk, hogy ezeket a kulcsokat rendszeresen újragenerálja. API-hívás létrehozásához csak egy kulcs szükséges. Az első kulcs újragenerálása után a második kulcsot használhatja a szolgáltatáshoz való folyamatos hozzáféréshez.

A gazdagépre vonatkozó követelmények és javaslatok

A gazdagép egy x64-alapú számítógép, amely a Docker-tárolót futtatja. Ez lehet egy számítógép a helyszínen vagy egy Docker-üzemeltetési szolgáltatás az Azure-ban, például:

Az alábbi táblázat a rendelkezésre álló tároló minimális és ajánlott specifikációit ismerteti. Minden processzormagnak legalább 2,6 gigahertzesnek (GHz) vagy gyorsabbnak kell lennie.

Javasoljuk, hogy AVX-512 utasításkészlettel rendelkező processzorral rendelkezzen a legjobb élmény érdekében (teljesítmény és pontosság).

Minimális gazdagép-specifikációk Ajánlott gazdagép-specifikációk
Nevesített entitások felismerése 1 magos, 2 GB-os memória 4 mag, 8 GB memória

A processzormag és a memória megfelel a --cpus parancs részeként docker run használt beállításoknak és --memory beállításoknak.

A tároló lemezképének lekérése docker pull

A named Entity Recognition tárolólemezkép a mcr.microsoft.com tárolóregisztrációs adatbázis szindikátumában található. Az adattárban azure-cognitive-services/textanalytics/ található, és neve ner. A teljes tárolórendszerkép neve: mcr.microsoft.com/azure-cognitive-services/textanalytics/ner

A tároló legújabb verziójának használatához használhatja az latest angol nyelvű címkét. A támogatott nyelvek tárolóinak teljes listáját az MCR címkéivel is megtalálhatja.

A legújabb elnevezett entitásfelismerési tároló több nyelven is elérhető. Az angol tároló tárolójának letöltéséhez használja az alábbi parancsot.

docker pull mcr.microsoft.com/azure-cognitive-services/textanalytics/ner:latest

Tipp.

A docker images paranccsal listázhatja a letöltött tárolólemezképeket. Az alábbi parancs például az egyes letöltött tárolólemezképek azonosítóját, adattárát és címkéjét sorolja fel táblázatként formázva:

docker images --format "table {{.ID}}\t{{.Repository}}\t{{.Tag}}"

IMAGE ID         REPOSITORY                TAG
<image-id>       <repository-path/name>    <tag-name>

A tároló futtatása a következővel: docker run

Ha a tároló a gazdaszámítógépen van, a docker-futtatási paranccsal futtassa a tárolókat. A tároló addig fut, amíg le nem állítja. Cserélje le az alábbi helyőrzőket a saját értékeire:

Fontos

  • A következő szakaszok docker-parancsai a fordított perjelet használják, \vonal-folytatási karakterként. Cserélje le vagy távolítsa el ezt a gazda operációs rendszer követelményei alapján.
  • A Eulatároló futtatásához meg kell adni a , Billingés ApiKey a beállításokat, ellenkező esetben a tároló nem indul el. További információ: Számlázás.

A Named Entity Recognition tároló futtatásához hajtsa végre a következő docker run parancsot. Cserélje le az alábbi helyőrzőket a saját értékeire:

Helyőrző Érték Formátum vagy példa
{API_KEY} A nyelvi erőforrás kulcsa. Az erőforrás kulcs- és végpontoldalán , az Azure Portalon található. xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx
{ENDPOINT_URI} Az API eléréséhez használt végpont. Az erőforrás kulcs- és végpontoldalán , az Azure Portalon található. https://<your-custom-subdomain>.cognitiveservices.azure.com
{IMAGE_TAG} A futtatni kívánt tároló nyelvét jelképező képcímke. Győződjön meg arról, hogy ez megfelel a docker pull használt parancsnak. latest
docker run --rm -it -p 5000:5000 --memory 8g --cpus 1 \
mcr.microsoft.com/azure-cognitive-services/textanalytics/ner:{IMAGE_TAG} \
Eula=accept \
Billing={ENDPOINT_URI} \
ApiKey={API_KEY}

A parancs a következőket hajtja végre:

  • Elnevezett entitásfelismerési tároló futtatása a tároló lemezképéből
  • Egy processzormag és 8 gigabájt (GB) memória lefoglalása
  • Az 5000-s TCP-portot teszi elérhetővé, és pszeudo-TTY-t foglal le a tárolóhoz
  • A tárolót a kilépés után automatikusan eltávolítja. A tárolólemezkép továbbra is elérhető a gazdaszámítógépen.

Több tároló futtatása ugyanazon a gazdagépen

Ha több tárolót szeretne futtatni közzétett portokkal, mindenképpen futtassa az egyes tárolókat egy másik közzétett porttal. Futtassa például az első tárolót az 5000-s porton, a másodikat pedig az 5001-s porton.

Ezt a tárolót és egy másik Azure AI-szolgáltatási tárolót együtt futtathatja a GAZDAGÉPen. Több tároló is futtatható ugyanabból az Azure AI-szolgáltatási tárolóból.

A tároló előrejelzési végpontjának lekérdezése

A tároló REST-alapú lekérdezés-előrejelzési végpont API-kat nyújt.

A tároló API-khoz használja a gazdagépet (http://localhost:5000).

Ellenőrizze, hogy fut-e egy tároló

A tároló futásának ellenőrzésére többféleképpen is van lehetőség. Keresse meg a szóban forgó tároló külső IP-címét és közzétett portját, és nyissa meg a kedvenc webböngészőt. A tároló futásának ellenőrzéséhez használja az alábbi kérési URL-címeket. Az itt felsorolt példakérési URL-címek eltérőek http://localhost:5000lehetnek, de az adott tároló eltérő lehet. Ügyeljen arra, hogy a tároló külső IP-címére és közzétett portjára támaszkodjon.

URL-cím kérése Cél
http://localhost:5000/ A tároló egy kezdőlappal rendelkezik.
http://localhost:5000/ready A GET használatával kért URL-cím ellenőrzi, hogy a tároló készen áll-e egy lekérdezés elfogadására a modellen. Ez a kérés használható a Kubernetes-beli élő- és készültségi mintavételekhez.
http://localhost:5000/status A GET szolgáltatással is kért, ez az URL-cím ellenőrzi, hogy a tároló elindításához használt API-kulcs érvényes-e végpontlekérdezés nélkül. Ez a kérés használható a Kubernetes-beli élő- és készültségi mintavételekhez.
http://localhost:5000/swagger A tároló átfogó dokumentációval is rendelkezik a végpontokhoz, valamint egy kipróbálás funkcióval is. Ezzel a funkcióval beírhatja a beállításokat egy webes HTML-űrlapba, és kódírás nélkül is elvégezheti a lekérdezést. A lekérdezés visszatérése után megjelenik egy példa CURL-parancs, amely bemutatja a szükséges HTTP-fejléceket és törzsformátumot.

A tároló kezdőlapja

A NER hívásáról további információt az útmutatónkban talál.

Az internetről leválasztott tároló futtatása

Az internetről leválasztott tároló használatához először hozzáférést kell kérnie egy alkalmazás kitöltésével és egy kötelezettségvállalási terv megvásárlásával. További információ: Docker-tárolók használata leválasztott környezetekben .

Ha engedélyezte, hogy az internetről leválasztott tárolót futtassa, az alábbi példában a használni kívánt parancs formázása docker run látható helyőrző értékekkel. Cserélje le ezeket a helyőrző értékeket a saját értékeire.

A DownloadLicense=True parancs paramétere docker run letölt egy licencfájlt, amely lehetővé teszi a Docker-tároló futtatását, ha nincs internetkapcsolata. Emellett egy lejárati dátumot is tartalmaz, amely után a licencfájl érvénytelen lesz a tároló futtatásához. Csak a megfelelő tárolóval rendelkező licencfájlt használhatja. Például nem használhat licencfájlt egy beszéd-szöveg tárolóhoz dokumentumintelligencia-tárolóval.

Helyőrző Érték Formátum vagy példa
{IMAGE} A használni kívánt tárolórendszerkép. mcr.microsoft.com/azure-cognitive-services/form-recognizer/invoice
{LICENSE_MOUNT} A licenc letöltési és csatlakoztatási útvonala. /host/license:/path/to/license/directory
{ENDPOINT_URI} A szolgáltatáskérés hitelesítésének végpontja. Az erőforrás kulcs- és végpontoldalán , az Azure Portalon található. https://<your-custom-subdomain>.cognitiveservices.azure.com
{API_KEY} A Text Analytics-erőforrás kulcsa. Az erőforrás kulcs- és végpontoldalán , az Azure Portalon található. xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx
{CONTAINER_LICENSE_DIRECTORY} A licencmappa helye a tároló helyi fájlrendszerében. /path/to/license/directory
docker run --rm -it -p 5000:5000 \ 
-v {LICENSE_MOUNT} \
{IMAGE} \
eula=accept \
billing={ENDPOINT_URI} \
apikey={API_KEY} \
DownloadLicense=True \
Mounts:License={CONTAINER_LICENSE_DIRECTORY} 

A licencfájl letöltése után a tárolót leválasztott környezetben futtathatja. Az alábbi példa a használni kívánt parancs formázását docker run mutatja be helyőrző értékekkel. Cserélje le ezeket a helyőrző értékeket a saját értékeire.

Bárhol is fut a tároló, a licencfájlt csatlakoztatni kell a tárolóhoz, és meg kell adni Mounts:License=a tároló helyi fájlrendszerében lévő licencmappa helyét. Kimeneti csatlakoztatást is meg kell adni, hogy meg lehessen írni a számlázási használati rekordokat.

Helyőrző Érték Formátum vagy példa
{IMAGE} A használni kívánt tárolórendszerkép. mcr.microsoft.com/azure-cognitive-services/form-recognizer/invoice
{MEMORY_SIZE} A tárolóhoz lefoglalandó memória mérete. 4g
{NUMBER_CPUS} A tárolóhoz lefoglalandó cpu-k megfelelő száma. 4
{LICENSE_MOUNT} Az elérési út, ahol a licenc található és csatlakoztatva lesz. /host/license:/path/to/license/directory
{OUTPUT_PATH} A használati rekordok naplózásának kimeneti elérési útja. /host/output:/path/to/output/directory
{CONTAINER_LICENSE_DIRECTORY} A licencmappa helye a tároló helyi fájlrendszerében. /path/to/license/directory
{CONTAINER_OUTPUT_DIRECTORY} A kimeneti mappa helye a tároló helyi fájlrendszerén. /path/to/output/directory
docker run --rm -it -p 5000:5000 --memory {MEMORY_SIZE} --cpus {NUMBER_CPUS} \ 
-v {LICENSE_MOUNT} \ 
-v {OUTPUT_PATH} \
{IMAGE} \
eula=accept \
Mounts:License={CONTAINER_LICENSE_DIRECTORY}
Mounts:Output={CONTAINER_OUTPUT_DIRECTORY}

A tároló leállítása

A tároló leállításához a tárolót futtató parancssori környezetben válassza a Ctrl+C billentyűkombinációt.

Hibaelhárítás

Ha a tárolót kimeneti csatlakoztatással és naplózással futtatja, a tároló olyan naplófájlokat hoz létre, amelyek segítenek elhárítani a tároló indításakor vagy futtatásakor felmerülő problémákat.

Tipp.

További hibaelhárítási információkért és útmutatásért tekintse meg az Azure AI-tárolókkal kapcsolatos gyakori kérdéseket (GYIK).

Számlázás

Az Elnevezett entitásfelismerési tárolók számlázási adatokat küldenek az Azure-nak egy Nyelvi erőforrás használatával az Azure-fiókban.

A tárolóba irányuló lekérdezések számlázása a paraméterhez használt Azure-erőforrás tarifacsomagján ApiKey lesz.

Az Azure AI-szolgáltatások tárolói nem rendelkeznek licenceléssel anélkül, hogy a mérési vagy számlázási végponthoz csatlakozna. Engedélyeznie kell a tárolók számára, hogy mindig közöljék a számlázási adatokat a számlázási végponttal. Az Azure AI-szolgáltatások tárolói nem küldenek ügyféladatokat, például az elemezni kívánt képet vagy szöveget a Microsoftnak.

Csatlakozás az Azure szolgáltatáshoz

A tárolónak futtatnia kell a számlázási argumentum értékeit. Ezek az értékek lehetővé teszik, hogy a tároló csatlakozzon a számlázási végponthoz. A tároló körülbelül 10–15 percenként jelenti a használatot. Ha a tároló az engedélyezett időkereten belül nem csatlakozik az Azure-hoz, a tároló továbbra is fut, de nem szolgál ki lekérdezéseket, amíg vissza nem állítja a számlázási végpontot. A kapcsolat 10 alkalommal, 10–15 perces időintervallumban történik. Ha a 10 próbálkozáson belül nem tud csatlakozni a számlázási végponthoz, a tároló leállítja a kérések kiszolgálását. Tekintse meg az Azure AI-szolgáltatások tárolójának gyakori kérdéseit a Microsoftnak a számlázáshoz küldött információk példájáért.

Számlázási argumentumok

A docker run parancs akkor indítja el a tárolót, ha az alábbi lehetőségek közül mind a három érvényes értéket tartalmazza:

Lehetőség Leírás
ApiKey Az Azure AI-szolgáltatások erőforrásának API-kulcsa, amely a számlázási adatok nyomon követésére szolgál.
Ennek a beállításnak az értékét api-kulcsra kell állítani a kiépített erőforráshoz, amely a következőben Billingvan megadva: .
Billing Az Azure AI-szolgáltatások erőforrásának végpontja, amely a számlázási adatok nyomon követésére szolgál.
Ennek a beállításnak az értékét egy kiépített Azure-erőforrás végponti URI-jára kell állítani.
Eula Azt jelzi, hogy elfogadta a tároló licencét.
Ennek a beállításnak az értékét el kell fogadni.

Ezekről a lehetőségekről további információt a Tárolók konfigurálása című témakörben talál.

Összegzés

Ebben a cikkben megismerhette az elnevezett entitásfelismerési tárolók letöltésével, telepítésével és futtatásával kapcsolatos fogalmakat és munkafolyamatokat. Összegezve:

  • A nevesített entitásfelismerés Linux-tárolókat biztosít a Dockerhez
  • A tárolólemezképek a Microsoft Container Registryből (MCR) töltődnek le.
  • A tárolólemezképek a Dockerben futnak.
  • A tárolók példányosításakor meg kell adnia a számlázási adatokat.

Fontos

Az Azure AI-tárolók nem rendelkeznek licenceléssel anélkül, hogy az Azure-hoz csatlakozna mérési célokra. Az ügyfeleknek engedélyeznie kell a tárolóknak, hogy mindig közöljék a számlázási adatokat a mérési szolgáltatással. Az Azure AI-tárolók nem küldenek ügyféladatokat (például elemezni kívánt szöveget) a Microsoftnak.

Következő lépések

  • Lásd: Tárolók konfigurálása konfigurációs beállításokhoz.