Custom Named Entity Recognition-tárolók telepítése és futtatása
A tárolók lehetővé teszik a custom named entity recognition API saját infrastruktúrán való üzemeltetését a saját betanított modellel. Ha olyan biztonsági vagy adatszabályozási követelményekkel rendelkezik, amelyek nem teljesíthetők az Egyéni nevesített entitásfelismerés távoli meghívásával, akkor a tárolók jó választás lehet.
Megjegyzés
- Az ingyenes fiók legfeljebb 5000 szöveges rekordot tartalmazhat havonta, és csak az Ingyenes és a Standardtarifacsomag érvényes a tárolókra. A tranzakciós kérelmek díjairól további információt az Adatok és a szolgáltatás korlátai című témakörben talál.
Előfeltételek
- Ha nem rendelkezik Azure-előfizetéssel, hozzon létre egy ingyenes fiókot.
- A Docker telepítve van egy gazdagépen. A Dockert úgy kell konfigurálni, hogy a tárolók kapcsolódhassanak az Azure-hoz, és elküldjék a számlázási adatokat.
- Windows rendszeren a Dockert is úgy kell konfigurálni, hogy támogassa a Linux-tárolókat.
- Ismernie kell a Docker-fogalmakat.
- nyelvi erőforrás az ingyenes (F0) vagy standard (S) tarifacsomaggal.
- Betanított és üzembe helyezett custom named entity recognition modell
A szükséges paraméterek összegyűjtése
Az összes Azure AI-tárolóhoz három elsődleges paraméter szükséges. A Microsoft szoftverlicenc-feltételeinek elfogadási értékkel kell rendelkeznie. Végponti URI- és API-kulcsra is szükség van.
Végpont URI-ja
Az {ENDPOINT_URI} érték a megfelelő Azure AI-szolgáltatások erőforrásának Azure Portal Áttekintés lapján érhető el. Lépjen az Áttekintés lapra, mutasson a végpont fölé, és megjelenik a Másolás vágólapra ikon. Másolja ki és használja a végpontot, ha szükséges.
Kulcsok
Az {API_KEY} érték a tároló elindítására szolgál, és a megfelelő Azure AI-szolgáltatási erőforrás Azure Portal Kulcsok lapján érhető el. Lépjen a Kulcsok lapra, és válassza a Másolás vágólapra ikont.
Fontos
Ezek az előfizetési kulcsok az Azure AI-szolgáltatások API-ját használják. Ne ossza meg a kulcsokat. Biztonságosan tárolhatja őket. Használja például az Azure Key Vault. Azt is javasoljuk, hogy ezeket a kulcsokat rendszeresen hozza létre. API-híváshoz csak egy kulcs szükséges. Az első kulcs újragenerálása után a második kulcsot használhatja a szolgáltatáshoz való folyamatos hozzáféréshez.
A gazdagépre vonatkozó követelmények és javaslatok
A gazdagép egy x64-alapú számítógép, amely a Docker-tárolót futtatja. Ez lehet egy számítógép a helyszínen vagy egy Docker üzemeltetési szolgáltatás az Azure-ban, például:
- Azure Kubernetes Service.
- Azure Container Instances.
- Az Azure Stackben üzembe helyezett Kubernetes-fürt. További információ: Kubernetes üzembe helyezése az Azure Stackben.
Az alábbi táblázat a custom named entity recognition tárolók minimális és ajánlott specifikációit ismerteti. Minden processzormagnak legalább 2,6 gigahertzesnek (GHz) vagy gyorsabbnak kell lennie. Az engedélyezett másodpercenkénti tranzakciók (TPS) is szerepelnek a listán.
| Minimális gazdagép-specifikációk | Ajánlott gazdagép-specifikációk | Minimális TPS | Maximális TPS | |
|---|---|---|---|---|
| Egyéni elnevezett entitások felismerése | 1 mag, 2 GB memória | 1 mag, 4 GB memória | 15 | 30 |
A processzormag és a memória a és --memory a --cpus beállításnak felel meg, amelyeket a docker run parancs részeként használnak.
Az egyéni elnevezett entitásfelismerési modell exportálása
Mielőtt folytatná a docker-rendszerkép futtatását, exportálnia kell a saját betanított modelljét, hogy elérhetővé tegye azt a tárolóban. Az alábbi paranccsal nyerje ki a modellt, és cserélje le az alábbi helyőrzőket a saját értékeire:
| Helyőrző | Érték | Formátum vagy példa |
|---|---|---|
| {API_KEY} | Az egyéni nevesített entitásfelismerési erőforrás kulcsa. Az erőforrás Kulcs és végpont lapján, a Azure Portal található. | xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx |
| {ENDPOINT_URI} | A Custom Named Entity Recognition API elérésének végpontja. Az erőforrás Kulcs és végpont lapján, a Azure Portal található. | https://<your-custom-subdomain>.cognitiveservices.azure.com |
| {PROJECT_NAME} | Az exportálni kívánt modellt tartalmazó projekt neve. A projektek lapján, a Language Studio portálon találja. | myProject |
| {TRAINED_MODEL_NAME} | Az exportálni kívánt betanított modell neve. A betanított modelleket a projekt modellértékelési lapján, a Language Studio portálján találja. | myTrainedModel |
curl --location --request PUT '{ENDPOINT_URI}/language/authoring/analyze-text/projects/{PROJECT_NAME}/exported-models/{TRAINED_MODEL_NAME}?api-version=2023-04-15-preview' \
--header 'Ocp-Apim-Subscription-Key: {API_KEY}' \
--header 'Content-Type: application/json' \
--data-raw '{
"TrainedmodelLabel": "{TRAINED_MODEL_NAME}"
}'
A tároló lemezképének lekérése a következővel: docker pull
Az Custom Named Entity Recognition tárolólemezkép a mcr.microsoft.com tárolóregisztrációs adatbázis szindikátumán található. Az adattárban azure-cognitive-services/textanalytics/ található, és a neve customner. A teljes tárolórendszerkép neve: mcr.microsoft.com/azure-cognitive-services/textanalytics/customner.
A tároló legújabb verziójának használatához használhatja a címkét latest . A címkék teljes listáját az MCR-en is megtalálhatja.
docker pull A paranccsal letölthet egy tárolórendszerképet a Microsoft Container Registryből.
docker pull mcr.microsoft.com/azure-cognitive-services/textanalytics/customner:latest
Tipp
A docker images paranccsal listázhatja a letöltött tárolólemezképeket. A következő parancs például felsorolja az egyes letöltött tárolólemezképek azonosítóját, adattárát és címkéjét, táblázatként formázva:
docker images --format "table {{.ID}}\t{{.Repository}}\t{{.Tag}}"
IMAGE ID REPOSITORY TAG
<image-id> <repository-path/name> <tag-name>
A tároló futtatása a következővel: docker run
Miután a tároló a gazdaszámítógépen van, a docker run paranccsal futtassa a tárolókat. A tároló továbbra is futni fog, amíg le nem állítja.
Fontos
- A következő szakaszok docker-parancsai a fordított perjelet használják,
\vonal folytatási karakterként. Cserélje le vagy távolítsa el ezt a gazda operációs rendszer követelményei alapján. - A
Eula,Billing, ésApiKeybeállításokat meg kell adni a tároló futtatásához; ellenkező esetben a tároló nem indul el. További információ: Számlázás.
Az Custom Named Entity Recognition tároló futtatásához futtassa a következő docker run parancsot. Cserélje le az alábbi helyőrzőket a saját értékeire:
| Helyőrző | Érték | Formátum vagy példa |
|---|---|---|
| {API_KEY} | Az egyéni nevesített entitásfelismerési erőforrás kulcsa. Az erőforrás Kulcs és végpont lapján, a Azure Portal található. | xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx |
| {ENDPOINT_URI} | A Custom Named Entity Recognition API elérésének végpontja. Az erőforrás Kulcs és végpont lapján, a Azure Portal található. | https://<your-custom-subdomain>.cognitiveservices.azure.com |
| {PROJECT_NAME} | Az exportálni kívánt modellt tartalmazó projekt neve. A projektek lapján, a Language Studio portálon találja. | myProject |
| {LOCAL_PATH} | Az az elérési út, amelyben az előző lépésben exportált modell le lesz töltve. Tetszése bármelyik elérési útját kiválaszthatja. | C:/custom-ner-model |
| {TRAINED_MODEL_NAME} | Az exportálni kívánt betanított modell neve. A betanított modelleket a projekt modellértékelési lapján, a Language Studio portálján találja. | myTrainedModel |
docker run --rm -it -p5000:5000 --memory 4g --cpus 1 \
-v {LOCAL_PATH}:/modelPath \
mcr.microsoft.com/azure-cognitive-services/textanalytics/customner:latest \
EULA=accept \
BILLING={ENDPOINT_URI} \
APIKEY={API_KEY} \
projectName={PROJECT_NAME}
exportedModelName={TRAINED_MODEL_NAME}
A parancs a következőket hajtja végre:
- Egy custom named entity recognition tárolót futtat, és letölti az exportált modellt a megadott helyi elérési útra.
- Egy processzormag és 4 gigabájt (GB) memória lefoglalása
- Az 5000-s TCP-portot teszi elérhetővé, és egy pszeudo-TTY-t foglal le a tárolóhoz
- Automatikusan eltávolítja a tárolót a kilépés után. A tárolórendszerkép továbbra is elérhető a gazdagépen.
Több tároló futtatása ugyanazon a gazdagépen
Ha több tárolót szeretne futtatni a közzétett portokkal, mindenképpen futtassa az egyes tárolókat egy másik közzétett porttal. Futtassa például az első tárolót az 5000-s porton, a másodikat pedig az 5001-s porton.
Ezt a tárolót és egy másik Azure AI-szolgáltatási tárolót együtt futtathatja a GAZDAGÉPen. Több tároló is futtatható ugyanabból az Azure AI-szolgáltatástárolóból.
A tároló előrejelzési végpontjának lekérdezése
A tároló REST-alapú lekérdezés-előrejelzési végpont API-kat nyújt.
A tároló API-khoz használja a gazdagépet (http://localhost:5000).
Annak ellenőrzése, hogy egy tároló fut-e
A tároló futásának ellenőrzésére többféleképpen is lehetőség van. Keresse meg a szóban forgó tároló külső IP-címét és közzétett portját, és nyissa meg a kedvenc webböngészőt. A tároló futásának ellenőrzéséhez használja az alábbi kérési URL-címeket. Az itt felsorolt példakérési URL-címek a következők, http://localhost:5000de az adott tároló eltérő lehet. Ügyeljen arra, hogy a tároló külső IP-címére és közzétett portjára támaszkodjon.
| Kérelem URL-címe | Cél |
|---|---|
http://localhost:5000/ |
A tároló egy kezdőlappal rendelkezik. |
http://localhost:5000/ready |
A GET használatával kért URL-cím ellenőrzi, hogy a tároló készen áll-e a modell lekérdezésének elfogadására. Ez a kérés használható a Kubernetes-beli élettartam- és készültségi mintavételekhez. |
http://localhost:5000/status |
A GET használatával is kért URL-cím ellenőrzi, hogy a tároló elindításához használt API-kulcs érvényes-e végpontlekérdezés nélkül. Ez a kérés használható a Kubernetes-beli élettartam- és készültségi mintavételekhez. |
http://localhost:5000/swagger |
A tároló átfogó dokumentációval is rendelkezik a végpontokhoz, valamint egy kipróbálás funkcióval is. Ezzel a funkcióval beírhatja a beállításokat egy webes HTML-űrlapba, és anélkül végezheti el a lekérdezést, hogy kódot kellene írnia. A lekérdezés visszaadása után megjelenik egy példa CURL-parancs, amely bemutatja a szükséges HTTP-fejléceket és törzsformátumot. |
A tároló leállítása
A tároló leállításához válassza a Ctrl+C billentyűkombinációt abban a parancssori környezetben, ahol a tároló fut.
Hibaelhárítás
Ha a tárolót kimeneti csatlakoztatással és naplózással futtatja, a tároló olyan naplófájlokat hoz létre, amelyek hasznosak a tároló indításakor vagy futtatásakor felmerülő problémák elhárításához.
Tipp
További hibaelhárítási információkért és útmutatásért tekintse meg az Azure AI-tárolók gyakori kérdéseit (GYIK).
Számlázás
Az egyéni elnevezett entitásfelismerési tárolók számlázási adatokat küldenek az Azure-nak egy egyéni elnevezett entitásfelismerő erőforrás használatával az Azure-fiókban.
A tárolóba irányuló lekérdezések számlázása a paraméterhez ApiKey használt Azure-erőforrás tarifacsomagján lesz.
Az Azure AI-szolgáltatások tárolói nem futtathatók anélkül, hogy a mérési vagy számlázási végponthoz csatlakozna. Engedélyeznie kell a tárolók számára, hogy folyamatosan közöljék a számlázási adatokat a számlázási végponttal. Az Azure AI-szolgáltatások tárolói nem küldenek ügyféladatokat, például az elemezni kívánt képet vagy szöveget a Microsoftnak.
Csatlakozás az Azure szolgáltatáshoz
A tárolónak futtatnia kell a számlázási argumentum értékeit. Ezek az értékek lehetővé teszik, hogy a tároló csatlakozzon a számlázási végponthoz. A tároló körülbelül 10–15 percenként jelenti a használatot. Ha a tároló az engedélyezett időn belül nem csatlakozik az Azure-hoz, a tároló továbbra is fut, de nem szolgál ki lekérdezéseket a számlázási végpont visszaállításáig. A rendszer 10-szer kísérli meg a kapcsolatot 10–15 perces időintervallumban. Ha nem tud csatlakozni a számlázási végponthoz a 10 próbálkozáson belül, a tároló leállítja a kérések kiszolgálását. Tekintse meg az Azure AI-szolgáltatások tárolójának gyakori kérdések szakaszát , amely a Microsoftnak a számlázáshoz küldött információkra mutat példát.
Számlázási argumentumok
A docker run parancs akkor indítja el a tárolót, ha a következő három beállítás érvényes értékekkel rendelkezik:
| Beállítás | Leírás |
|---|---|
ApiKey |
Az Azure AI-szolgáltatások erőforrásának API-kulcsa, amely a számlázási adatok nyomon követésére szolgál. Ennek a beállításnak az értékét egy API-kulcsra kell állítani a(z) alkalmazásban Billingmegadott kiépített erőforráshoz. |
Billing |
Az Azure AI-szolgáltatások erőforrásának végpontja, amely a számlázási adatok nyomon követésére szolgál. Ennek a beállításnak az értékét egy kiépített Azure-erőforrás végponti URI-jára kell állítani. |
Eula |
Azt jelzi, hogy elfogadta a tároló licencét. Ennek a beállításnak az értékét elfogadásra kell állítani. |
Összefoglalás
Ebben a cikkben megismerhette az egyéni nevű entitásfelismerési tárolók letöltésével, telepítésével és futtatásával kapcsolatos fogalmakat és munkafolyamatokat. Összegezve:
- A Custom Named Entity Recognition Linux-tárolókat biztosít a Dockerhez.
- A tárolórendszerképek a Microsoft Container Registryből (MCR) töltődnek le.
- A tárolórendszerképek a Dockerben futnak.
- A REST API-val vagy az SDK-val meghívhatja a műveleteket az Egyéni nevesített entitásfelismerési tárolókban a tároló gazdagépének URI-jának megadásával.
- A tárolók példányosításakor meg kell adnia a számlázási adatokat.
Fontos
Az Azure AI-tárolók nem futtathatók anélkül, hogy mérés céljából csatlakozna az Azure-hoz. Az ügyfeleknek engedélyeznie kell a tárolóknak, hogy folyamatosan közöljék a számlázási adatokat a mérési szolgáltatással. Az Azure AI-tárolók nem küldenek ügyféladatokat (például az elemezni kívánt szöveget) a Microsoftnak.
Következő lépések
- Lásd: Tárolók konfigurálása a konfigurációs beállításokhoz.