Tárolók üzembe helyezése és futtatása az Azure Container Instancesben

Az alábbi lépésekkel egyszerűen skálázhatja a felhőbeli Azure AI-szolgáltatási alkalmazásokat az Azure Container Instances használatával. A tárolóba helyezés használatával az alkalmazások fejlesztésére koncentrálhat az infrastruktúra kezelése helyett. A tárolók használatával kapcsolatos további információkért lásd: szolgáltatások és előnyök.

Előfeltételek

A recept bármely Azure AI-szolgáltatástárolóval működik. A recept használata előtt létre kell hozni az Azure AI-szolgáltatási erőforrást. Minden tárolót támogató Azure AI-szolgáltatás rendelkezik egy "Telepítés" című cikktel a szolgáltatás tárolóhoz való telepítéséhez és konfigurálásához. Egyes szolgáltatásokhoz fájlra vagy fájlkészletre van szükség a tároló bemeneteként, fontos, hogy a megoldás használata előtt tisztában legyen a tárolóval, és sikeresen használta azt.

• Azure-erőforrás a használt Azure AI-szolgáltatáshoz.

• Az Azure AI szolgáltatás erőforrás-végpontjának URL-címe – tekintse át az adott szolgáltatás "Telepítés" szakaszát a tárolóhoz, és keresse meg, hogy hol található a végpont URL-címe az Azure Portalon belül, és hogyan néz ki az URL-cím helyes példája. A pontos formátum szolgáltatásról szolgáltatásra változhat.

• Azure AI-szolgáltatás erőforráskulcsa – a kulcsok az Azure-erőforrás Kulcsok lapján találhatók. Csak a két kulcs egyikére van szüksége. A kulcs egy 32 alfanumerikus karakterből álló sztring.

• Egyetlen Azure AI-szolgáltatástároló a helyi gazdagépen (a számítógépen). Győződjön meg arról, hogy:

  • Húzza le a képet egy docker pull paranccsal.
  • Futtassa sikeresen a helyi tárolót az összes szükséges konfigurációs beállítással egy docker run paranccsal.
  • Hívja meg a tároló végpontját, és kap egy HTTP 2xx-választ és egy JSON-választ.

A szögletes zárójelben <>lévő összes változót a saját értékeire kell cserélni. Ez a csere tartalmazza a szögletes zárójeleket.

Fontos

A LUIS-tárolóhoz szükség van egy .gz modellfájlra, amely futásidőben lesz behúzva. A tárolónak hozzá kell férnie ehhez a modellfájlhoz egy köteten keresztül, amely a tárolópéldányról van csatlakoztatva. Modellfájl feltöltéséhez kövesse az alábbi lépéseket:

1. Azure-fájlmegosztás létrehozása. Jegyezze fel az Azure Storage-fiók nevét, kulcsát és a fájlmegosztás nevét, mert később szüksége lesz rájuk.
2. exportálja a LUIS-modellt (csomagolt alkalmazást) a LUIS-portálról.
3. Az Azure Portalon lépjen a tárfiók-erőforrás Áttekintés lapjára, és válassza a Fájlmegosztások lehetőséget.
4. Válassza ki a legutóbb létrehozott fájlmegosztás nevét, majd a Feltöltés elemet. Ezután töltse fel a csomagolt alkalmazást.

Azure Portalra

Azure Container Instance-erőforrás létrehozása az Azure Portal használatával

1. Nyissa meg a Tárolópéldányok létrehozása lapot.

2. Az Alapismeretek lapon adja meg a következő adatokat:

   Beállítás	Érték
   Előfizetés	Válassza ki előfizetését.
   Erőforráscsoport	Válassza ki az elérhető erőforráscsoportot, vagy hozzon létre egy újat, például cognitive-services.
   Tárolónév	Adjon meg egy nevet, például cognitive-container-instance. A névnek alsó korlátban kell lennie.
   Hely	Válasszon ki egy régiót az üzembe helyezéshez.
   Lemezkép típusa	Ha a tároló lemezképe olyan tárolóregisztrációs adatbázisban van tárolva, amelyhez nincs szükség hitelesítő adatokra, válassza a Publiclehetőséget. Ha a tárolórendszerkép eléréséhez hitelesítő adatokra van szükség, válassza a Privatelehetőséget. A tárolólemezkép Public Private vagy a ("Nyilvános előzetes verzió") részleteiért tekintse meg a tárolótárakat és a rendszerképeket.
   Rendszerkép neve	Adja meg az Azure AI-szolgáltatások tárolójának helyét. A hely a parancs argumentumaként docker pull használt hely. Tekintse meg a rendelkezésre álló képnevek és a hozzájuk tartozó adattár tárolóadattárait és rendszerképeit . A kép nevének három részből álló teljes minősítéssel kell rendelkeznie. Először a tárolóregisztrációs adatbázist, majd az adattárat, végül a rendszerkép nevét: <container-registry>/<repository>/<image-name>. Íme egy példa, mcr.microsoft.com/azure-cognitive-services/keyphrase amely az Azure AI-szolgáltatások adattárában található Microsoft Container Registry kulcskifejezés-kinyerési rendszerképét ábrázolja. Egy másik példa a containerpreview.azurecr.io/microsoft/cognitive-services-speech-to-text Beszéd szöveggé alakítás képe a Container Preview tárolóregisztrációs adatbázis Microsoft-adattárában.
   Operációs rendszer típusa	Linux
   Méret	Módosítsa a méretet az adott Azure AI-tárolóra vonatkozó javasolt javaslatokra: 2 processzormag 4 GB

3. A Hálózatkezelés lapon adja meg a következő adatokat:

   Beállítás	Érték
   Portok	Állítsa be a TCP-portot a következőre 5000: . Elérhetővé teszi a tárolót az 5000-s porton.

4. A Speciális lapon adja meg az Azure Container Instance-erőforrás tároló számlázási beállításaihoz szükséges környezeti változókat:

   Kulcs	Érték
   ApiKey	Az erőforrás Kulcsok és végpont lapjáról másolva. Ez egy 32 alfanumerikus karakterből álló sztring szóközök és kötőjelek nélkül. xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx
   Billing	A végpont URL-címe az erőforrás Kulcsok és végpont lapjáról másolva.
   Eula	accept

5. Válassza a Véleményezés és létrehozás lehetőséget

6. Az ellenőrzés sikeres elvégzése után kattintson a Létrehozás gombra a létrehozási folyamat befejezéséhez

7. Az erőforrás sikeres üzembe helyezése után készen áll

Parancssori felület

Azure Container Instance-erőforrás létrehozása az Azure CLI-ből

Az alábbi YAML határozza meg az Azure Container Instance-erőforrást. Másolja és illessze be a tartalmat egy új fájlba, elnevezve my-aci.yaml , és cserélje le a megjegyzésben szereplő értékeket a saját fájlra. Tekintse meg az érvényes YAML sablonformátumát . Tekintse meg a rendelkezésre álló képnevek és a hozzájuk tartozó adattár tárolóadattárait és rendszerképeit . A tárolópéldányok YAML-referenciájára vonatkozó további információkért lásd a YAML-referenciát: Azure Container Instances.

apiVersion: 2018-10-01
location: # < Valid location >
name: # < Container Group name >
properties:
  imageRegistryCredentials: # This is only required if you are pulling a non-public image that requires authentication to access. For example Text Analytics for health.
  - server: containerpreview.azurecr.io
    username: # < The username for the preview container registry >
    password: # < The password for the preview container registry >
  containers:
  - name: # < Container name >
    properties:
      image: # < Repository/Image name >
      environmentVariables: # These env vars are required
        - name: eula
          value: accept
        - name: billing
          value: # < Service specific Endpoint URL >
        - name: apikey
          value: # < Service specific API key >
      resources:
        requests:
          cpu: 4 # Always refer to recommended minimal resources
          memoryInGb: 8 # Always refer to recommended minimal resources
      ports:
        - port: 5000
  osType: Linux
  volumes: # This node, is only required for container instances that pull their model in at runtime, such as LUIS.
  - name: aci-file-share
    azureFile:
      shareName: # < File share name >
      storageAccountName: # < Storage account name>
      storageAccountKey: # < Storage account key >
  restartPolicy: OnFailure
  ipAddress:
    type: Public
    ports:
    - protocol: tcp
      port: 5000
tags: null
type: Microsoft.ContainerInstance/containerGroups

Feljegyzés

Nem minden hely rendelkezik ugyanazzal a processzor- és memória-rendelkezésre állási hellyel. A tárolókhoz és operációs rendszerekhez elérhető erőforrások felsorolásához tekintse meg a hely és az erőforrások táblát.

A parancshoz az container create létrehozott YAML-fájlra támaszkodunk. Az Azure CLI-ben hajtsa végre a az container create parancsot a <resource-group> saját helyett. Emellett a YAML-környezeten belüli értékek biztonságossá tételéhez tekintse meg a biztonságos értékeket.

az container create -g <resource-group> -f my-aci.yaml

A parancs Running... kimenete érvényes, miután a kimenet egy JSON-sztringre változik, amely az újonnan létrehozott ACI-erőforrást jelöli. A tárolórendszerkép valószínűleg egy ideig nem érhető el, de az erőforrás üzembe lett helyezve.

Tipp.

Ügyeljen az Azure AI-szolgáltatások nyilvános előzetes verziójában elérhető helyekre, mivel a YAML-et a helynek megfelelően kell módosítani.

A tárolópéldány használata

Azure Portalra

1. Válassza az Áttekintés lehetőséget , és másolja ki az IP-címet. Ez egy numerikus IP-cím lesz, például 55.55.55.55.

2. Nyisson meg egy új böngészőlapot, http://<IP-address>:5000 (http://55.55.55.55:5000és használja például az IP-címet. Ekkor megjelenik a tároló kezdőlapja, amelyből megtudhatja, hogy a tároló fut.

   

3. Válassza a Service API-leírást a tároló swagger oldalának megtekintéséhez.

4. Jelölje ki bármelyik POST API-t, és válassza a Kipróbálás lehetőséget. A paraméterek a bemenettel együtt jelennek meg. Adja meg a paramétereket.

5. Válassza a Végrehajtás lehetőséget a kérés tárolópéldánynak való elküldéséhez.

   Sikeresen létrehozott és használt Azure AI-tárolókat az Azure Container Instanceben.

Parancssori felület

Ellenőrizze, hogy fut-e egy tároló

A tároló futásának ellenőrzésére többféleképpen is van lehetőség. Keresse meg a szóban forgó tároló külső IP-címét és közzétett portját, és nyissa meg a kedvenc webböngészőt. A tároló futásának ellenőrzéséhez használja az alábbi kérési URL-címeket. Az itt felsorolt példakérési URL-címek eltérőek http://localhost:5000lehetnek, de az adott tároló eltérő lehet. Ügyeljen arra, hogy a tároló külső IP-címére és közzétett portjára támaszkodjon.

URL-cím kérése	Cél
http://localhost:5000/	A tároló egy kezdőlappal rendelkezik.
http://localhost:5000/ready	A GET használatával kért URL-cím ellenőrzi, hogy a tároló készen áll-e egy lekérdezés elfogadására a modellen. Ez a kérés használható a Kubernetes-beli élő- és készültségi mintavételekhez.
http://localhost:5000/status	A GET szolgáltatással is kért, ez az URL-cím ellenőrzi, hogy a tároló elindításához használt API-kulcs érvényes-e végpontlekérdezés nélkül. Ez a kérés használható a Kubernetes-beli élő- és készültségi mintavételekhez.
http://localhost:5000/swagger	A tároló átfogó dokumentációval is rendelkezik a végpontokhoz, valamint egy kipróbálás funkcióval is. Ezzel a funkcióval beírhatja a beállításokat egy webes HTML-űrlapba, és kódírás nélkül is elvégezheti a lekérdezést. A lekérdezés visszatérése után megjelenik egy példa CURL-parancs, amely bemutatja a szükséges HTTP-fejléceket és törzsformátumot.

Feljegyzés

Ha a Text Analytics for health tárolót futtatja, a lekérdezések elküldéséhez használja a következő URL-címet: http://localhost:5000/text/analytics/v3.2-preview.1/entities/health