Oktatóanyag: Csatlakozás az Azure OpenAI service-be az AKS-ben a Számítási feladatok identitásának használatával (előzetes verzió)

Cikk
05/21/2024

Ebben az oktatóanyagban megtudhatja, hogyan hozhat létre podot egy Azure Kubernetes- (AKS-) fürtben, amely az Azure OpenAI Szolgáltatással beszél a számítási feladatok identitása és a Service Csatlakozás or használatával. Az oktatóanyagban az alábbi feladatokat fogja végrehajtani:

Hozzon létre egy AKS-fürtöt és egy Azure OpenAI-szolgáltatást a modell üzembe helyezésével gpt-4 .
Hozzon létre kapcsolatot az AKS-fürt és az Azure OpenAI között a Service Csatlakozás or használatával.
Klónozhat egy mintaalkalmazást, amely egy AKS-fürtből fog beszélni az Azure OpenAI szolgáltatással.
Helyezze üzembe az alkalmazást egy podon az AKS-fürtben, és tesztelje a kapcsolatot.
Az erőforrások eltávolítása.

Előfeltételek

Egy Azure-fiók, aktív előfizetéssel. Fiók ingyenes létrehozása.
- Használja a Bash-környezetet az Azure Cloud Shellben. További információ: A Bash rövid útmutatója az Azure Cloud Shellben.
- Ha inkább helyi cli-referenciaparancsokat szeretne futtatni, telepítse az Azure CLI-t. Ha Windows vagy macOS rendszert használ, fontolja meg az Azure CLI Docker-tárolóban való futtatását. További információ: Az Azure CLI futtatása Docker-tárolóban.
  - Ha helyi telepítést használ, jelentkezzen be az Azure CLI-be az az login parancs futtatásával. A hitelesítési folyamat befejezéséhez kövesse a terminálon megjelenő lépéseket. További bejelentkezési lehetőségekért lásd : Bejelentkezés az Azure CLI-vel.
  - Amikor a rendszer kéri, először telepítse az Azure CLI-bővítményt. További információ a bővítményekről: Bővítmények használata az Azure CLI-vel.
  - Futtassa az az version parancsot a telepített verzió és a függő kódtárak megkereséséhez. A legújabb verzióra az az upgrade paranccsal frissíthet.
Telepítse a Dockert és a kubectl-et a tárolólemezkép és a Kubernetes-erőforrások kezeléséhez.
A tároló és az AKS alapszintű ismerete. Az alkalmazás AKS-hez való előkészítésének első lépései.
A számítási feladatok identitásának alapszintű ismerete.
Hozzáférési engedélyek az Azure OpenAI-erőforrások létrehozásához és a modellek üzembe helyezéséhez.

Azure-erőforrások létrehozása

Ezt az oktatóanyagot több Azure-erőforrás létrehozásával kezdheti el.

Hozzon létre egy erőforráscsoportot ehhez az oktatóanyaghoz.

az group create \
    --name MyResourceGroup \
    --location eastus

Hozzon létre egy AKS-fürtöt a következő paranccsal, vagy az AKS rövid útmutatójára hivatkozva. Ebben az oktatóanyagban létrehozzuk a szolgáltatáskapcsolatot és a poddefiníciót, és üzembe helyezzük a mintaalkalmazást ebben a fürtben.
```
az aks create \
    --resource-group MyResourceGroup \
    --name MyAKSCluster \
    --enable-managed-identity \
    --node-count 1
    --generate-ssh-keys
```

Csatlakozás a fürthöz az az aks get-credentials paranccsal.

az aks get-credentials \
    --resource-group MyResourceGroup \
    --name MyAKSCluster

Hozzon létre egy Azure OpenAI-szolgáltatáserőforrást az az cognitiveservices-fiók létrehozási parancsával. További útmutatásért tekintse meg ezt az oktatóanyagot . Az Azure OpenAI Service az AKS-fürthöz csatlakozni kívánt célszolgáltatás.
```
az cognitiveservices account create \
    --resource-group MyResourceGroup \
    --name MyOpenAIService \
    --location eastus \
    --kind OpenAI \
    --sku s0 \
    --custom-domain myopenaiservice \
    --subscription <SubscriptionID>
```

Modell üzembe helyezése az az cognitiveservices deployment create paranccsal. A modell a mintaalkalmazásban a kapcsolat tesztelésére szolgál.

az cognitiveservices account deployment create \
    --resource-group MyResourceGroup \
    --name MyOpenAIService
    --deployment-name MyModel \
    --model-name gpt-4 \
    --model-version 0613 \
    --model-format OpenAI \
    --sku-name "Standard"
    --capacity 1

Hozzon létre egy Azure Container Registry-erőforrást (ACR) az az acr create paranccsal, vagy hivatkozik erre az oktatóanyagra . A beállításjegyzék tárolja a mintaalkalmazás tárolórendszerképét, amelyet az AKS-poddefiníció használ.
```
az acr create \
    --resource-group MyResourceGroup \
    --name myregistry \
    --sku Standard
```
Engedélyezze a névtelen lekérést az az acr update paranccsal, hogy az AKS-fürt felhasználhassa a lemezképeket a beállításjegyzékben.
```
az acr update \
    --resource-group MyResourceGroup \
    --name MyRegistry \
    --anonymous-pull-enabled
```
Hozzon létre egy felhasználó által hozzárendelt felügyelt identitást az az identity create paranccsal, vagy hivatkozzon erre az oktatóanyagra. A kapcsolat létrehozásakor a rendszer a felhasználó által hozzárendelt felügyelt identitással engedélyezi a számítási feladatok identitását az AKS-számítási feladatokhoz.
```
az identity create \
    --resource-group MyResourceGroup \
    --name MyIdentity
```

Szolgáltatáskapcsolat létrehozása az AKS-ben a Service Csatlakozás or használatával (előzetes verzió)

Szolgáltatáskapcsolat létrehozása egy AKS-fürt és az Azure OpenAI szolgáltatás között az Azure Portalon vagy az Azure CLI-ben.

Portál
Azure CLI

Tekintse meg az AKS szolgáltatás kapcsolatának rövid útmutatójában az új kapcsolat létrehozásának utasításait, és adja meg az alábbi táblázatban szereplő példákra hivatkozó beállításokat. Hagyja meg az összes többi beállítást az alapértelmezett értékekkel.

Alapismeretek lap:

Beállítás	Példaérték	Leírás
Kubernetes-névtér	alapértelmezett	A Kubernetes-névtér.
Szolgáltatás típusa	OpenAI szolgáltatás	A célszolgáltatás típusa.
Kapcsolat neve	openai_conn	Használja a Service Csatlakozás or által megadott kapcsolatnevet, vagy válassza ki a saját kapcsolatnevét.
Előfizetés	`<MySubscription>`	Az Azure OpenAI szolgáltatáshoz használt előfizetés.
OpenAI	`<MyOpenAIService>`	A cél Azure OpenAI-szolgáltatás, amelyhez csatlakozni szeretne.
Ügyfél típusa	Python	A célszolgáltatáshoz való csatlakozáshoz használt kódnyelv vagy keretrendszer.

Hitelesítés lap:

Hitelesítési beállítás	Példaérték	Leírás
Hitelesítés típusa	Számítási feladatok identitása	Szolgáltatás Csatlakozás or hitelesítési típusa.
Előfizetés	`<MySubscription>`	A felhasználó által hozzárendelt felügyelt identitást tartalmazó előfizetés.
Felhasználó által hozzárendelt felügyelt identitás	`<MyIdentity>`	A számítási feladatok identitásának engedélyezéséhez felhasználó által hozzárendelt felügyelt identitásra van szükség.

Miután létrejött a kapcsolat, megtekintheti annak részleteit a Szolgáltatás Csatlakozás or panelen.

Az Azure CLI paranccsal hozzon létre egy szolgáltatáskapcsolatot az Azure OpenAI szolgáltatással, és adja meg a következő információkat:

Forrás számítási szolgáltatás erőforráscsoportjának neve: az AKS-fürt erőforráscsoportjának neve.
AKS-fürt neve: a célszolgáltatáshoz csatlakozó AKS-fürt neve.
Célszolgáltatás erőforráscsoportjának neve: az Azure OpenAI szolgáltatás erőforráscsoportjának neve.
OpenAI-szolgáltatás neve: a csatlakoztatott Azure OpenAI szolgáltatás.
Felhasználó által hozzárendelt identitás erőforrás-azonosítója: a számítási feladat identitásának létrehozásához használt, felhasználó által hozzárendelt identitás erőforrás-azonosítója.

az aks connection create cognitiveservices \
   --workload-identity <user-identity-resource-id>

Mintaalkalmazás klónozása

Klónozza a mintaadattárat:

git clone https://github.com/Azure-Samples/serviceconnector-aks-samples.git

Nyissa meg az Azure OpenAI-adattár mintamappáját:

cd serviceconnector-aks-samples/azure-openai-workload-identity

Cserélje le a <MyModel> fájl helyőrzőjének app.py nevét az üzembe helyezett modellnévre.

Tárolórendszerképek létrehozása és leküldése

A rendszerképek létrehozása és leküldése az ACR-be az Azure CLI az acr build parancsával.
```
az acr build --registry <MyRegistry> --image sc-demo-openai-identity:latest ./
```
Tekintse meg a képeket az ACR-példányban az az acr-tárházlista parancs használatával.
```
az acr repository list --name <MyRegistry> --output table
```

Alkalmazás futtatása és kapcsolat tesztelése

Cserélje le a fájl helyőrzőit pod.yaml a azure-openai-workload-identity mappában.
- Cserélje le <YourContainerImage> a korábban létrehozott kép nevére. Például: <MyRegistry>.azurecr.io/sc-demo-openai-identity:latest.
- Cserélje le <ServiceAccountCreatedByServiceConnector> a Szolgáltatás Csatlakozás or által a kapcsolat létrehozása után létrehozott szolgáltatásfiókra. A szolgáltatásfiók nevét az Azure Portalon, a Szolgáltatás Csatlakozás or panelen ellenőrizheti.
- Cserélje le <SecretCreatedByServiceConnector> a Service Csatlakozás or által a kapcsolat létrehozása után létrehozott titkos kódra. A titkos kód nevét az Azure Portalon, a Szolgáltatás Csatlakozás or panelen ellenőrizheti.
Helyezze üzembe a podot a fürtben a kubectl apply paranccsal, amely létrehoz egy podot sc-demo-openai-identity az AKS-fürt alapértelmezett névterében. Telepítse kubectl helyileg az az aks install-cli paranccsal, ha nincs telepítve.
```
kubectl apply -f pod.yaml
```
Ellenőrizze, hogy az üzembe helyezés sikeres volt-e, ha megtekinti a podot a következővel kubectl: .
```
kubectl get pod/sc-demo-openai-identity
```
Ellenőrizze, hogy létrejött-e a kapcsolat a naplók megtekintésével.kubectl
```
kubectl logs pod/sc-demo-openai-identity
```

Az erőforrások eltávolítása

Ha már nincs szüksége az oktatóanyagban létrehozott erőforrásokra, törölje őket az erőforráscsoport törlésével.

az group delete \
    --resource-group MyResourceGroup

Következő lépések

Az alábbi cikkekből többet is megtudhat a Service Csatlakozás or fogalmairól, valamint arról, hogyan segíti az AKS-t a szolgáltatásokhoz való csatlakozásban.

Tudnivalók a Service Csatlakozás or fogalmairól

A Service Csatlakozás or használata AKS-fürt más felhőszolgáltatásokhoz való csatlakoztatásához

Megosztás a következőn keresztül: