Oktatóanyag: Csatlakozás az Azure OpenAI Service-be az AKS-ben egy kapcsolati sztring (előzetes verzió) használatával

Ebben az oktatóanyagban megtudhatja, hogyan hozhat létre podot egy Azure Kubernetes- (AKS-) fürtben, amely egy kapcsolati sztring használatával kommunikál az Azure OpenAI Szolgáltatással. A következő feladatokat hajtja végre:

• Hozzon létre egy AKS-fürtöt és egy Azure OpenAI-szolgáltatást a modell üzembe helyezésével gpt-4 .
• Hozzon létre kapcsolatot az AKS-fürt és az Azure OpenAI között a Service Csatlakozás or használatával.
• Klónozhat egy mintaalkalmazást, amely egy AKS-fürtből fog beszélni az OpenAI szolgáltatással.
• Helyezze üzembe az alkalmazást egy podon az AKS-fürtben, és tesztelje a kapcsolatot.
• Az erőforrások eltávolítása.

Előfeltételek

• Egy Azure-fiók, aktív előfizetéssel. Fiók ingyenes létrehozása.

• • Használja a Bash-környezetet az Azure Cloud Shellben. További információ: A Bash rövid útmutatója az Azure Cloud Shellben.

    

  • Ha inkább helyi cli-referenciaparancsokat szeretne futtatni, telepítse az Azure CLI-t. Ha Windows vagy macOS rendszert használ, fontolja meg az Azure CLI Docker-tárolóban való futtatását. További információ: Az Azure CLI futtatása Docker-tárolóban.

    • Ha helyi telepítést használ, jelentkezzen be az Azure CLI-be az az login parancs futtatásával. A hitelesítési folyamat befejezéséhez kövesse a terminálon megjelenő lépéseket. További bejelentkezési lehetőségekért lásd : Bejelentkezés az Azure CLI-vel.

    • Amikor a rendszer kéri, először telepítse az Azure CLI-bővítményt. További információ a bővítményekről: Bővítmények használata az Azure CLI-vel.

    • Futtassa az az version parancsot a telepített verzió és a függő kódtárak megkereséséhez. A legújabb verzióra az az upgrade paranccsal frissíthet.

• A Docker és a kubectl tárolólemezképek és Kubernetes-erőforrások kezeléséhez.
• A tárolók és az AKS alapszintű ismerete. Az alkalmazás AKS-hez való előkészítésének első lépései.
• Hozzáférési engedélyek az Azure OpenAI-szolgáltatás erőforrásainak létrehozásához és modellek üzembe helyezéséhez.

Azure-erőforrások létrehozása

1. Hozzon létre egy erőforráscsoportot ehhez az oktatóanyaghoz.

   az group create \
       --name MyResourceGroup \
       --location eastus
   

2. Hozzon létre egy AKS-fürtöt a következő paranccsal, vagy az AKS rövid útmutatójára hivatkozva. Ebben a fürtben hozzuk létre a szolgáltatáskapcsolatot és a poddefiníciót, és helyezzük üzembe a mintaalkalmazást.

   az aks create \
       --resource-group MyResourceGroup \
       --name MyAKSCluster \
       --enable-managed-identity \
       --node-count 1 \
      --generate-ssh-keys
   

3. Csatlakozás a fürthöz az az aks get-credentials paranccsal.

   az aks get-credentials \
       --resource-group MyResourceGroup \
       --name MyAKSCluster
   

4. Hozzon létre egy Azure OpenAI-szolgáltatáserőforrást az az cognitiveservices-fiók létrehozási parancsával. További útmutatásért tekintse meg ezt az oktatóanyagot . Az Azure OpenAI Service az AKS-fürthöz csatlakozni kívánt célszolgáltatás.

   az cognitiveservices account create \
       --resource-group MyResourceGroup \
       --name MyOpenAIService \
       --location eastus \
       --kind OpenAI \
       --sku s0 \
       --custom-domain myopenaiservice \
       --subscription <SubscriptionID>
   

5. Modell üzembe helyezése az az cognitiveservices deployment create paranccsal. A modell a mintaalkalmazásban a kapcsolat tesztelésére szolgál.

   az cognitiveservices account deployment create \
       --resource-group MyResourceGroup \
       --name MyOpenAIService
       --deployment-name MyModel \
       --model-name gpt-4 \
       --model-version 0613 \
       --model-format OpenAI \
       --sku-name "Standard"
       --capacity 1
   

6. Hozzon létre egy Azure Container Registry-erőforrást (ACR) az az acr create paranccsal, vagy hivatkozik erre az oktatóanyagra. A beállításjegyzék tárolja a mintaalkalmazás tárolórendszerképét, amelyet az AKS-poddefiníció használ.

   az acr create \
       --resource-group MyResourceGroup \
       --name myregistry \
       --sku Standard
   

7. Engedélyezze a névtelen lekérést az az acr update paranccsal, hogy az AKS-fürt felhasználhassa a lemezképeket a beállításjegyzékben.

   az acr update \
       --resource-group MyResourceGroup \
       --name myregistry \
       --anonymous-pull-enabled
   

Szolgáltatáskapcsolat létrehozása az AKS-ben a Service Csatlakozás or használatával (előzetes verzió)

Szolgáltatáskapcsolat létrehozása egy AKS-fürt és az Azure OpenAI szolgáltatás között az Azure Portalon vagy az Azure CLI-ben.

Portál

Tekintse meg az AKS szolgáltatás kapcsolatának rövid útmutatójában az új kapcsolat létrehozásának utasításait, és adja meg az alábbi táblázatban szereplő példákra hivatkozó beállításokat. Hagyja meg az összes többi beállítást az alapértelmezett értékekkel.

1. Alapismeretek lap:

   Beállítás	Példaérték	Leírás
   Kubernetes-névtér	alapértelmezett	A Kubernetes-névtér.
   Szolgáltatás típusa	OpenAI szolgáltatás	A célszolgáltatás típusa.
   Kapcsolat neve	openai_conn	Használja a Service Csatlakozás or által megadott kapcsolatnevet, vagy válassza ki a saját kapcsolatnevét.
   Előfizetés	<MySubscription>	Az Azure OpenAI szolgáltatáshoz használt előfizetés.
   OpenAI	<MyOpenAIService>	A cél Azure OpenAI-szolgáltatás, amelyhez csatlakozni szeretne.
   Ügyfél típusa	Python	A célszolgáltatáshoz való csatlakozáshoz használt kódnyelv vagy keretrendszer.

2. Hitelesítés lap:

   Hitelesítési beállítás	Példaérték	Leírás
   Hitelesítés típusa	Kapcsolati sztring	Szolgáltatás Csatlakozás or hitelesítési típusa.

Miután létrejött a kapcsolat, megtekintheti annak részleteit a Szolgáltatás Csatlakozás or panelen.

Azure CLI

Az Azure CLI paranccsal hozzon létre egy szolgáltatáskapcsolatot az Azure OpenAI szolgáltatással, és adja meg a következő információkat:

• Forrás számítási szolgáltatás erőforráscsoportjának neve: az AKS-fürt erőforráscsoportjának neve.
• AKS-fürt neve: a célszolgáltatáshoz csatlakozó AKS-fürt neve.
• Célszolgáltatás erőforráscsoportjának neve: az Azure OpenAI szolgáltatás erőforráscsoportjának neve.
• OpenAI-szolgáltatás neve: a csatlakoztatott Azure OpenAI szolgáltatás.

az aks connection create cognitiveservices --secret

Mintaalkalmazás klónozása

1. Klónozza a mintaadattárat:

   git clone https://github.com/Azure-Samples/serviceconnector-aks-samples.git
   

2. Nyissa meg az Azure OpenAI-adattár mintamappáját:

   cd serviceconnector-aks-samples/azure-openai-connection-string
   

3. Cserélje le a <MyModel> fájl helyőrzőjének app.py nevét az üzembe helyezett modellnévre.

Tárolórendszerképek létrehozása és leküldése

1. Hozza létre és küldje le a lemezképeket a tárolóregisztrációs adatbázisba az Azure CLI az acr build parancsával.

   az acr build --registry <MyRegistry> --image sc-demo-openai-connstr:latest ./
   

2. Tekintse meg a lemezképeket a tárolóregisztrációs adatbázisban az az acr-adattár lista parancsával.

   az acr repository list --name <MyRegistry> --output table
   

Alkalmazás futtatása és kapcsolat tesztelése

1. Cserélje le a fájl helyőrzőit pod.yaml a azure-openai-connection-string mappában.

   • Cserélje le <YourContainerImage> a korábban létrehozott kép nevére. Például: <MyRegistry>.azurecr.io/sc-demo-openai-connstr:latest
   • Cserélje le <SecretCreatedByServiceConnector> a Service Csatlakozás or által létrehozott titkos kódra. A titkos kód nevét az Azure Portalon, a Szolgáltatás Csatlakozás or panelen ellenőrizheti.

2. Helyezze üzembe a podot a fürtben a kubectl apply paranccsal. Telepítse kubectl helyileg az az aks install-cli paranccsal, ha nincs telepítve. A parancs létrehoz egy podot sc-demo-openai-connstr az AKS-fürt alapértelmezett névterében.

   kubectl apply -f pod.yaml
   

3. Ellenőrizze, hogy az üzembe helyezés sikeres-e, ha megtekinti a podot a következővel kubectl: .

   kubectl get pod/sc-demo-openai-connstr
   

4. A naplók megtekintésével kubectlellenőrizze, hogy működik-e a kapcsolat.

   kubectl logs pod/sc-demo-openai-connstr
   

Az erőforrások eltávolítása

Ha már nincs szüksége ezekre az erőforrásokra, törölje az oktatóanyagban létrehozott Azure-erőforrásokat az erőforráscsoport törlésével.

az group delete \
    --resource-group MyResourceGroup

Következő lépések

Az alábbi cikkekből többet is megtudhat a Service Csatlakozás or fogalmairól, valamint arról, hogy hogyan segíti az AKS-t az Azure-szolgáltatásokhoz való csatlakozásban.

Tudnivalók a Service Csatlakozás or fogalmairól

A Service Csatlakozás or használata AKS-fürt más felhőszolgáltatásokhoz való csatlakoztatásához