Nota
L'accesso a questa pagina richiede l'autorizzazione. È possibile provare ad accedere o modificare le directory.
L'accesso a questa pagina richiede l'autorizzazione. È possibile provare a modificare le directory.
Questa esercitazione illustra come connettere le applicazioni del servizio Azure Kubernetes ad Azure OpenAI usando Service Connector con l'autenticazione dell'identità del carico di lavoro. Si stabiliranno connessioni senza credenziali distribuendo un'applicazione Python di esempio che comunica con Azure OpenAI.
Verranno completate le attività seguenti:
- Creare un cluster del servizio Azure Kubernetes e una risorsa OpenAI di Azure con il modello GPT-4
- Configurare Service Connector per stabilire la connessione con l'identità del carico di lavoro
- Clonare un'applicazione di esempio
- Compilare ed eseguire il push di immagini del contenitore in Registro Azure Container
- Distribuire l'applicazione nel servizio Azure Kubernetes e verificare la connessione
- Pulire le risorse
Prerequisiti
- Un account Azure con una sottoscrizione attiva. Creare un account gratuitamente.
-
Usare l'ambiente Bash in Azure Cloud Shell. Per altre informazioni, vedere Introduzione ad Azure Cloud Shell.
Se si preferisce eseguire i comandi di riferimento dell'interfaccia della riga di comando in locale, installare l'interfaccia della riga di comando di Azure. Per l'esecuzione in Windows o macOS, è consigliabile eseguire l'interfaccia della riga di comando di Azure in un contenitore Docker. Per altre informazioni, vedere Come eseguire l'interfaccia della riga di comando di Azure in un contenitore Docker.
Se si usa un'installazione locale, accedere all'interfaccia della riga di comando di Azure con il comando az login. Per completare il processo di autenticazione, seguire la procedura visualizzata nel terminale. Per altre opzioni di accesso, vedere Eseguire l'autenticazione ad Azure con l'interfaccia della riga di comando di Azure.
Quando richiesto, al primo utilizzo installare l'estensione dell'interfaccia della riga di comando di Azure. Per altre informazioni sulle estensioni, vedere Usare e gestire le estensioni con l'interfaccia della riga di comando di Azure.
Eseguire az version per trovare la versione e le librerie dipendenti installate. Per eseguire l'aggiornamento alla versione più recente, eseguire az upgrade.
- Docker e kubectl per gestire le immagini del contenitore e le risorse kubernetes.
- Conoscenza di base dei contenitori e del servizio Azure Kubernetes. Iniziare dalla preparazione di un'applicazione per il servizio Azure Kubernetes.
- Autorizzazioni di accesso per creare risorse OpenAI di Azure e distribuire modelli.
Creare risorse di Azure OpenAI e servizio Azure Kubernetes
Per iniziare questa esercitazione, creare diverse risorse di Azure.
Creare un gruppo di risorse per questa esercitazione.
az group create \ --name MyResourceGroup \ --location eastusCreare un cluster del servizio Azure Kubernetes con il comando seguente oppure facendo riferimento alla guida introduttiva Avvio rapido servizio Azure Kubernetes. In questa esercitazione viene creata la connessione al servizio e la definizione del pod e viene distribuita l'applicazione di esempio in questo cluster.
az aks create \ --resource-group MyResourceGroup \ --name MyAKSCluster \ --enable-managed-identity \ --node-count 1 \ --generate-ssh-keysConnettersi al cluster servizio Azure Kubernetes usando il comando az servizio Azure Kubernetes get-credentials.
az aks get-credentials \ --resource-group MyResourceGroup \ --name MyAKSClusterCreare una risorsa OpenAI di Azure usando il comando az cognitiveservices account create . Facoltativamente, fare riferimento a questa esercitazione per altre istruzioni. Azure OpenAI è il servizio di destinazione a cui si connetterà il cluster del servizio Azure Kubernetes.
az cognitiveservices account create \ --resource-group MyResourceGroup \ --name MyOpenAI \ --location eastus \ --kind OpenAI \ --sku s0 \ --custom-domain myopenai \ --subscription <SubscriptionID>Distribuire un modello con il comando az cognitiveservices deployment create . Il modello viene usato nell'applicazione di esempio per testare la connessione.
az cognitiveservices account deployment create \ --resource-group MyResourceGroup \ --name MyOpenAI \ --deployment-name MyModel \ --model-name gpt-4 \ --model-version 0613 \ --model-format OpenAI \ --sku-name "Standard" \ --capacity 1Creare un Registro Azure Container per archiviare l'applicazione di esempio in contenitori. Usare il comando az acr create o fare riferimento a questa esercitazione.
az acr create \ --resource-group MyResourceGroup \ --name myregistry \ --sku StandardAbilitare il pull anonimo usando il comando az acr update in modo che il cluster del servizio Azure Kubernetes possa usare le immagini nel Registro di sistema.
az acr update \ --resource-group MyResourceGroup \ --name myregistry \ --anonymous-pull-enabledCreare un'identità gestita assegnata dall'utente con il comando az identity create o facendo riferimento a questa esercitazione. Quando viene creata la connessione, l'identità gestita assegnata dall'utente viene usata per abilitare l'identità del carico di lavoro per i carichi di lavoro del servizio Azure Kubernetes.
az identity create \ --resource-group MyResourceGroup \ --name MyIdentity
Creare una connessione al servizio dal servizio Azure Kubernetes ad Azure OpenAI
Creare una connessione al servizio tra un cluster del servizio Azure Kubernetes e Azure OpenAI nel portale di Azure o nell'interfaccia della riga di comando di Azure.
Per istruzioni su come creare una nuova connessione e compilare le impostazioni che fanno riferimento agli esempi nella tabella seguente, vedere la guida introduttiva all’avvio rapido della connessione al servizio Azure Kubernetes. Per tutte le altre impostazioni lasciare i valori predefiniti.
Scheda Generale:
Impostazione Valore di esempio Descrizione Spazio dei nomi Kubernetes default Spazio dei nomi Kubernetes. Tipo di servizio Servizio OpenAI Tipo di servizio di destinazione. Nome connessione openai_conn Usare il nome della connessione fornito dal connettore di servizi o selezionare il proprio nome di connessione. Abbonamento Sottoscrizione personale Sottoscrizione di Azure contenente la risorsa OpenAI di Azure. OpenAI MyOpenAI La risorsa OpenAI di Azure di destinazione a cui ci si vuole connettere. Tipo client Python Linguaggio di programmazione o framework per la configurazione della connessione. Scheda Authentication (Autenticazione):
| impostazione di autenticazione | Valore di esempio | Descrizione |
|---|---|---|
| Tipo di autenticazione | Identità del carico di lavoro | Metodo di autenticazione per connettere l'app ad Azure OpenAI. L'identità del carico di lavoro è consigliata per una maggiore sicurezza. I metodi alternativi includono la stringa di connessione e l'entità servizio e richiedono considerazioni sulla gestione delle credenziali. |
| Abbonamento | Sottoscrizione personale | Sottoscrizione che contiene l'identità gestita assegnata dall'utente. |
| Identità gestita assegnata dall'utente | myidentity | Identità gestita assegnata dall'utente che abilita l'autenticazione dell'identità del carico di lavoro per il cluster del servizio Azure Kubernetes. |
Dopo aver creato la connessione, è possibile visualizzarne i dettagli nel riquadro Connettore di servizi .
Clonare un'applicazione di esempio Python
Clonare il repository di esempio:
git clone https://github.com/Azure-Samples/serviceconnector-aks-samples.gitPassare alla cartella di esempio del repository per Azure OpenAI:
cd serviceconnector-aks-samples/azure-openai-workload-identitySostituire il
<MyModel>segnaposto nelapp.pyfile con il nome del modello distribuito.
Compilare ed eseguire il push di immagini del contenitore in Registro Azure Container
Compilare ed eseguire il push delle immagini nel registro contenitori usando il comando az acr build dell'interfaccia della riga di comando di Azure.
az acr build --registry myregistry --image sc-demo-openai-identity:latest ./Visualizzare le immagini nel registro contenitori usando il comando az acr repository list .
az acr repository list --name myregistry --output table
Distribuire e testare il servizio Azure Kubernetes nella connessione OpenAI di Azure
Sostituire i segnaposto nel file
pod.yamlnella cartellaazure-openai-workload-identity.- Sostituire
<YourContainerImage>con il nome dell'immagine creata in precedenza. Ad esempio,<myregistry>.azurecr.io/<sc-demo-openai-identity>:<latest>. - Sostituire
<ServiceAccountCreatedByServiceConnector>con il nome dell'account del servizio. È disponibile nel portale di Azure nel riquadro Connettore di servizi . - Sostituire
<SecretCreatedByServiceConnector>con il nome del segreto. È disponibile nel portale di Azure nel riquadro Connettore di servizi .
- Sostituire
Distribuire il pod nel cluster con il comando
kubectl apply, che crea un pod denominatosc-demo-openai-identitynello spazio dei nomi predefinito del cluster del servizio Azure Kubernetes. Per installarekubectlin locale, usare il comando az aks install-cli se non è installato.kubectl apply -f pod.yamlControllare se la distribuzione ha avuto esito positivo visualizzando il pod con
kubectl.kubectl get pod/sc-demo-openai-identityVerificare che la connessione venga stabilita visualizzando i log con
kubectl.kubectl logs pod/sc-demo-openai-identity
Pulire le risorse
Se le risorse create in questa esercitazione non sono più necessarie, eliminarle eliminando il gruppo di risorse.
az group delete \
--resource-group MyResourceGroup