Säker åtkomst till Azure OpenAI från Azure Kubernetes Service (AKS)

I den här artikeln får du lära dig hur du skyddar åtkomsten till Azure OpenAI från Azure Kubernetes Service (AKS) med Microsoft Entra Workload ID. Du lär dig att:

  • Aktivera arbetsbelastningsidentiteter i ett AKS-kluster.
  • Skapa en azure-användartilldelad hanterad identitet.
  • Skapa en federerad autentiseringsuppgift för Microsoft Entra ID.
  • Aktivera arbetsbelastningsidentitet på en Kubernetes-podd.

Anteckning

Vi rekommenderar att du använder Microsoft Entra-arbetsbelastnings-ID och hanterade identiteter på AKS för Azure OpenAI-åtkomst eftersom det möjliggör en säker, lösenordsfri autentiseringsprocess för åtkomst till Azure-resurser.

Innan du börjar

Förutsättningar

Aktivera Microsoft Entra-arbetsbelastnings-ID i ett AKS-kluster

Microsoft Entra-arbetsbelastnings-ID och OIDC-utfärdarens slutpunktsfunktioner är inte aktiverade på AKS som standard. Du måste aktivera dem i ditt AKS-kluster innan du kan använda dem.

  1. Ange resursgruppens namn och AKS-klusterresursgruppens namnvariabler.

    # Set the resource group variable
    RG_NAME=myResourceGroup
    
    # Set the AKS cluster name based on the resource group variable
    AKS_NAME=$(az resource list --resource-group $RG_NAME --resource-type Microsoft.ContainerService/managedClusters --query "[0].name" -o tsv)
    
  2. Aktivera Microsoft Entra-arbetsbelastnings-ID och funktionerna för OIDC-utfärdarens slutpunkt i ditt befintliga AKS-kluster med hjälp av kommandot az aks update.

    az aks update \
        --resource-group $RG_NAME \
        --name $AKS_NAME \
        --enable-workload-identity \
        --enable-oidc-issuer
    
  3. Hämta AKS OIDC-utfärdarens slutpunkts-URL med kommandot az aks show.

    AKS_OIDC_ISSUER=$(az aks show --resource-group $RG_NAME --name $AKS_NAME --query "oidcIssuerProfile.issuerUrl" -o tsv)
    

Skapa en azure-användartilldelad hanterad identitet

  1. Skapa en azure-användartilldelad hanterad identitet med hjälp av az identity create kommandot .

    # Set the managed identity name variable
    MANAGED_IDENTITY_NAME=myIdentity
    
    # Create the managed identity
    az identity create \
        --resource-group $RG_NAME \
        --name $MANAGED_IDENTITY_NAME
    
  2. Hämta klient-ID och objekt-ID för hanterad identitet med kommandot az identity show .

    # Get the managed identity client ID
    MANAGED_IDENTITY_CLIENT_ID=$(az identity show --resource-group $RG_NAME --name $MANAGED_IDENTITY_NAME --query clientId -o tsv)
    
    # Get the managed identity object ID
    MANAGED_IDENTITY_OBJECT_ID=$(az identity show --resource-group $RG_NAME --name $MANAGED_IDENTITY_NAME --query principalId -o tsv)
    
  3. Hämta Azure OpenAI-resurs-ID:t med hjälp av az resource list kommandot .

    AOAI_RESOURCE_ID=$(az resource list --resource-group $RG_NAME --resource-type Microsoft.CognitiveServices/accounts --query "[0].id" -o tsv)
    
  4. Ge den hanterade identiteten åtkomst till resursen Azure OpenAI med hjälp av az role assignment create-kommandot.

    az role assignment create \
        --role "Cognitive Services OpenAI User" \
        --assignee-object-id $MANAGED_IDENTITY_OBJECT_ID \
        --assignee-principal-type ServicePrincipal \
        --scope $AOAI_RESOURCE_ID
    

Skapa en federerad autentiseringsuppgift för Microsoft Entra-ID

  1. Ange variablerna federerad autentiseringsuppgift, namnrymd och tjänstkonto.

    # Set the federated credential name variable
    FEDERATED_CREDENTIAL_NAME=myFederatedCredential
    
    # Set the namespace variable
    SERVICE_ACCOUNT_NAMESPACE=default
    
    # Set the service account variable
    SERVICE_ACCOUNT_NAME=ai-service-account
    
  2. Skapa federerade autentiseringsuppgifter med kommandot az identity federated-credential create .

    az identity federated-credential create \
        --name ${FEDERATED_CREDENTIAL_NAME} \
        --resource-group ${RG_NAME} \
        --identity-name ${MANAGED_IDENTITY_NAME} \
        --issuer ${AKS_OIDC_ISSUER} \
        --subject system:serviceaccount:${SERVICE_ACCOUNT_NAMESPACE}:${SERVICE_ACCOUNT_NAME}
    

Använd Microsoft Entra-arbetsbelastnings-ID på AKS

Om du vill använda Microsoft Entra-arbetsbelastnings-ID på AKS måste du göra några ändringar i distributionsmanifestet ai-service .

Skapa ett ServiceAccount

  1. Hämta kubeconfig för klustret med kommandot az aks get-credentials .

    az aks get-credentials \
        --resource-group $RG_NAME \
        --name $AKS_NAME
    
  2. Skapa en Kubernetes ServiceAccount med kommandot kubectl apply .

    kubectl apply -f - <<EOF
    apiVersion: v1
    kind: ServiceAccount
    metadata:
      annotations:
        azure.workload.identity/client-id: ${MANAGED_IDENTITY_CLIENT_ID}
      name: ${SERVICE_ACCOUNT_NAME}
      namespace: ${SERVICE_ACCOUNT_NAMESPACE}
    EOF
    

Aktivera Microsoft Entra Workload-ID på podden

  1. Ange variablerna Azure OpenAI-resursnamn, slutpunkt och distributionsnamn.

    # Get the Azure OpenAI resource name
    AOAI_NAME=$(az resource list \
      --resource-group $RG_NAME \
      --resource-type Microsoft.CognitiveServices/accounts \
      --query "[0].name" -o tsv)
    
    # Get the Azure OpenAI endpoint
    AOAI_ENDPOINT=$(az cognitiveservices account show \
      --resource-group $RG_NAME \
      --name $AOAI_NAME \
      --query properties.endpoint -o tsv)
    
    # Get the Azure OpenAI deployment name
    AOAI_DEPLOYMENT_NAME=$(az cognitiveservices account deployment list  \
      --resource-group $RG_NAME \
      --name $AOAI_NAME \
      --query "[0].name" -o tsv)
    
  2. Distribuera om ai-service med ServiceAccount och annoteringen azure.workload.identity/use inställd på true, med hjälp av kommandot kubectl apply.

    kubectl apply -f - <<EOF
    apiVersion: apps/v1
    kind: Deployment
    metadata:
      name: ai-service
    spec:
      replicas: 1
      selector:
        matchLabels:
          app: ai-service
      template:
        metadata:
          labels:
            app: ai-service
            azure.workload.identity/use: "true"
        spec:
          serviceAccountName: $SERVICE_ACCOUNT_NAME
          nodeSelector:
            "kubernetes.io/os": linux
          containers:
          - name: ai-service
            image: ghcr.io/azure-samples/aks-store-demo/ai-service:latest
            ports:
            - containerPort: 5001
            env:
            - name: USE_AZURE_OPENAI
              value: "True"
            - name: USE_AZURE_AD
              value: "True"
            - name: AZURE_OPENAI_DEPLOYMENT_NAME
              value: "${AOAI_DEPLOYMENT_NAME}"
            - name: AZURE_OPENAI_ENDPOINT
              value: "${AOAI_ENDPOINT}"
            resources:
              requests:
                cpu: 20m
                memory: 50Mi
              limits:
                cpu: 50m
                memory: 128Mi
    EOF
    

Testa programmet

  1. Kontrollera att den nya podden körs med kommandot kubectl get pods .

    kubectl get pods --selector app=ai-service
    
  2. Hämta miljövariablerna för poddar med hjälp av kubectl describe pod kommandot . Utdata visar att Azure OpenAI API-nyckeln inte längre finns i poddens miljövariabler.

    kubectl describe pod --selector app=ai-service
    
  3. Öppna en ny terminal och hämta IP-adressen för butiksadministratörstjänsten med hjälp av följande echo kommando.

    echo "http://$(kubectl get svc/store-admin -o jsonpath='{.status.loadBalancer.ingress[0].ip}')"
    
  4. Öppna en webbläsare och gå till IP-adressen från föregående steg.

  5. Välj produkter. Du bör kunna lägga till en ny produkt och få en beskrivning av den med hjälp av Azure OpenAI.

Nästa steg

I den här artikeln har du lärt dig hur du skyddar åtkomsten till Azure OpenAI från Azure Kubernetes Service (AKS) med Microsoft Entra Workload ID.

Mer information om Microsoft Entra-arbetsbelastnings-ID finns i Microsoft Entra-arbetsbelastnings-ID.