Preparar o cluster AKS no Azure Local para o Edge RAG Preview habilitado pelo Azure Arc

Para sua implantação do Edge RAG, prepare um cluster AKS no Azure Local criando o cluster, configurando pools de nós e instalando drivers de GPU conforme necessário. Este artigo faz parte da lista de verificação de pré-requisitos de implantação.

Importante

A Pré-visualização do Edge RAG, ativada pelo Azure Arc, está atualmente em Pré-visualização. Consulte os Termos de Utilização Complementares das Visualizações Prévias do Microsoft Azure para obter os termos legais que se aplicam às funcionalidades do Azure que estão em beta, em pré-visualização ou que ainda não foram lançadas para disponibilidade geral.

Prepare seu cluster AKS

Crie um cluster do Serviço Kubernetes do Azure (AKS) na instância Local do Azure com um pool de nós que atenda aos requisitos mínimos.

Criar um cluster AKS Arc

Crie um cluster AKS Arc usando um dos seguintes métodos:

• Portal do Azure, consulte Como implantar um cluster Kubernetes usando o portal do Azure

• CLI do Azure, consulte Criar clusters Kubernetes usando a CLI do Azure

Instalar drivers de GPU suportados (opcional)

O AKS Arc suporta apenas GPUs Nvidia A2 e A16. As etapas a seguir são aplicáveis somente a essas duas GPUs.

Se você tiver GPUs disponíveis em sua instância Local do Azure que deseja usar para Edge RAG, certifique-se de que os drivers de GPU necessários estejam instalados e disponíveis nos nós de cluster AKS Arc.

Para verificar se os drivers corretos já estão instalados e as GPUs estão disponíveis para o cluster AKS Arc, execute o seguinte comando:

(Get-MocNode -location MocLocation).properties.statuses.Info`

Se a saída listar todas as GPUs disponíveis no cluster Local do Azure, você poderá passar para a próxima etapa. Caso contrário, conclua as etapas a seguir em qualquer um dos nós de cluster Local do Azure para habilitar GPUs.

Recomendamos utilizar o script no exemplo "Habilitar GPU no AKS no Azure ARC" para ativar GPUs para uso pelo Edge RAG.

Como alternativa, você pode seguir as instruções em Usar GPUs para cargas de trabalho de computação intensiva e garantir que atenda aos requisitos mínimos de hardware para o modo GPU. Se você seguir estas instruções, precisará executar o seguinte comando em cada host Hyper-V no cluster Local do Azure:

Restart-Service wssdagent -Force -Verbose 
Start-sleep 60
(Get-MocNode -location MocLocation).properties.statuses.Info

Certifique-se de que todas as GPUs disponíveis em todos os nós estão listadas na saída do comando.

Configurar a máquina para gerenciar clusters Kubernetes habilitados para Azure Arc (opcional)

Se você quiser gerenciar os clusters do Kubernetes de uma máquina fora do host Local do Azure, configure uma máquina com as seguintes ferramentas:

• Azure CLI (Interface de Linha de Comando da Azure)
• Extensões do Azure CLI aksarc e Kubernetes-extension
• Kubectl
• Leme

** Essa máquina controladora deve ser capaz de se conectar ao cluster Kubernetes na rede local.

Para configurar uma máquina Windows para gerenciar seus clusters Kubernetes, consulte o Script para configurar a máquina para gerenciar o cluster Kubernetes habilitado para Azure Arc.

Criar pools de nós para o cluster AKS Arc

Para criar um pool de nós para o AKS Arc, conclua as etapas a seguir na máquina anfitriã.

1. Entre no Azure usando a CLI do Azure: az login.

2. Crie o pool de nós.

   Se as GPUs estiverem disponíveis:

   • Você deve criar um pool de nós de pelo menos três máquinas virtuais (VMs) de CPU, com tamanho mínimo de "Standard_D8s_v3". Execute o seguinte comando:

        $cpuPoolName = "<CPU Pool Name>"
        $gpuPoolName = "<GPU Pool Name>"
        $gpuVmSku = "Standard_NC8_A2" #Can also use Standard_NC8_A16
        $cpuVmSku = "Standard_D8s_v3"
        $rg = "<Resource Group name>"
        $cpuNodeCount = 3
        $gpuNodeCount = 3
     
        az aksarc nodepool add --name $cpuPoolName --cluster-name $k8scluster -g $rg --node-count $cpuNodeCount --node-vm-size $cpuVmSku
     

   • Você deve criar um pool de nós de pelo menos três VMs GPU, com tamanho mínimo de "Standard_NC8_A2" ou "Standard_NC8_A16". Execute o seguinte comando:

        az aksarc nodepool add --name $gpuPoolName --cluster-name $k8scluster -g $rg --node-count $gpuNodeCount  --node-vm-size $gpuVmSku
     

   Se apenas CPUs estiverem disponíveis, você deverá criar um pool de nós de pelo menos seis VMs de CPU, com tamanho mínimo de "Standard_D8s_v3". Execute o seguinte comando:

   $cpuPoolName = "<CPU Pool Name>"
   $cpuVmSku = "Standard_D8s_v3"
   $rg = "<Resource Group name>"
   $cpuNodeCount = 6
   $k8scluster = "<AKS Arc Cluster>"
   az aksarc nodepool add --name $cpuPoolName --cluster-name $k8scluster -g $rg --node-count $cpuNodeCount --node-vm-size $cpuVmSku
   

Para obter mais informações, consulte Criar pools de nós para um cluster no Serviço Kubernetes do Azure (AKS).

Próximo passo

Configurar a autenticação