Azure Arc tarafından etkinleştirilen Edge için Azure Yerel RAG Önizlemesi üzerinde AKS kümesini hazırlama

Edge RAG dağıtımınız için kümeyi oluşturarak, düğüm havuzlarını yapılandırarak ve gerektiğinde GPU sürücülerini yükleyerek Azure Yerel'de bir AKS kümesi hazırlayın. Bu makale, dağıtım önkoşulları denetim listesinin bir parçasıdır.

Önemli

Azure Arc tarafından etkinleştirilen Edge RAG Önizlemesi şu anda ÖNIZLEME aşamasındadır. Beta veya önizleme aşamasında olan ya da başka bir şekilde henüz genel kullanıma sunulmamış olan Azure özelliklerinde geçerli olan yasal koşullar için bkz. Microsoft Azure Önizlemeleri için Ek Kullanım Koşulları.

AKS kümenizi hazırlama

Azure Yerel örneğinde en düşük gereksinimleri karşılayan bir düğüm havuzuyla bir Azure Kubernetes Service (AKS) kümesi oluşturun.

AKS Arc kümesi oluşturma

Aşağıdaki yöntemlerden birini kullanarak AKS Arc kümesi oluşturun:

• Azure portalı, bkz. Azure portalını kullanarak Kubernetes kümesi dağıtma

• Azure CLI, bkz. Azure CLI kullanarak Kubernetes kümeleri oluşturma

Desteklenen GPU sürücülerini yükleme (isteğe bağlı)

AKS Arc yalnızca Nvidia A2 ve A16 GPU'larını destekler. Aşağıdaki adımlar yalnızca bu iki GPU için geçerlidir.

Azure Yerel örneğinizde Edge RAG için kullanmak istediğiniz GPU'larınız varsa, AKS Arc kümesi düğümlerinde gerekli GPU sürücülerinin yüklü ve kullanılabilir olduğundan emin olun.

Doğru sürücülerin zaten yüklü olup olmadığını ve GPU'ların AKS Arc kümesinde kullanılabilir olup olmadığını denetlemek için aşağıdaki komutu çalıştırın:

(Get-MocNode -location MocLocation).properties.statuses.Info`

Çıkışta Azure Yerel kümesinde kullanılabilir olan tüm GPU'lar listelenirse sonraki adıma geçebilirsiniz. Aksi takdirde, GPU'ları etkinleştirmek için azure yerel küme düğümlerinden herhangi birinde aşağıdaki adımları tamamlayın.

Edge RAG tarafından kullanılmak üzere GPU’ları etkinleştirmek için Azure ARC üzerinde AKS’de GPU’yu Etkinleştirme - örnek dosyasındaki betiği kullanmanızı öneririz.

Alternatif olarak, yoğun işlem gerektiren iş yükleri için GPU kullanma başlığındaki yönergeleri izleyebilir ve GPU modu için en düşük donanım gereksinimlerini karşıladığınızdan emin olabilirsiniz. Bu yönergeleri izlerseniz, Azure Yerel kümesindeki her Hyper-V konasında aşağıdaki komutu çalıştırmanız gerekir:

Restart-Service wssdagent -Force -Verbose 
Start-sleep 60
(Get-MocNode -location MocLocation).properties.statuses.Info

Tüm düğümlerde kullanılabilen tüm GPU'ların komutun çıkışında listelenmiş olduğundan emin olun.

Azure Arc özellikli Kubernetes kümelerini yönetmek için makineyi yapılandırma (isteğe bağlı)

Kubernetes kümelerini Azure Yerel konağı dışındaki bir makineden yönetmek istiyorsanız, aşağıdaki araçlarla bir makine ayarlayın:

• Azure Komut Satırı Arayüzü (Azure CLI)
• Azure CLI uzantıları aksarc ve Kubernetes-extension
• kubectl
• Dümen

Bu sürücü makinesinin ağdaki Kubernetes kümesine bağlanabilmesi gerekir.

Kubernetes kümelerinizi yönetmek üzere bir Windows makinesi ayarlamak için bkz. Azure Arc özellikli Kubernetes kümesini yönetmek üzere makineyi yapılandırmak için betik.

AKS Arc kümesi için düğüm havuzları oluşturma

AKS Arc için düğüm havuzu oluşturmak için sürücü makinesinden aşağıdaki adımları tamamlayın.

1. Azure CLI kullanarak Azure'da oturum açın: az login.

2. Düğüm havuzunu oluşturun.

   GPU'lar varsa:

   • En az "Standard_D8s_v3" boyutuna sahip en az üç CPU sanal makinesinden (VM) oluşan bir düğüm havuzu oluşturmanız gerekir. Aşağıdaki komutu çalıştırın:

        $cpuPoolName = "<CPU Pool Name>"
        $gpuPoolName = "<GPU Pool Name>"
        $gpuVmSku = "Standard_NC8_A2" #Can also use Standard_NC8_A16
        $cpuVmSku = "Standard_D8s_v3"
        $rg = "<Resource Group name>"
        $cpuNodeCount = 3
        $gpuNodeCount = 3
     
        az aksarc nodepool add --name $cpuPoolName --cluster-name $k8scluster -g $rg --node-count $cpuNodeCount --node-vm-size $cpuVmSku
     

   • En az "Standard_NC8_A2" veya "Standard_NC8_A16" boyutuna sahip en az üç GPU VM'lerinden oluşan bir düğüm havuzu oluşturmanız gerekir. Aşağıdaki komutu çalıştırın:

        az aksarc nodepool add --name $gpuPoolName --cluster-name $k8scluster -g $rg --node-count $gpuNodeCount  --node-vm-size $gpuVmSku
     

   Yalnızca CPU'lar kullanılıyorsa, en az "Standard_D8s_v3" boyutuna sahip en az altı CPU sanal makinesinden oluşan bir düğüm havuzu oluşturmanız gerekir. Aşağıdaki komutu çalıştırın:

   $cpuPoolName = "<CPU Pool Name>"
   $cpuVmSku = "Standard_D8s_v3"
   $rg = "<Resource Group name>"
   $cpuNodeCount = 6
   $k8scluster = "<AKS Arc Cluster>"
   az aksarc nodepool add --name $cpuPoolName --cluster-name $k8scluster -g $rg --node-count $cpuNodeCount --node-vm-size $cpuVmSku
   

Daha fazla bilgi için bkz. Azure Kubernetes Service'te (AKS) küme için düğüm havuzları oluşturma.

Sonraki adım

Kimlik doğrulamasını yapılandırma