Menyiapkan kluster AKS di Azure Lokal untuk Pratinjau Edge RAG yang diaktifkan oleh Azure Arc

2025-06-20

Untuk penyebaran EDGE RAG Anda, siapkan kluster AKS di Azure Local dengan membuat kluster, mengonfigurasi kumpulan simpul, dan menginstal driver GPU sesuai kebutuhan. Artikel ini adalah bagian dari daftar pengecekan prasyarat penyebaran.

Penting

Pratinjau RAG Edge, yang diaktifkan oleh Azure Arc saat ini dalam PRATINJAU. Lihat Ketentuan Penggunaan Tambahan untuk Pratinjau Microsoft Azure untuk mengetahui ketentuan hukum yang berlaku untuk fitur Azure yang dalam tahap beta, pratinjau, atau belum dirilis ke ketersediaan umum.

Menyiapkan kluster AKS Anda

Buat kluster Azure Kubernetes Service (AKS) pada instans Azure Local dengan kumpulan simpul yang memenuhi persyaratan minimum.

Membuat kluster AKS Arc

Buat kluster AKS Arc dengan menggunakan salah satu metode berikut:

Portal Microsoft Azure, lihat Cara menyebarkan kluster Kubernetes menggunakan portal Microsoft Azure
Azure CLI, lihat Membuat kluster Kubernetes menggunakan Azure CLI

Menginstal driver GPU yang didukung (opsional)

AKS Arc hanya mendukung GPU Nvidia A2 dan A16. Langkah-langkah berikut hanya berlaku untuk kedua GPU ini.

Jika Anda memiliki GPU yang tersedia di instans Azure Local yang ingin Anda gunakan untuk Edge RAG, pastikan driver GPU yang diperlukan diinstal dan tersedia di node kluster AKS Arc.

Untuk memeriksa apakah driver yang tepat sudah diinstal dan GPU tersedia untuk kluster AKS Arc, jalankan perintah berikut:

(Get-MocNode -location MocLocation).properties.statuses.Info`

Jika output mencantumkan semua GPU yang tersedia di kluster Azure Local, Anda dapat berpindah ke langkah berikutnya. Jika tidak, selesaikan langkah-langkah berikut pada salah satu simpul kluster Azure Local untuk mengaktifkan GPU.

Sebaiknya gunakan skrip di Mengaktifkan GPU pada AKS di Azure ARC - sampel untuk mengaktifkan GPU untuk digunakan oleh Edge RAG.

Secara bergantian, Anda dapat mengikuti instruksi dalam Menggunakan GPU untuk beban kerja intensif komputasi dan memastikan Anda memenuhi persyaratan perangkat keras minimum untuk mode GPU. Jika Anda mengikuti instruksi ini, Anda perlu menjalankan perintah berikut pada setiap host Hyper-V di kluster Azure Local:

Restart-Service wssdagent -Force -Verbose 
Start-sleep 60
(Get-MocNode -location MocLocation).properties.statuses.Info

Pastikan bahwa semua GPU yang tersedia di semua simpul tercantum dalam output perintah.

Mengonfigurasi komputer untuk mengelola kluster Kubernetes dengan dukungan Azure Arc (opsional)

Jika Anda ingin mengelola kluster Kubernetes dari komputer di luar host Lokal Azure, siapkan komputer dengan alat berikut:

Azure CLI (antarmuka baris perintah Azure)
Ekstensi Azure CLI aksarc dan Kubernetes-extension
kubectl
Helmet

Komputer driver ini harus dapat terhubung ke kluster Kubernetes pada jaringan.

Untuk menyiapkan komputer Windows untuk mengelola kluster Kubernetes, lihat Skrip untuk mengonfigurasi komputer untuk mengelola kluster Kubernetes dengan dukungan Azure Arc.

Membuat kumpulan simpul untuk kluster AKS Arc

Untuk membuat kumpulan simpul untuk AKS Arc, selesaikan langkah-langkah berikut dari komputer driver.

Masuk ke Azure dengan menggunakan Azure CLI: az login.

Buat kumpulan simpul.

Jika GPU tersedia:

Anda harus membuat kumpulan node setidaknya tiga mesin virtual CPU, dengan ukuran minimal "Standard_D8s_v3". Jalankan perintah berikut:

   $cpuPoolName = "<CPU Pool Name>"
   $gpuPoolName = "<GPU Pool Name>"
   $gpuVmSku = "Standard_NC8_A2" #Can also use Standard_NC8_A16
   $cpuVmSku = "Standard_D8s_v3"
   $rg = "<Resource Group name>"
   $cpuNodeCount = 3
   $gpuNodeCount = 3

   az aksarc nodepool add --name $cpuPoolName --cluster-name $k8scluster -g $rg --node-count $cpuNodeCount --node-vm-size $cpuVmSku

Anda harus membuat kumpulan node setidaknya tiga VM GPU, dengan ukuran minimal "Standard_NC8_A2" atau "Standard_NC8_A16". Jalankan perintah berikut:
```
   az aksarc nodepool add --name $gpuPoolName --cluster-name $k8scluster -g $rg --node-count $gpuNodeCount  --node-vm-size $gpuVmSku
```

Jika hanya CPU yang tersedia, Anda harus membuat kumpulan simpul setidaknya enam VM CPU, dengan ukuran minimal "Standard_D8s_v3". Jalankan perintah berikut:

$cpuPoolName = "<CPU Pool Name>"
$cpuVmSku = "Standard_D8s_v3"
$rg = "<Resource Group name>"
$cpuNodeCount = 6
$k8scluster = "<AKS Arc Cluster>"
az aksarc nodepool add --name $cpuPoolName --cluster-name $k8scluster -g $rg --node-count $cpuNodeCount --node-vm-size $cpuVmSku

Untuk informasi selengkapnya, lihat Membuat kumpulan simpul untuk kluster di Azure Kubernetes Service (AKS).

Langkah selanjutnya

Mengonfigurasi autentikasi