Azure altyapısında yapay zeka için işlem önerileri

Bu makalede, Azure altyapısında yapay zeka iş yükleri çalıştıran kuruluşlar için işlem önerileri sağlanır. Tercih edilen yaklaşım, Azure hizmet olarak yapay zeka platformu (PaaS) çözümleri ile yapay zeka benimsemenizi başlatmaktır. Ancak Azure GPU'lara erişiminiz varsa Azure altyapısında yapay zeka iş yüklerini çalıştırmak için bu kılavuzu izleyin.

Yapay zeka iş yükleri, yüksek hesaplama taleplerini ve büyük ölçekli veri işlemeyi işlemek için özelleştirilmiş sanal makinelere (VM) ihtiyaç duyar. Doğru VM'lerin seçilmesi kaynak kullanımını iyileştirir ve yapay zeka modeli geliştirme ve dağıtımını hızlandırır. Aşağıdaki tabloda önerilen işlem seçeneklerine genel bir bakış sağlanmaktadır.

Yapay zeka aşaması	Sanal Makine Görüntüsü	Üretici AI	Yaratıcı olmayan yapay zeka (karmaşık modeller)	Yaratıcı olmayan yapay zeka (küçük modeller)
Yapay zeka modellerini eğitin	Veri Bilimi Sanal Makinesi	GPU (ND ailesi tercih edilmeli. Alternatif olarak, ethernet ile birbirine bağlı VM'ler kullanarak NC ailesi tercih edilebilir)	GPU (ND ailesi tercih edilmeli. Alternatif olarak, ethernet ile birbirine bağlı VM'ler kullanarak NC ailesi tercih edilebilir)	Bellek için optimize edilmiş (CPU)
Yapay zeka modellerini çıkarım	Veri Bilimi Sanal Makinesi	GPU (NC veya ND ailesi)	GPU (NC veya ND ailesi)	Hesaplama için optimize edilmiş (CPU)

Doğru sanal makine görüntüsünü seçin

Yapay zeka iş yükleri için önceden yapılandırılmış araçlara hızla erişmek için Veri Bilimi Sanal Makineler gibi uygun bir sanal makine görüntüsü seçin. Bu seçenek zaman ve kaynak tasarrufu sağlarken, verimli yapay zeka işleme için gerekli yazılımı sağlar.

• Veri Bilimi Sanal Makineler görüntüleriyle başlayın. Veri Bilimi Sanal Makinesi görüntüsü, veri bilimi araçlarına önceden yapılandırılmış erişim sağlar. Bu araçlar PyTorch, TensorFlow, scikit-learn, Jupyter, Visual Studio Code, Azure CLI ve PySpark'tır. GPU'larla kullanıldığında görüntüde Nvidia sürücüleri, CUDA Toolkit ve cuDNN de bulunur. Bu görüntüler temel görüntünüz olarak görev görür. Daha fazla yazılıma ihtiyacınız varsa, önyükleme zamanında bir betik aracılığıyla ekleyin veya özel bir görüntüye ekleyin. Orkestrasyon çözümünüzle uyumluluğu korur.

• Gerektiğinde alternatif görüntüler bulun. Veri Bilimi Sanal Makinesi görüntü gereksinimlerinizi karşılamıyorsa alternatif görüntüleri bulmak için Microsoft Marketplace veya diğer arama methods kullanın. Örneğin GPU'larda InfiniBand sürücüleri, NVIDIA sürücüleri, iletişim kitaplıkları, MPI kitaplıkları ve izleme araçlarını içeren Linux görüntülerine ihtiyacınız olabilir.

Sanal makine boyutu seçme

Uygun bir sanal makine boyutu seçmek yapay zeka modelinizin karmaşıklığı, veri boyutu ve maliyet kısıtlamalarıyla uyumlu hale getirir. Donanımları eğitim veya çıkarım gereksinimleriyle eşleştirmek verimliliği en üst düzeye çıkarır ve az kullanımı veya aşırı yüklemeyi önler.

• Sanal makine seçeneklerinizi daraltma. En iyi eğitim ve çıkarım süreleri için en son sanal makine SKU'larını seçin. Eğitim için GPU'lar arasında yüksek hızlı veri aktarımı için RDMA ve GPU bağlantılarını destekleyen SKU'ları seçin. Çıkarım için, gereksiz olan InfiniBand'li SKU'lardan kaçının. ÖRNEKLER: ND H200 v5, ND MI300X v5 serisi, ND H100 v5 serisi, NDm A100 v4 serisi ve ND A100 v4 serisi.

• Sanal makine fiyatlarını kontrol edin. Genel maliyete genel bakış için Linux ve Windows VM fiyatlandırma sayfalarını kullanın. Ayrıntılı bir tahmin için Azure Fiyatlandırma Hesaplayıcısı kullanın.

• Spot örnekleri göz önünde bulundurun.Spot örnekler , en az veri kaybı riski olan çıkarım senaryoları için uygun maliyetlidir. Spot örnekler, kullanılmayan veri merkezi kapasitesini indirimli olarak kullanarak önemli tasarruflar sağlar. Ancak, bu kapasite her an geri alınabilir, bu nedenle spot örnekler kesintilere dayanabilen iş yükleri için en uygunudur. Çıkarıldığında kaybı en aza indirmek için düzenli olarak denetim noktası verileri. Daha fazla bilgi için bkz. Azure CycleCloud'da Spot VM'leri etkinleştirme.

Bilgisayar orkestrasyon çözümünü seçin

İşlem düzenleme çözümleri, sanal makine kümelerinde yapay zeka görevlerinin yönetimini kolaylaştırır. Bir düzenleyici, basit dağıtımlar için bile maliyetleri azaltmaya ve ortamın yeniden üretilebilir olmasını sağlamaya yardımcı olabilir. Orchestrator yazılımları, yalnızca belirli bir süre için ihtiyaç duyduğunuz hesaplama kaynaklarını kullanmanızı sağlar. İşlemleri ve ölçeklenebilirliği geliştirmek için zamanlama, kapsayıcılama ve ölçeklendirme gereksinimlerinize göre bir düzenleme aracı seçin.

• Açık kaynak zamanlayıcılar için Azure CycleCloud kullanın. Azure CycleCloud Slurm, Kılavuz Altyapısı veya Tork/PBS gibi açık kaynak zamanlayıcılarla iyi çalışır. Esnek küme yönetimi, özelleştirilebilir yapılandırmalar ve gelişmiş zamanlama özellikleri sağlar. Küme içindeki sanal makineleri yapay zeka iş yükü yürütmesi için yapılandırmanız gerekir. CycleCloud ve Batch için sanal makineler kalıcı değil. Düzenleyici, maliyet tasarruflarına yardımcı olmak için gerektiğinde VM'leri oluşturur ve kaldırır. Daha fazla bilgi için bakınız: Slurm için Azure CycleCloud Çalışma Ortamı.

• Yerleşik zamanlama için Azure Batch kullanın. Azure Batch, ek yazılım yüklemesi veya yönetimine gerek olmadan yerleşik zamanlama özellikleri sunar. Bir tüketim fiyatlandırma modeli vardır ve lisanslama ücreti yoktur. Ayrıca konteynerleştirilmiş görevleri yerel olarak destekler. Dağıtım için en iyi yöntemler için bkz. Azure Batch Accelerator.

• Kapsayıcı ölçeklendirme için Azure Kubernetes Service (AKS) kullanın. AKS, bir küme genelinde kapsayıcıları dağıtmaya, ölçeklendirmeye ve yönetmeye yönelik yönetilen bir hizmettir. Büyük ölçekteki kapsayıcılarda yapay zeka iş yüklerini çalıştırmaya uygundur. Daha fazla bilgi için bkz. GPU tabanlı iş yüklerini barındırmak için Azure Kubernetes Service kullanma.

• Daha basit görevler için işleri el ile düzenleme. Düzenleme gereksinimleri minimum düzeydeyse yapay zeka kaynaklarını el ile yönetin. Küçük ölçekli iş yükleri için aşağıdaki adımları göz önünde bulundurun:

  • İş akışınızı tanımlayın. Bağımlılıklar ve iş dizisi dahil olmak üzere iş akışınızı uçtan uca anlayın. Herhangi bir adımda hataların nasıl işleneceğini düşünün.
  • İşleri kayıt altına alma ve izleme. İşleriniz için net kayıt ve izleme sistemleri uygulayın.
  • Önkoşulları doğrulayın. Ortamınızın gerekli kitaplıklar ve çerçeveler de dahil olmak üzere tüm iş akışı gereksinimlerini karşıladığından emin olun.
  • Sürüm denetimini kullanın. Sürüm denetimini kullanarak değişiklikleri izleyin ve yönetin.
  • Görevleri otomatikleştirme. Veri ön işleme, eğitim ve değerlendirme işlemlerini otomatikleştirmek için betikleri kullanın.

Kapsayıcıları göz önünde bulundurun

Kapsayıcılar, verimli bir şekilde ölçeklendirilen tutarlı ve yeniden üretilebilir bir ortam sağlar. Kapsayıcılar ortamlar arasındaki geçişleri kolaylaştırarak ölçeklenebilir yapay zeka çözümleri için gerekli olmasını sağlar.

• Sürücüleri yükleyin. Çeşitli senaryolarda kapsayıcı işlevselliğini etkinleştirmek için gerekli sürücülerin yüklendiğinden emin olun. Küme yapılandırmaları için genellikle Pyxis ve Enroot gibi araçlar gereklidir.

• NVIDIA Kapsayıcı Araç Seti'ni kullanın. Bu araç seti, kapsayıcılar içindeki GPU kaynaklarını etkinleştirir. CUDA ve GPU sürücüleri gibi tüm gerekli sürücüleri yükleyin ve yapay zeka iş yükü yürütme için tercih ettiğiniz kapsayıcı çalışma zamanı ve altyapısını kullanın.

Sonraki adım

Azure altyapısında AI Depolama