Azure altyapısında yapay zeka için ağ oluşturma

Bu makalede, Azure altyapısında yapay zeka iş yükleri çalıştıran kuruluşlar için ağ önerileri sağlanır. İyi iyileştirilmiş bir ağ tasarlamak, veri işleme hızını artırabilir, gecikme süresini azaltabilir ve ağ altyapısının artan yapay zeka taleplerinin yanı sıra ölçeklendirildiğinden emin olabilir.

Yeterli bant genişliği olduğundan emin olun

Yeterli bant genişliği, gecikmeler veya kesintiler olmadan büyük hacimli verileri işlemek için bir ağın kapasitesini ifade eder. Yüksek bant genişliği, şirket içi sistemler ve Azure arasında hızlı ve kesintisiz veri aktarımı sağlayarak hızlı yapay zeka modeli eğitimini destekler ve işlem hattındaki kapalı kalma süresini azaltır. Yapay zeka modeli eğitimi için büyük veri kümelerini şirket içinden buluta aktaran kuruluşlar için yüksek bant genişliğine sahip bir bağlantı gereklidir. Şirket içi ağınızla Azure arasında ayrılmış, güvenli ve güvenilir bir yüksek hızlı bağlantı kurmak için Azure ExpressRoute kullanın.

Gecikme süresini en aza indirme

Gecikme süresini en aza indirmek için ağ kaynakları arasında veri aktarımındaki gecikmelerin azaltılması gerekir. Daha düşük gecikme süresi daha hızlı veri işleme sağlar, gerçek zamanlı içgörüler sağlar ve gecikme süresine duyarlı iş yüklerinin performansını artırır.

• Kaynak yerleşimini iyileştirme. Veri ön işleme, model eğitimi ve çıkarım gibi yapay zeka iş yüklerinin gecikme süresini en aza indirmek için sanal makineleri (VM) aynı Azure bölgeye veya kullanılabilirlik alanına dağıtın. Kaynakların bir arada bulunması fiziksel mesafeyi azaltarak ağ performansını artırır.

• Yakınlık yerleştirme gruplarını (PPG' ler) kullanın. Gerçek zamanlı işleme veya hızlı işlemler arası iletişim gerektiren gecikmeye duyarlı iş yükleri için, bir Azure veri merkezi içindeki kaynakları fiziksel olarak birlikte kullanmak için PPG'leri kullanın. PPG'ler işlem, depolama ve ağ kaynaklarının birbirine yakın kalmasını sağlayarak zorlu iş yükleri için gecikme süresini en aza indirir. Orkestrasyon çözümleri ve InfiniBand düğüm yakınlığını otomatik olarak yönetir.

• Önceden yapılandırılmış Linux işletim sistemi görüntülerini kullanın. Microsoft Market InfiniBand sürücüleri, NVIDIA sürücüleri, iletişim kitaplıkları ve izleme araçlarıyla önceden paketlenmiş Linux işletim sistemi görüntülerini seçerek küme dağıtımını basitleştirin. Bu görüntüler performans için iyileştirilmiştir ve hızlı ve verimli küme oluşturma için Azure CycleCloud ile dağıtılabilir.

Yüksek performanslı ağ uygulama

Yüksek performanslı ağ, özellikle GPU hızlandırmalı görevler için büyük ölçekli, yoğun yapay zeka hesaplamalarını desteklemek için gelişmiş ağ özelliklerinden yararlanır. Yüksek performanslı ağlar GPU'lar arasında hızlı ve verimli veri alışverişleri sağlar ve bu da model eğitimini iyileştirir ve yapay zeka geliştirme döngülerini hızlandırır.

• GPU iş yükleri için InfiniBand'i kullanma. GPU hızlandırmaya ve birden çok GPU'ya dağıtılmış eğitime bağımlı iş yükleri için Azure InfiniBand ağını kullanın. InfiniBand'in GPUDirect uzaktan doğrudan bellek erişimi (RDMA) özelliği doğrudan GPU'ya iletişimi destekler. Veri aktarımı hızını ve model eğitim verimliliğini artırır. uygun VM SKU'larını kullandığınızda Azure CycleCloud ve Azure Batch gibi düzenleme çözümleri InfiniBand ağ yapılandırmasını işler.

• Azure GPU için iyileştirilmiş VM'leri seçin. Yüksek bant genişliği, düşük gecikme süreli GPU'lar arası iletişim için tasarlanmış ND serisi VM'ler gibi InfiniBand kullanan VM'leri seçin. Bu yapılandırma ölçeklenebilir dağıtılmış eğitim ve çıkarım için gereklidir ve GPU'lar arasında daha hızlı veri alışverişi sağlar.

Büyük ölçekli veri işleme için iyileştirme

Büyük ölçekli veri işleme için iyileştirme, kapsamlı veri aktarımlarını ve yüksek hesaplama yüklerini yönetme stratejilerini içerir. Veri ve model paralelliğini kullanarak yapay zeka iş yüklerinizi ölçeklendirebilir ve işleme hızını artırabilirsiniz. Karmaşık, yoğun veri kullanan yapay zeka iş yüklerini işlemek için Azure GPU için iyileştirilmiş sanal makineleri kullanın.

• Veri veya model paralelliği tekniklerini uygulama. Birden çok GPU genelinde kapsamlı veri aktarımlarını yönetmek için yapay zeka iş yükü gereksinimlerinize bağlı olarak veri paralelliği veya model paralelliği uygulayın. Yüksek bant genişliği, düşük güç tüketimi ve kompakt tasarımı nedeniyle yüksek performanslı iş yükleri için ideal olan Yüksek Bant Genişliği Belleği (HBM) kullandığınızdan emin olun. HBM, büyük veri kümelerinin işlenmesini gerektiren yapay zeka iş yükleri için gerekli olan hızlı veri işlemeyi destekler.

• Gelişmiş GPU ağ özelliklerini kullanın. Zorlu yapay zeka senaryoları için NDH200v5, NDH100v5 ve NDMI300Xv5 gibi Azure VM'leri seçin. Azure bu VM'leri sanal makine ölçek kümeleri içinde ayrılmış 400 Gb/sn NVIDIA Quantum-2 CX7 InfiniBand bağlantılarıyla yapılandırıyor. Bu bağlantılar GPU Doğrudan RDMA'yı destekleyerek gecikme süresini azaltan ve genel sistem performansını geliştiren doğrudan GPU'ya veri aktarımlarını etkinleştirir.

Sonraki adım

Azure altyapısında AI Güvenliği