Partilhar via

NCads H100 série v5

  • Artigo

Aplica-se a: ✔️ VMs ✔️ Linux VMs ✔️ do Windows Conjuntos ✔️ de escala flexíveis Conjuntos de balanças uniformes

As máquinas virtuais (VMs) da série NCads H100 v5 são uma nova adição à família de GPUs do Azure. Você pode usar esta série para treinamento de IA aplicada do Azure no mundo real e cargas de trabalho de inferência em lote. As máquinas virtuais da série NCads H100 v5 são alimentadas por GPU NVIDIA H100 NVL e processadores AMD EPYC™ Genoa de 4ª geração. As VMs apresentam até 2 GPUs NVIDIA H100 NVL com 94GB de memória cada, até 96 núcleos de processador AMD EPYC Genoa não multithreaded e 640 GiB de memória do sistema. Essas VMs são ideais para cargas de trabalho de IA aplicada do mundo real, como:

  • Análise e bancos de dados acelerados por GPU
  • Inferência em lote com pré e pós-processamento pesado
  • Treinamento do modelo de autonomia
  • Simulação de reservatórios de petróleo e gás
  • Desenvolvimento de Machine Learning (ML)
  • Processamento de vídeo
  • Serviços Web de IA/ML

Funcionalidades suportadas

Para começar a usar as VMs NCads H100 v5, consulte Configuração e otimização da carga de trabalho HPC para obter as etapas que incluem a configuração do driver e da rede.

Devido ao aumento da pegada de E/S de memória da GPU, o NCads H100 v5 requer o uso de VMs de 2ª geração e imagens de mercado. Siga as instruções de imagens HPC do Azure para configuração.

Tamanho vCPU Memória (GiB) Temp Disk NVMe (GiB) GPU Memória GPU (GiB) Discos de dados máximos Taxa de transferência máxima de disco sem cache (IOPS / MBps) NICs máximas/largura de banda de rede (MBps)
Standard_NC40ads_H100_v5 40 320 3576 1 94 8 100000/3000 2/40,000
Standard_NC80adis_H100_v5 80 640 7152 2 188 16 240000/7000 4/80,000

1 1 GPU = uma placa H100
2 Os discos NVMe locais são efêmeros. Os dados são perdidos nesses discos se você parar/desalocar sua VM. Os discos NVMe locais não são criptografados pela criptografia do Armazenamento do Azure, mesmo se você habilitar a criptografia no host.

Definições da tabela de dimensionamento

  • A capacidade de armazenamento é apresentada em unidades de GiB ou 1024^3 bytes. Ao comparar discos medidos em GB (1000^3 bytes) com discos medidos em GiB (1024^3), lembre-se de que os números de capacidade fornecidos em GiB podem parecer menores. Por exemplo, 1023 GiB = 1098,4 GB.

  • O débito do disco é medido em operações de entrada/saída por segundo (IOPS) e MBps, em que MBps = 10^6 bytes/seg.

  • Os discos de dados podem operar nos modos em cache ou não colocado em cache. Para uma operação do disco de dados em cache, o modo de cache do anfitrião está definido como ReadOnly ou ReadWrite. Para uma operação do disco de dados não colocada em cache, o modo de cache do anfitrião está definido como None.

  • Para saber como obter o melhor desempenho de armazenamento para suas VMs, consulte Desempenho de máquina virtual e disco.

  • A largura de banda de rede esperada é a largura de banda agregada máxima alocada por tipo de VM em todas as NICs, para todos os destinos. Para obter mais informações, consulte Largura de banda de rede de máquina virtual.

    Os limites máximos não são garantidos. Os limites oferecem orientação para selecionar o tipo de VM certo para o aplicativo pretendido. O desempenho real da rede dependerá de vários fatores, incluindo congestionamento da rede, cargas de aplicativos e configurações de rede. Para obter informações sobre como otimizar a taxa de transferência de rede, consulte Otimizar a taxa de transferência de rede para máquinas virtuais do Azure. Para alcançar o desempenho de rede esperado no Linux ou Windows, talvez seja necessário selecionar uma versão específica ou otimizar sua VM. Para obter mais informações, consulte Teste de largura de banda/taxa de transferência (NTTTCP).

Outros tamanhos e informações

Você pode usar a calculadora de preços para estimar os custos de suas VMs do Azure.

Para obter mais informações sobre tipos de disco, consulte Que tipos de disco estão disponíveis no Azure?

Próximo passo