Серия ND A100 v4

  • Статья

Применимо: ✔️ гибкие масштабируемые наборы ✔️ виртуальных машин ✔️ Linux.

Виртуальная машина серии ND A100 версии 4 — это новое флагманское дополнение к семейству GPU Azure. Она предназначена для высокоуровневых Обучение обучения и тесно связанных рабочих нагрузок HPC.

Серия ND A100 версии 4 начинается с одной виртуальной машины и восьми GPU NVIDIA Ampere A100 40 ГБ Tensor Core. Развертывания на основе ND A100 версии 4 могут масштабироваться до тысяч GPU с пропускной способностью 1,6 ТБ/с пропускной способности взаимодействия на каждую виртуальную машину. Каждый ГРАФИЧЕСКИй процессор в виртуальной машине предоставляется с собственным выделенным подключением 200 ГБ/с NVIDIA Mellanox HDR InfiniBand. Эти подключения автоматически настраиваются между виртуальными машинами, занимающими один и тот же масштабируемый набор виртуальных машин, и поддерживают GPUDirect RDMA.

Каждый GPU включает подключение NVLINK 3.0 для обмена данными в виртуальной машине, а экземпляр поддерживается 96 физическими 2-го поколения AMD Epyc™ 7V12 (Рим) ядрами ЦП.

Эти экземпляры обеспечивают великолепную производительность для многих средств аналитики, машинного обучения и искусственного интеллекта, которые в стандартной конфигурации поддерживают ускорение GPU, в том числе TensorFlow, Pytorch, Caffe, RAPIDS и другие платформы. Кроме того, межсоединение InfiniBand поддерживается большим набором существующих средств искусственного интеллекта и HPC, созданных на основе библиотек коммуникации NVIDIA NCCL2 для простого кластеризация gpu.

Внимание

Чтобы приступить к работе с виртуальными машинами ND A100 версии 4, изучите статью Настройка и оптимизация виртуальных рабочей нагрузки HPC, где описаны настройка драйверов, сети и другие действия по подготовке. В связи увеличением памяти GPU для операция ввода-вывода в новой серии ND A100 версии 4 требуются образы из marketplace и виртуальные машины 2-го поколения.

поддержка Azure s Ubuntu 20.04/22.04, RHEL 7.9/8.7/9.3, AlmaLinux 8.8/9.2 и SLES 15 для виртуальных машин ND A100 версии 4. В Azure Marketplace есть предложения оптимизированных и предварительно настроенных образов виртуальных машин Linux для рабочих нагрузок HPC/AI с различными установленными средствами и библиотеками HPC, поэтому настоятельно рекомендуется. В настоящее время поддерживаются образы виртуальных машин Ubuntu-HPC 20.04/22.04 и AlmaLinux-HPC 8.6/8.7.


Хранилище класса Premium: поддерживается
Кэширование в хранилище класса Premium: поддерживается
Диски категории "Ультра": поддерживаемые (дополнительные сведения о доступности, использовании и производительности)
Динамическая миграция: не поддерживается
Обновления с сохранением памяти: не поддерживаются
Поддержка создания виртуальных машин: поколение 2
Ускорение сети: поддерживается
Временные диски ОС: поддерживаются
InfiniBand: поддерживается, GPUDirect RDMA, 8 x 200 Гигабит HDR
Nvidia NVLink Interconnect: поддерживается
Вложенная виртуализация: не поддерживается

Размер Виртуальные ЦП Память, ГиБ Временное хранилище (SSD): ГиБ GPU Память GPU: ГиБ Макс. количество дисков данных Максимальная пропускная способность дисков без кэширования: операций ввода-вывода в секунду / МБит/с Максимальная пропускная способность сети Макс. количество сетевых адаптеров
Standard_ND96asr_A100_v4 96 900 6000 8 A100 40 ГБ GPU (NVLink 3.0) 320 32 80,000 / 800 24 000 Мбит/с 8

Определение размера

  • Емкость хранилища отображается в единицах ГиБ (1 ГиБ = 1024^3 байтов). При сравнении емкости дисков в ГБ (1000^3 байтов) с емкостью дисков в ГиБ (1024^3 байтов) помните, что значения емкости в ГиБ могут казаться меньше, чем в ГБ. Например, 1023 ГиБ = 1098,4 ГБ.

  • Пропускная способность дисков измеряется в операциях ввода-вывода в секунду (IOPS) и МБит/с, где 1 МБит/с = 10^6 байтов в секунду.

  • Диски данных могут работать в режиме кэширования и в режиме без кэширования. Чтобы использовать кэширование диска данных, для режима кэширования узла следует задать значение ReadOnly или ReadWrite. Чтобы не использовать кэширование диска данных, для режима кэширования узла следует задать значение None.

  • Сведения о том, как получить оптимальную производительность хранилища для виртуальных машин, см. в статье Производительность диска и виртуальной машины.

  • Ожидаемая пропускная способность сети — это максимальная агрегированная пропускная способность , выделенная для каждого типа виртуальной машины для всех сетевых адаптеров. Чтобы получить дополнительную информацию, см. Пропускная способность сети для виртуальных машин.

    Верхние пределы не гарантированы. Пределы предлагают руководство по выбору типа виртуальной машины, подходящего для предполагаемого приложения. Фактическая производительность сети зависит от нескольких факторов, в том числе загрузки сети и приложения, а также параметров сети. Сведения об оптимизации пропускной способности см. в статье Оптимизация пропускной способности сети для виртуальных машин Azure. Чтобы обеспечить ожидаемую производительность сети на виртуальных машинах Linux или Windows, возможно, потребуется выбрать определенную версию виртуальной машины или оптимизировать ее. Чтобы получить дополнительную информацию, см. Проверка пропускной способности (NTTTCP).

Другие размеры и сведения

Калькулятор цен: Калькулятор цен

Дополнительные сведения о типах дисков см. в статье Какие типы дисков доступны в Azure.

Следующие шаги

Узнайте больше о том, как с помощью единиц вычислений Azure (ACU) сравнить производительность вычислений для различных номеров SKU Azure.