Серия NC A100 версии 4

  • Статья

Внимание

Эта статья ссылается на CentOS, дистрибутив Linux, который приближается к состоянию конца жизни (EOL). Обратите внимание на использование и план соответствующим образом. Дополнительные сведения см. в руководстве centOS End Of Life.

Применимо к: ✔️ Виртуальные машины Linux ✔️ Виртуальные машины Windows ✔️ Универсальные масштабируемые наборы

Виртуальная машина серии NC A100 версии 4 (VM) является новым пополнением семьи GPU Azure. Вы можете использовать эту серию для реальных рабочих нагрузок прикладного ИИ Azure для обучения и пакетных выводов.

Серия NC A100 версии 4 работает с gpu NVIDIA A100 PCIe и третьим поколением процессоров AMD EPYC™ 7V13 (Милан). Виртуальные машины имеют до 4 процессоров NVIDIA A100 PCIe с 80 ГБ памяти каждый, до 96 непоточных процессоров AMD EPYC Milan и 880 ГиБ системной памяти. Эти виртуальные машины идеально подходят для реальных рабочих нагрузок прикладного ИИ, таких как:

  • Аналитика и базы данных с ускорением GPU
  • Пакетный вывод с существенной предварительной и последующей обработкой
  • Обучение модели автономности
  • Моделирование нефтяных и газовых резервуаров
  • Разработка машинного обучения (ML)
  • Обработка видео
  • Веб-службы ИИ и машинного обучения

Поддерживаемые функции

Чтобы приступить к работе с виртуальными машинами NC A100 версии 4, изучите статью Конфигурация и оптимизация рабочей нагрузки HPC, где описаны конфигурация драйверов, сети и другие действия по подготовке.

В связи с увеличением занимаемой памяти GPU вводом-выводом для новой серии NC A100 версии 4 требуется использование виртуальных машин 2-го поколения и образа Marketplace. Хотя рекомендуется использовать образы Azure HPC, Azure HPC Ubuntu 20.04 и Azure HPC CentOS 7.9, RHEL 8.8, RHEL 9.2, Windows Server 2019 и Windows Server 2022 поддерживаются.

Размер Виртуальные ЦП Память (ГиБ) Временный диск1 (ГиБ) Диски NVMe 2 GPU3 Память GPU (ГиБ) Макс. количество дисков данных Максимальная пропускная способность дисков без кэширования, операций ввода-вывода в секунду/МБит/с Максимальное число сетевых адаптеров / максимальная пропускная способность сети (Мбит/с)
Standard_NC24ads_A100_v4 24 220 64 960 ГБ 1 80 8 30000/1000 2/20,000
Standard_NC48ads_A100_v4 48 440 128 2x960 ГБ 2 160 16 60000/2000 4/40,000
Standard_NC96ads_A100_v4 96 880 256 4x960 ГБ 4 320 32 120000/4000 8/80,000

1 виртуальные машины серии NC A100 версии 4 имеют стандартный временный диск ресурсов на основе SCSI для использования файла разбиения и замены ос. Это гарантирует, что диски NVMe могут быть полностью выделены для использования в приложениях. Данный диск является временным, все данные, размещенные на нем, будут потеряны во время остановки или освобождения.

2 Локальные диски NVMe являются временными, и если виртуальная машина будет остановлена или завершит общение, все данные, которые на них находятся, будут потеряны. Локальный диск NVMe поступает в качестве ОЗУ, и его необходимо вручную отформатировать в недавно развернутой виртуальной машине.

31 GPU = один A100 80 ГБ PCIe GPU карта

Определение размера

  • Емкость хранилища отображается в единицах ГиБ (1 ГиБ = 1024^3 байтов). При сравнении емкости дисков в ГБ (1000^3 байтов) с емкостью дисков в ГиБ (1024^3 байтов) помните, что значения емкости в ГиБ могут казаться меньше, чем в ГБ. Например, 1023 ГиБ = 1098,4 ГБ.

  • Пропускная способность дисков измеряется в операциях ввода-вывода в секунду (IOPS) и МБит/с, где 1 МБит/с = 10^6 байтов в секунду.

  • Диски данных могут работать в режиме кэширования и в режиме без кэширования. Чтобы использовать кэширование диска данных, для режима кэширования узла следует задать значение ReadOnly или ReadWrite. Чтобы не использовать кэширование диска данных, для режима кэширования узла следует задать значение None.

  • Сведения о том, как получить оптимальную производительность хранилища для виртуальных машин, см. в статье Производительность диска и виртуальной машины.

  • Ожидаемая пропускная способность сети — это максимальная агрегированная пропускная способность , выделенная для каждого типа виртуальной машины для всех сетевых адаптеров. Чтобы получить дополнительную информацию, см. Пропускная способность сети для виртуальных машин.

    Верхние пределы не гарантированы. Пределы предлагают руководство по выбору типа виртуальной машины, подходящего для предполагаемого приложения. Фактическая производительность сети зависит от нескольких факторов, в том числе загрузки сети и приложения, а также параметров сети. Сведения об оптимизации пропускной способности см. в статье Оптимизация пропускной способности сети для виртуальных машин Azure. Чтобы обеспечить ожидаемую производительность сети на виртуальных машинах Linux или Windows, возможно, потребуется выбрать определенную версию виртуальной машины или оптимизировать ее. Чтобы получить дополнительную информацию, см. Проверка пропускной способности (NTTTCP).

Другие размеры и сведения

Для оценки затрат на виртуальные машины Azure можно использовать калькулятор цен.

Дополнительные сведения о типах дисков см. в статье Какие типы дисков доступны в Azure.

Следующий шаг