共用方式為

NCads H100 v5 系列

  • 發行項

適用於： ✔️ Linux VM ✔️ Windows VM ✔️ 彈性擴展集 ✔️ 統一擴展集

NCads H100 v5 系列虛擬機 （VM） 是 Azure GPU 系列的新新增專案。 此系列適用於實際 Azure 應用 AI 訓練和批次推斷工作負載。 NCads H100 v5 系列虛擬機由 NVIDIA H100 NVL GPU 和第 4 代 AMD EPYC™ 基因處理器提供。 VM 最多可提供 2 個 NVIDIA H100 NVL GPU，每個記憶體為 94GB，最多 96 個非多線程 AMD EPYC 吉諾阿處理器核心和 640 GiB 的系統記憶體。 這些 VM 適用於實際應用的 AI 工作負載，例如：

  • GPU 加速分析和資料庫
  • 包含大量前置和後置處理的批次推斷
  • 自主模型定型
  • 石油與天然氣貯存槽模擬
  • 機器學習 (ML) 開發
  • 影片處理
  • AI/ML Web 服務

支援的功能

若要開始使用 NCads H100 v5 VM，請參閱 HPC 工作負載組態和最佳化，以取得包括驅動程式和網路組態的步驟。

由於 GPU 記憶體 I/O 使用量增加，NCads H100 v5 需要使用 第 2 代 VM 和市集映像。 請遵循 Azure HPC 映像的指示進行設定。

大小 vCPU 記憶體 (GiB) 暫存磁碟 NVMe (GiB) GPU GPU 記憶體 (GiB) 最大資料磁碟 最大未快取磁碟輸送量 (IOPS / MBps) 最大 NIC/網路頻寬 (MBps)
Standard_NC40ads_H100_v5 40 320 3576 1 94 8 100000/3000 2/40,000
Standard_NC80adis_H100_v5 80 640 7152 2 188 16 240000/7000 4/80,000

1 GPU = 一張 H100 卡
2 本機 NVMe 磁碟是暫時性。 如果停止或解除配置 VM，這些磁碟上的資料會遺失。 即使啟用在主機上加密，本機 NVMe 磁碟也不會透過 Azure 儲存體加密加密。

資料表大小定義

  • 儲存容量會以 GiB 或是 1024^3 位元組為單位顯示。 當比較使用 GB (1000^3 位元組) 為度量單位的磁碟與使用 GiB (1024^3) 為度量單位的磁碟時，請記住以 GiB 為單位提供的容量數字可能較小。 例如，1023 GiB = 1098.4 GB。

  • 磁碟輸送量是以每秒輸入/輸出作業 (IOPS) 和 MBps 進行測量，其中 MBps = 10^6 位元組/每秒。

  • 資料磁碟可以在快取模式或取消快取模式下運作。 針對快取的資料磁碟作業，主機快取模式必須設定為 ReadOnly 或 ReadWrite。 針對取消快取的資料磁碟作業，主機快取模式必須設定為 None。

  • 若要瞭解如何取得 VM 的最佳儲存體效能，請參閱虛擬機器和磁碟效能。

  • 預期的網路頻寬是針對所有目的地，為所有 NIC 中每個 VM 類型配置的最大彙總頻寬。 如需詳細資訊，請參閱虛擬機器網路頻寬。

    不保證效能上限。 限制針對預定應用程式選取正確 VM 類型的供應項目指導。 實際網路效能取決於多種因素，包括網路壅塞、應用程式負載和網路設定。 如需最佳化網路輸送量的資訊，請參閱最佳化 Azure 虛擬機器的網路輸送量。 若要達到 Linux 或 Windows 上的預期網路效能，您可能需要選取特定版本，或最佳化 VM。 如需詳細資訊，請參閱頻寬/輸送量測試 (NTTTCP)。

其他大小和資訊

您可以使用定價計算機來估計您的 Azure VM 成本。

如需磁碟類型的詳細資訊，請參閱 Azure 中有哪些磁碟類型可用？

後續步驟