Azure 保密 GPU 選項

Azure 保密 GPU 是以採用 SEV-SNP 技術和 NVIDIA H100 Tensor Core GPU 的 AMD 第 4 代 EPYC 處理器為基礎。 在此 VM SKU 中,受信任執行環境 (TEE) 跨越 CPU 和所連結 GPU 上的保密 VM,讓資料、模型和計算能安全卸載至 GPU。

大小

我們提供下列 VM 大小:

大小系列 TEE 描述
NCCadsH100v5 系列 AMD SEV-SNP 和 NVIDIA H100 Tensor Core GPU 具有保密 GPU 的 CVM。

Azure CLI

您可以搭配使用 Azure CLI 與保密 GPU VM。

若要查看機密 VM 大小清單,請執行下列命令。 將 <vm-series> 取代為您想要使用的系列。 輸出會顯示可用區域和可用性區域的相關資訊。

vm_series='NCC'
az vm list-skus \
    --size dc \
    --query "[?family=='standard${vm_series}Family'].{name:name,locations:locationInfo[0].location,AZ_a:locationInfo[0].zones[0],AZ_b:locationInfo[0].zones[1],AZ_c:locationInfo[0].zones[2]}" \
    --all \
    --output table

如需更詳細的清單,請改為執行下列命令:

vm_series='NCC'
az vm list-skus \
    --size dc \
    --query "[?family=='standard${vm_series}Family']" 

部署考量因素

在部署保密 GPU VM 之前,請考慮下列設定和選擇。

Azure 訂用帳戶

若要部署保密 GPU VM 執行個體,請考慮隨用隨付訂用帳戶或其他購買選項。 如果您使用 Azure 免費帳戶,則配額不允許適當數量的 Azure 計算核心。

您可能需要從預設值增加 Azure 訂用帳戶的核心配額。 預設限制會根據您的訂用帳戶分類而不同。 您的訂用帳戶也可能會限制您可在特定 VM 大小系列 (包括機密 VM 大小) 中部署的核心數目。

若要要求增加配額,請開啟線上客戶支援要求

如果您有大規模容量需求,則請連絡 Azure 支援。 Azure 配額為信用額度,而不是容量保證。 您只會產生所使用核心的費用。

定價

如需定價選項,請參閱 Linux 虛擬機器定價

區域可用性

如需可用性資訊,請參閱 Azure 區域提供哪些 VM 產品

調整大小

保密 GPU VM 會在特製化硬體上執行,而目前不支援調整大小。

客體作業系統支援

機密 VM 的 OS 映像必須符合特定安全性和相容性需求。 合格的映像支援安全掛接、證明、選擇性機密 OS 磁碟加密,以及與基礎雲端基礎結構的隔離。 這些映像包括:

  • Ubuntu 22.04 LTS

如需受支援和不受支援 VM 案例的詳細資訊,請參閱 Azure 上第 2 代 VM 的支援

高可用性和災害復原

您負責為保密 GPU VM 建立高可用性和災害復原解決方案。 規劃這些案例有助於將長時間停機降到最低,以及避免長時間停機。

後續步驟

如需詳細資訊,請參閱我們的機密 VM 常見問題