共用方式為


在金融領域為 HPC 儲存體

本文提供針對財務部門在 HPC 環境中實作記憶體的建議。 財務環境中的大規模 HPC 工作負載會針對超過傳統雲端文件系統功能的數據記憶體和存取,建立需求。

設計考量

若要決定要使用的記憶體解決方案,您必須考慮下列應用程式需求。

  • 延遲
  • IOPS
  • 輸送量
  • 檔案大小和數位
  • 作業運行時間
  • 相關聯的成本
  • 記憶體位置的親和性:內部部署與 Azure

設計建議

  • 針對高輸送量、低延遲記憶體使用標準或 進階版 Azure Blob 儲存體。 其提供下列優點:

    • 它在必要時提供 exabyte 規模、高輸送量、低延遲存取、熟悉的文件系統和多重通訊協定存取 (REST、HDFS、NFS)。
    • 這是符合成本效益的。
    • 您可以使用 BlobFuse 將 Blob 儲存體 掛接為檔案系統。 這樣做可讓您輕鬆地讓多個節點針對唯讀案例掛接相同的容器。
    • 它支援 Blob 服務端點上的 NFS 3.0,以進行高輸送量、大量讀取的工作負載。
    • 您可以使用可自定義的原則,透過使用上次更新/存取時間智慧階層處理來執行生命週期管理的能力,將數據移至較冷層,以將成本優化。
  • 使用 Azure NetApp Files for ReadWriteMany (unique) 或 write-once、read-once 應用程式。 它提供下列優點:

    • 廣泛的檔案通訊協議選擇(NFSv3、NFSv4.1、SMB3)。
    • 與內部部署效能相媲美的效能,具有多層式(Ultra、進階版、Standard)。
    • 在幾分鐘內部署,並提供各種不同的層級和彈性。
    • 彈性容量集區類型和效能,其中會根據集區層級和磁碟區配額自動指派每個磁碟區的 QoS。

下表提供 Blob 儲存體、Azure 檔案儲存體、Azure 受控 Lustre 和 Azure NetApp Files 的比較。

Blob 儲存體 Azure 檔案 Azure Managed Lustre Azure NetApp Files
使用案例 最適合大規模讀取繁重的循序存取工作負載,其中數據會內嵌一次且最少修改。

如果有輕量維護,則總擁有成本較低。
最適合隨機存取工作負載的高可用性服務。

針對 NFS 共用,Azure 檔案儲存體 提供完整的 POSIX 檔案系統支援。 內建的 CSI 驅動程式可讓您輕鬆地從容器平臺使用它,例如 Azure 容器執行個體 和 Azure Kubernetes Service (AKS),除了以 VM 為基礎的平臺。
Azure 受控 Lustre 是完全受控的平行文件系統,最適合中型到大型 HPC 工作負載。

藉由提供熟悉的 Lustre 平行檔案系統功能、行為和效能,保護長期應用程式投資,在雲端中啟用 HPC 應用程式,而不會中斷應用程式相容性。
雲端中完全受控的檔案服務,由 NetApp 提供,具有進階管理功能。

Azure NetApp Files 適用於需要隨機存取的工作負載。 它提供廣泛的通訊協定支援和改良的數據保護。
可用的通訊協定 NFS 3.0

休息

Azure Data Lake 儲存體
Smb

NFS 4.1

(任一通訊協定之間沒有互操作性。
Lustre NFS 3.0 和 4.1

Smb


主要功能 與適用於低延遲工作負載的 Azure HPC Cache 整合。

整合式管理,包括生命週期管理、不可變的 Blob、數據故障轉移和元數據索引。
依區域備援,以提供高可用性。

一致的單位數毫秒延遲。

隨容量調整規模的可預測效能和成本。
最高 2.5PB 的高儲存容量。

低 (~2 毫秒) 延遲。

在幾分鐘內啟動新的叢集。

支援使用 AKS 的容器化工作負載。
極其低的延遲(最低為毫秒)。

豐富的 NetApp ONTAP 管理功能,例如 SnapMirror Cloud。

一致的混合式雲端體驗。
效能 (每磁碟區) 高達 20,000 IOPS。 高達 100 GiB/秒的輸送量。 高達 100,000 IOPS。 高達80 GiB/秒的輸送量。 高達 100,000 IOPS,最多 500 GiB/秒的輸送量。 高達 460,000 IOPS。 高達 36 GiB/秒的輸送量。
縮放比例 單一磁碟區的 PiB 高達 2 個。

單一檔案的 ~4.75 TiB。

沒有最低容量需求。
單一磁碟區的 100 TiB。

單一檔案的 4 TiB 高達 4 TiB。

100 GiB 最小容量。
單一磁碟區的 2.5 PiB 高達 2.5。

單一檔案的 PB 高達 32 PB。

4 TiB 最小容量。
單一磁碟區的 100 TiB。

單一檔案的 16 TiB 高達 16 TiB。

一致的混合式雲端體驗。
定價 Azure Blob 儲存體定價 Azure 檔案儲存體定價 Azure 受控 Lustre 定價 Azure NetApp Files 定價

下一步

下列文章提供指引,您可以在雲端採用程式期間的各種時間點找到有用的指引。 它們可協助您在財務部門針對 HPC 的雲端採用案例取得成功。