你当前正在访问 Microsoft Azure Global Edition 技术文档网站。 如果需要访问由世纪互联运营的 Microsoft Azure 中国技术文档网站,请访问 https://docs.azure.cn

金融行业的 HPC 存储

本文提供有关在财务部门实现 HPC 环境中的存储的建议。 财务环境中的大规模 HPC 工作负荷对数据存储和访问的需求超过了传统云文件系统的功能。

设计注意事项

若要确定要使用的存储解决方案,需要考虑到以下应用程序要求。

  • 延迟
  • IOPS
  • 吞吐量
  • 文件大小和数字
  • 作业运行时
  • 关联成本
  • 存储位置的相关性:本地与 Azure

设计建议

  • 使用标准存储或高级版 Azure Blob 存储实现高吞吐量、低延迟存储。 它提供以下优势:

    • 它在必要时提供 exabyte 规模、高吞吐量、低延迟访问、熟悉的文件系统和多协议访问(REST、HDFS、NFS)。
    • 这是经济高效的。
    • 可以使用 BlobFuse 将 Blob 存储装载为文件系统。 这样做可以轻松允许多个节点为只读方案装载同一容器。
    • 它支持 Blob 服务终结点上的 NFS 3.0,实现高吞吐量、读取密集型工作负荷。
    • 可以通过使用可自定义的策略使用上次更新/访问时间智能分层执行生命周期管理,从而优化成本。
  • Azure NetApp 文档用于 ReadWriteMany(唯一)或写一次读取应用程序。 它提供以下优势:

    • 文件协议(NFSv3、NFSv4.1、SMB3)的广泛选择。
    • 与本地性能相媲美的性能(超级层、高级版层、标准层)。
    • 以分钟为单位进行部署,并提供广泛的层和灵活性。
    • 灵活的容量池类型和性能,其中根据池的层和卷配额自动分配每个卷的 QoS。

下表提供了 Blob 存储、Azure 文件存储、Azure 托管 Lustre 和 Azure NetApp 文档的比较。

Blob 存储 Azure 文件 Azure 托管 Lustre Azure NetApp 文件
用例 最适合大规模读取密集型顺序访问工作负荷,其中数据引入一次且修改最少。

如果存在轻型维护,则总拥有成本较低。
最适合随机访问工作负荷的高可用性服务。

对于 NFS 共享,Azure 文件存储提供完整的 POSIX 文件系统支持。 借助内置的 CSI 驱动程序,除了基于 VM 的平台之外,还可以从容器平台(如 Azure 容器实例 和 Azure Kubernetes 服务(AKS)轻松使用它。
Azure 托管 Lustre 是一个完全托管的并行文件系统,最适合中型到大型 HPC 工作负荷。

通过提供熟悉的 Lustre 并行文件系统功能、行为和性能,确保长期应用程序投资,在云中启用 HPC 应用程序,而不会破坏应用程序兼容性。
由 NetApp 提供支持的云中完全托管的文件服务,具有高级管理功能。

Azure NetApp 文档适用于需要随机访问的工作负荷。 它提供广泛的协议支持和改进的数据保护。
可用的协议 NFS 3.0

休息

Azure Data Lake Storage
Smb

NFS 4.1

(任一协议之间没有互操作性。
Lustre NFS 3.0 和 4.1

Smb


主要功能 与 Azure HPC 缓存集成,用于低延迟工作负荷。

集成管理,包括生命周期管理、不可变 Blob、数据故障转移和元数据索引。
区域冗余,可实现高可用性。

延迟始终低于 10 毫秒。

可预测的性能和成本,可以通过添加/减少容量进行缩放。
高达 2.5PB 的高存储容量。

低(约 2 毫秒)延迟。

在几分钟内启动新群集。

支持使用 AKS 的容器化工作负荷。
极其低的延迟(最低为子毫秒)。

Rich NetApp ONTAP 管理功能,如 SnapMirror Cloud。

一致的混合云体验。
性能(每卷) 高达 20,000 IOPS。 高达 100 GiB/秒的吞吐量。 高达 100,000 IOPS。 高达 80 GiB/秒的吞吐量。 高达 100,000 IOPS,吞吐量高达 500 GiB/秒。 高达 460,000 IOPS。 高达 36 GiB/秒的吞吐量。
缩放 单个卷的 2 PiB。

对于单个文件,多达大约 4.75 TiB。

无最低容量要求。
单个卷的 100 TiB 高达 100 TiB。

单个文件的 4 TiB。

100 GiB 最小容量。
单个卷的 2.5 PiB 高达 2.5。

对于单个文件,高达 32 PB。

4 TiB 最小容量。
单个卷的 100 TiB 高达 100 TiB。

单个文件的 16 TiB 高达 16 TiB。

一致的混合云体验。
定价 Azure Blob 存储定价 Azure 文件存储定价 Azure 托管 Lustre 定价 Azure NetApp 文件定价

后续步骤

以下文章提供了指导,你可以在云采用过程中发现在各种点有所帮助。 它们可帮助你在金融行业的 HPC 云采用方案中取得成功。