你当前正在访问 Microsoft Azure Global Edition 技术文档网站。 如果需要访问由世纪互联运营的 Microsoft Azure 中国技术文档网站,请访问 https://docs.azure.cn。
金融行业的 HPC 存储
本文提供有关在财务部门实现 HPC 环境中的存储的建议。 财务环境中的大规模 HPC 工作负荷对数据存储和访问的需求超过了传统云文件系统的功能。
设计注意事项
若要确定要使用的存储解决方案,需要考虑到以下应用程序要求。
- 延迟
- IOPS
- 吞吐量
- 文件大小和数字
- 作业运行时
- 关联成本
- 存储位置的相关性:本地与 Azure
设计建议
使用标准存储或高级版 Azure Blob 存储实现高吞吐量、低延迟存储。 它提供以下优势:
- 它在必要时提供 exabyte 规模、高吞吐量、低延迟访问、熟悉的文件系统和多协议访问(REST、HDFS、NFS)。
- 这是经济高效的。
- 可以使用 BlobFuse 将 Blob 存储装载为文件系统。 这样做可以轻松允许多个节点为只读方案装载同一容器。
- 它支持 Blob 服务终结点上的 NFS 3.0,实现高吞吐量、读取密集型工作负荷。
- 可以通过使用可自定义的策略使用上次更新/访问时间智能分层执行生命周期管理,从而优化成本。
将 Azure NetApp 文档用于 ReadWriteMany(唯一)或写一次读取应用程序。 它提供以下优势:
- 文件协议(NFSv3、NFSv4.1、SMB3)的广泛选择。
- 与本地性能相媲美的性能(超级层、高级版层、标准层)。
- 以分钟为单位进行部署,并提供广泛的层和灵活性。
- 灵活的容量池类型和性能,其中根据池的层和卷配额自动分配每个卷的 QoS。
下表提供了 Blob 存储、Azure 文件存储、Azure 托管 Lustre 和 Azure NetApp 文档的比较。
Blob 存储 | Azure 文件 | Azure 托管 Lustre | Azure NetApp 文件 | |
---|---|---|---|---|
用例 | 最适合大规模读取密集型顺序访问工作负荷,其中数据引入一次且修改最少。 如果存在轻型维护,则总拥有成本较低。 |
最适合随机访问工作负荷的高可用性服务。 对于 NFS 共享,Azure 文件存储提供完整的 POSIX 文件系统支持。 借助内置的 CSI 驱动程序,除了基于 VM 的平台之外,还可以从容器平台(如 Azure 容器实例 和 Azure Kubernetes 服务(AKS)轻松使用它。 |
Azure 托管 Lustre 是一个完全托管的并行文件系统,最适合中型到大型 HPC 工作负荷。 通过提供熟悉的 Lustre 并行文件系统功能、行为和性能,确保长期应用程序投资,在云中启用 HPC 应用程序,而不会破坏应用程序兼容性。 |
由 NetApp 提供支持的云中完全托管的文件服务,具有高级管理功能。 Azure NetApp 文档适用于需要随机访问的工作负荷。 它提供广泛的协议支持和改进的数据保护。 |
可用的协议 | NFS 3.0 休息 Azure Data Lake Storage |
Smb NFS 4.1 (任一协议之间没有互操作性。 |
Lustre | NFS 3.0 和 4.1 Smb |
主要功能 | 与 Azure HPC 缓存集成,用于低延迟工作负荷。 集成管理,包括生命周期管理、不可变 Blob、数据故障转移和元数据索引。 |
区域冗余,可实现高可用性。 延迟始终低于 10 毫秒。 可预测的性能和成本,可以通过添加/减少容量进行缩放。 |
高达 2.5PB 的高存储容量。 低(约 2 毫秒)延迟。 在几分钟内启动新群集。 支持使用 AKS 的容器化工作负荷。 |
极其低的延迟(最低为子毫秒)。 Rich NetApp ONTAP 管理功能,如 SnapMirror Cloud。 一致的混合云体验。 |
性能(每卷) | 高达 20,000 IOPS。 高达 100 GiB/秒的吞吐量。 | 高达 100,000 IOPS。 高达 80 GiB/秒的吞吐量。 | 高达 100,000 IOPS,吞吐量高达 500 GiB/秒。 | 高达 460,000 IOPS。 高达 36 GiB/秒的吞吐量。 |
缩放 | 单个卷的 2 PiB。 对于单个文件,多达大约 4.75 TiB。 无最低容量要求。 |
单个卷的 100 TiB 高达 100 TiB。 单个文件的 4 TiB。 100 GiB 最小容量。 |
单个卷的 2.5 PiB 高达 2.5。 对于单个文件,高达 32 PB。 4 TiB 最小容量。 |
单个卷的 100 TiB 高达 100 TiB。 单个文件的 16 TiB 高达 16 TiB。 一致的混合云体验。 |
定价 | Azure Blob 存储定价 | Azure 文件存储定价 | Azure 托管 Lustre 定价 | Azure NetApp 文件定价 |
后续步骤
以下文章提供了指导,你可以在云采用过程中发现在各种点有所帮助。 它们可帮助你在金融行业的 HPC 云采用方案中取得成功。