你当前正在访问 Microsoft Azure Global Edition 技术文档网站。 如果需要访问由世纪互联运营的 Microsoft Azure 中国技术文档网站，请访问 https://docs.azure.cn。

模型目录和集合

  • 项目

Azure 机器学习工作室中的模型目录是各种第三方开放源代码的中心，以及 Microsoft 为各种语言、语音和视觉用例预先训练的基础模型。 可以使用本机功能评估、自定义和部署这些模型，以大规模构建和操作开源基础模型，从而将这些预先训练的模型轻松集成到具有企业级安全性和数据治理的应用程序中。

  • 发现：查看模型描述，尝试示例推理并浏览代码示例以评估、微调或部署模型。
  • 评估：通过提供自己的测试数据来评估模型是否适合特定工作负载。 评估指标可以很容易地可视化所选模型在方案中的表现。
  • 微调：使用自己的训练数据自定义这些模型。 内置优化，可加快微调并减少微调所需的内存和计算。 应用 Azure 机器学习的试验和跟踪功能来组织训练工作，并找到最适合需求的模型。
  • 部署：将预先训练的基础模型或已微调模型无缝部署到在线终结点以进行实时推理，或部署到批处理终结点以在作业模式下处理大型推理数据集。 在 Azure 机器学习中应用业界领先的机器学习操作功能。
  • 导入：开源模型经常发布。 通过导入与目录中的模型类似的模型，可以始终使用 Azure 机器学习中的最新模型。 例如，可以为使用相同库的受支持任务导入模型。

首先浏览模型集合或基于任务和许可证进行筛选，以查找适合用例的模型。 Task 调用基础模型可用于的推理任务。 Finetuning-tasks 列出可为其微调模型的任务。 License 调用许可信息。

集合

模型目录中有三种类型的集合：

Azure AI 策展的开源模型：Azure 机器学习策展的最热门第三方开源模型。 这些模型针对现成使用量进行了打包，并针对在 Azure 机器学习中使用进行了优化，在 Azure 硬件上提供最先进的性能和吞吐量。 它们为分布式训练提供本机支持，并且可以轻松地跨 Azure 硬件移植。

“由 Azure AI 策展”和来自 Meta、NVIDIA、Mistral AI 等合作伙伴的集合都是目录中的所有策展集合。

Azure OpenAI 模型（仅在 Azure 上提供）：通过模型目录中的“Azure Open AI”集合部署 Azure OpenAI 模型。

HuggingFace 中心的转换器模型：可通过“Hugging Face”集合访问来自 HuggingFace 中心的数千个模型，以便通过联机终结点进行实时推理。

重要

模型目录中的模型包含在第三方许可证中。 了解计划使用的模型的许可证，并验证许可证是否允许用例。 模型目录中的某些模型目前处于预览版阶段。 如果以下一项或多项陈述适用于模型，则该模型处于预览版阶段：
模型在孤立网络中不可用（可以部署、微调和评估）。
模型打包和推理架构在新版本的模型中可能会更改。 有关预览版详细信息，请参阅 Microsoft Azure 预览版补充使用条款。

按集合比较模型的功能

功能 Azure 机器学习策展的开放源代码模型 HuggingFace Hub 的转换器模型
推理 在线和批量推理 联机推理
评估和微调 使用 UI、SDK 或 CLI 进行评估和微调 不可用
导入模型 有限地支持使用 SDK 或 CLI 导入模型 不可用

比较集合的属性

Attribute Azure 机器学习策展的开放源代码模型 HuggingFace Hub 的转换器模型
模型格式 以 MLFlow 或 Triton 模型格式策展，通过在线和批量终结点无缝实现无代码部署 Transformers
模型托管 Azure 上托管的模型权重 模型权重在部署期间根据需要从 HuggingFace Hub 拉取。
在网络孤立的工作区中使用 使用模型的现成出站功能。 某些模型需要出站到公共域才能在运行时安装包。 允许出站到 HuggingFace 中心、Docker 中心和其 CDN
支持 由 Microsoft 支持并由 Azure 机器学习 SLA 涵盖 Hugging face 创建并维护 HuggingFace 社区注册中列出的模型。 使用 HuggingFace 论坛或 HuggingFace 客户支持以取得帮助。

了解更多