你当前正在访问 Microsoft Azure Global Edition 技术文档网站。 如果需要访问由世纪互联运营的 Microsoft Azure 中国技术文档网站，请访问 https://docs.azure.cn。

Microsoft Foundry 模型（经典）概述

当前查看：Foundry（经典）门户版本 - 切换到新版Foundry门户

注意

本文中的链接可能会打开新 Microsoft Foundry 文档中的内容，而不是你现在正在查看的 Foundry （经典）文档。

Microsoft Foundry 模型是发现、评估和部署功能强大的 AI 模型的一站式目标。 无论你是在构建自定义 Copilot、智能体，还是在优化现有应用程序，抑或是探索新的 AI 功能，Foundry 模型都能满足你的需求。

通过使用 Foundry 模型，可以：

  • 探索来自 Microsoft、Azure OpenAI、Anthropic、DeepSeek、Meta、Mistral、Cohere、Hugging Face 等的丰富前沿模型目录。
  • 使用实际任务和你自己的数据并排比较和评估模型。
  • 由于内置的调优、可观测性和负责任的 AI 工具，您可以自信地进行部署。
  • 选择路径 - 自带模型、使用托管模型或与 Azure 服务无缝集成。

无论你是开发人员、数据科学家还是企业架构师，Foundry 模型都为你提供了灵活性和控制，以构建可安全、负责任且快速缩放的 AI 解决方案。

Foundry 提供了一个全面的 AI 模型目录。 该目录包含超过 10,000 个模型，每月发布大约 50 款新模型。 这些模型包括基础模型、推理模型、小型语言模型、多模式模型、特定于域的模型和行业模型。

模型目录分为两个主要类别：

了解这些类别之间的区别有助于为特定要求和战略目标选择合适的模型。

注意

对于所有模型，你负责：

  • 在使用任何模型或系统时遵守法律
  • 查看模型目录中的模型说明、模型提供程序提供的模型卡和其他相关文档
  • 为用例选择适当的模型
  • 实施适当的措施（包括使用 Azure AI 内容安全），以确保使用 Foundry 工具符合Microsoft产品条款中的可接受使用策略和Microsoft企业 AI 服务行为准则。

Azure销售的车型

Microsoft托管这些模型，并根据Microsoft产品条款进行销售。 Microsoft评估这些模型并将其深入集成到Azure的 AI 生态系统中。 这些模型来自各种提供商，并提供增强的集成、优化的性能和直接Microsoft支持，包括企业级服务级别协议（SLA）。 有关这些模型及其功能的详细列表，请参阅Azure销售的 Foundry 模型。

Azure销售的模型的特征：

  • Microsoft提供支持。
  • 与Azure服务和基础结构的高级集成。
  • 根据微软负责任AI标准进行内部审核。
  • 模型文档和透明度报告提供客户对模型风险、缓解和限制的可见性。
  • 企业级可伸缩性、可靠性和安全性。

其中一些模型还提供可互换的预配吞吐量，这意味着可以在这些模型中的任何一个灵活使用配额和预留。 若要了解 Foundry 如何处理你向 Azure 销售的 Foundry 模型提供的数据，请参阅 Microsoft Foundry 中 Azure 销售的模型的数据、隐私和安全。

来自合作伙伴和社区的模型

这些模型构成了绝大多数的 Foundry 模型。 受信任的第三方组织、合作伙伴、研究实验室和社区参与者提供这些模型。 它们提供专用和多样化的 AI 功能，涵盖各种方案、行业和创新。 来自合作伙伴和社区的模型示例包括由Anthropic开发的大语言模型系列，以及来自Hugging Face 中心的开放模型。

Anthropic包括支持文本和图像输入、文本输出、多语言功能和视觉的最先进的大型语言模型的 Claude 系列。 如需Anthropic模型的帮助，请联系微软支持。 若要了解有关隐私的详细信息，请参阅 Microsoft Foundry（预览版）中的 Claude 模型的数据、隐私和安全性。 有关管理数据处理的术语，请参阅 Anthropic 的数据处理附录和 Anthropic的商业服务条款。 若要了解如何使用Anthropic模型，请参阅 在 Microsoft Foundry 中部署和使用 Claude 模型。

Hugging Face 中心包括数百个模型，可以通过托管计算进行实时推理。 Hugging Face 创建和维护此目录中列出的模型。 有关 Hugging Face 模型的帮助，请使用 Hugging Face 论坛或 Hugging Face 支持。 了解如何使用托管计算部署（经典版）进行部署和推理中的 Hugging Face 模型部署方法。

重要

若要使用可在托管计算（如 Hugging Face 模型）上部署的模型，请在 Foundry 门户（经典）中使用基于中心的项目。 若要了解有关可用 Foundry 门户的详细信息，请参阅什么是 Microsoft Foundry？

来自合作伙伴和社区的模型的特征：

  • 由外部合作伙伴和社区参与者开发和支持
  • 各种专用模型，适用于特定或广泛的用例
  • 通常由提供方自行进行验证，集成准则由 Azure 提供。
  • 社区驱动的创新和尖端模型的快速可用性
  • 标准 Azure AI 集成，支持和维护由各自提供商管理

您可以使用 托管计算 或 无服务器部署 选项部署来自合作伙伴和社区的模型。 模型提供程序选择模型可部署的方式。 若要了解这些部署选项之间的差异，请参阅 模型部署选项：托管计算和无服务器部署。

请求将模型包含在模型目录中

请求Microsoft直接从 Foundry 门户中的模型目录页将模型添加到模型目录。

  1. 转到模型目录页。
  2. 在搜索栏中，搜索目录中不存在的模型，例如 mymodel。
  3. 选择“ 请求模型 ”以共享要请求的模型的详细信息。

在Azure销售的模型与合作伙伴和社区中的模型之间进行选择

选择要使用的 Foundry 模型时，请考虑以下因素：

  • 用例和要求：Azure销售的模型非常适合需要深度Azure集成、有保证的支持和企业 SLA 的方案。 合作伙伴和社区的模型在专用用例和创新驱动的情境中表现出色。
  • 支持预期：由 Azure 提供的模型附带 Microsoft 提供的强有力支持和维护。 合作伙伴和社区模型由其提供商支持，其 SLA 级别和支持结构不同。
  • 创新和专业化：来自合作伙伴和社区的模型提供快速访问专业创新和利基功能，通常由领先的研究实验室和新兴 AI 提供商开发。

模型目录功能的概述

Foundry 门户中的模型目录是发现和使用各种模型以构建生成式 AI 应用程序的核心平台。 模型目录包含来自Azure OpenAI、Anthropic、Mistral、Meta、Cohere、NVIDIA 和 Hugging Face 等提供程序的数千个模型，包括训练Microsoft的模型。 来自Microsoft以外的提供程序的模型在Microsoft产品条款中被定义为非Microsoft产品，并且受所附的模型条款约束。

通过关键字搜索和筛选器搜索和发现满足需求的模型。 模型目录还提供模型性能排行榜和所选模型的基准指标。 通过选择 “查看排行榜 ”和 “比较模型”来访问它们。 模型卡的 “基准测试 ”选项卡也提供了基准数据。

模型目录包括多个筛选器，其中一些支持按以下条件进行筛选：

  • 集合：模型提供程序集合
  • 区域：在特定Azure区域中部署的模型可用性
  • 部署选项：支持的部署选项（托管计算或无服务器 API）
  • 部署 SKU：无服务器 API 部署选项的可用部署类型
  • 生命周期：模型生命周期（预览版、正式版或已弃用）
  • 行业：用于训练模型（例如健康、零售或制造）的行业特定的数据集
  • 支持的功能：独特的模型功能，例如推理和工具调用
  • 推理任务：推理任务类型（例如聊天完成、音频生成或嵌入）

模型卡中提供的一些详细信息包括：

  • 快速事实：快速了解模型的关键信息
  • 详细信息 选项卡：有关模型的详细信息，如说明、版本信息和支持的数据类型
  • “部署 ”选项卡：模型的现有部署列表
  • “基准 ”选项卡：选择模型的性能基准指标
  • “许可证 ”选项卡：与模型许可相关的法律信息

模型部署选项：托管计算和无服务器部署

提示

你不一定需要创建一个部署。 使用 即时访问（预览版），可以按名称调用支持的模型，并立即开始运行推理 ， 无需部署。

模型目录提供了两个不同的选项来部署模型供你使用：托管计算和无服务器部署。 若要了解部署选项，请参阅 Microsoft Foundry 模型的部署概述。 若要了解 Foundry 如何处理你向 Azure 销售的 Foundry 模型提供的数据，请参阅 Microsoft Foundry 中 Azure 销售的模型的数据、隐私和安全。

模型部署选项的功能

每个模型可用的部署选项和功能各不相同，如下表所述：

特征 托管计算 无服务器部署
部署体验和计费 模型权重将部署到使用托管计算的专用虚拟机。 托管计算（可以有一个或多个部署）提供用于推理的 REST API。 您会根据部署使用的虚拟机核心小时数被计费。 通过提供 API 的部署访问模型。 API 提供对 Microsoft 托管和管理的用于推理的模型的访问权限。 对于 API 的输入和输出，通常以令牌为单位计费。 部署前会提供定价信息。
API 身份验证 密钥和Microsoft Entra身份验证。 密钥和Microsoft Entra身份验证。
内容安全 使用Azure AI 内容安全服务 API。 Azure AI 内容安全 筛选器可以与推理 API 集成。 Azure AI 内容安全 筛选器单独计费。
网络隔离 为 Microsoft Foundry 中心（经典版）配置托管网络. 托管网络遵循 Foundry 资源的公共网络访问 (PNA) 标志设置。 有关详细信息，请参阅本文后面的 通过无服务器部署的模型的网络隔离 部分。

在 Microsoft Foundry Models 中托管计算部署与无服务器部署之间的服务周期差异的图表。

托管计算

将模型部署为托管计算的功能基于 Azure 机器学习的平台功能构建，能够在大型语言模型 (LLM) 操作的整个生命周期内无缝集成模型目录中的广泛模型集合。

重要

若要处理可在托管计算上部署的模型，请在 Foundry 门户（经典）中使用基于中心的项目。 若要了解有关可用 Foundry 门户的详细信息，请参阅什么是 Microsoft Foundry？

显示大型语言模型（LLM）操作生命周期的示意图，其中包含托管计算。

模型作为托管计算进行部署的可用性

可以通过 Azure 机器学习注册表访问这些模型。 这些注册表支持一种以机器学习为中心的方法，能够托管和分发Azure 机器学习资产。 这些资产包括模型权重、用于运行模型的容器运行时、用于评估和微调模型的管道，以及基准和示例的数据集。

这些注册系统构建于一个高度可扩展且企业级的基础设施之上，该基础设施：

  • 提供对具有内置异地复制的所有Azure区域中的模型项目的低延迟访问。

  • 支持企业安全要求，例如使用Azure Policy限制对模型的访问，并使用托管虚拟网络进行安全部署。

使用托管计算进行推理的模型部署

将可部署的模型部署到 Azure 机器学习 托管计算，以用于实时推理。 若要部署到托管计算，需要特定产品的Azure订阅中的虚拟机配额才能以最佳方式运行模型。 某些模型允许你部署到临时共享的配额进行模型测试。

详细了解如何部署模型：

使用托管计算构建生成式 AI 应用

Azure 机器学习中的 prompt 流功能为原型制作提供了很好的体验。 借助开放模型 LLM 工具在提示流中使用通过托管计算部署的模型。 还可以在流行的 LLM 工具（如 LangChain）中使用托管计算系统公开的 REST API 以及 Azure 机器学习 扩展。

部署为托管计算的模型的内容安全

Azure AI 内容安全服务可用于托管计算，以筛选各种类别有害内容，如性内容、暴力、仇恨和自我伤害。 还可以使用该服务来筛选高级威胁，例如越狱风险检测和受保护的材料文本检测。

请参阅此笔记本，了解与适用于 Llama 2 的 Azure AI 内容安全的集成参考。 或使用提示流中的 Content Safety （Text） 工具将响应从模型传递到Azure AI 内容安全进行筛选。 对于此类使用，会根据 Azure AI 内容安全 定价中所述单独计费。

无服务器部署

无服务器部署提供了一种使用 Foundry 模型作为 API 的方法，而无需在订阅中托管它们。 Microsoft 在托管式基础结构中承载这些模型，从而能够通过 API 访问模型提供商的模型。 基于 API 的访问可以大幅降低访问模型的成本，并简化设置体验。

模型提供程序提供用于无服务器部署的模型，但 Microsoft 在其托管式 Azure 基础设施中托管这些模型，并通过 API 提供访问。 模型提供商定义许可条款并设置其模型使用价格。 Azure 机器学习服务：

  • 管理托管基础结构。
  • 使推理 API 可用。
  • 充当数据处理器，负责处理所提交的提示和无服务器部署的内容输出。

显示 Microsoft Foundry 模型无服务器部署的模型发布者服务周期的示意图。

无服务器部署类型

Foundry 模型的无服务器部署选项提供两个主要部署类别：标准（按令牌付费）和预配（预留容量）。 在每个类别中，可以根据合规性要求选择全局、数据区域或区域处理。

可用的无服务器部署类型包括：全局标准、全局预配、全局批处理、数据区域标准、数据区域预配、数据区域批处理、标准、区域预配和开发人员。 若要详细了解这些部署类型以及如何选择适合你的部署类型，请参阅 适用于 Microsoft Foundry 模型的部署类型。

无服务器部署的计费

部署为无服务器架构的模型的发现、订阅和使用体验可在 Foundry 门户和 Azure Machine Learning Studio 中找到。 用户接受使用模型的许可条款。 部署过程中将提供使用量的定价信息。

合作伙伴和社区的 Foundry 模型根据 Microsoft 商业市场使用条款通过 Azure 市场 计费。

由 Azure 销售的 Foundry 模型通过 Azure 计量器按第一方消耗服务计费。 如产品条款中所述，使用Azure计量购买第一方消费服务，但它们不受Azure服务条款的约束。 使用这些模型受提供的许可条款的约束。

使用已部署为无服务器部署的模型的 RAG

在 Foundry 门户中，将矢量索引和检索扩充生成（RAG）与通过无服务器部署部署的模型配合使用，以基于自定义数据生成嵌入和推理。 使用这些嵌入和推理来生成特定于用例的答案。 有关详细信息，请参阅 在 Microsoft Foundry 门户（经典）中构建并使用矢量索引。

无服务器部署的模型内容安全性

对于通过无服务器 API 部署的语言模型，Azure AI 实现默认配置Azure AI 内容安全文本审查筛选器，用于检测有害内容，例如仇恨、自我伤害、性内容和暴力内容。 若要详细了解内容筛选，请参阅Azure 销售的模型的防护措施和控制。

提示

内容筛选不适用于通过无服务器 API 部署的某些模型类型。 这些模型类型包括嵌入模型和时序模型。

当服务处理提示生成内容时，内容筛选会同步进行。 你可能需要根据 Azure AI 内容安全定价为这种用法单独付费。 可以通过以下任一方式为单个无服务器终端禁用内容过滤：

  • 首次部署语言模型时
  • 以后，可以通过选择部署详细信息页面上的内容筛选切换开关来禁用

假设你决定将除 Azure OpenAI SDK 之外的 API 与 Azure OpenAI v1 API 配合使用，以使用通过无服务器 API 部署的模型。 在这种情况下，除非使用Azure AI 内容安全单独实现内容筛选，否则不会启用内容筛选。

若要开始使用 Azure AI 内容安全，请参阅 Quickstart：分析文本内容。 如果在处理通过无服务器 API 部署的模型时不使用内容筛选，则面临向有害内容公开用户的风险更高。

Foundry 模型的区域可用性

按令牌计费仅适用于其 Azure 订阅隶属于某个计费账户的用户，且该计费账户所在的国家或地区必须属于模型提供商提供此计费选项的范围。 如果产品/服务在相关区域中可用，则用户必须在Azure区域中具有项目资源，其中模型可用于部署或微调（如果适用）。 有关 Foundry 模型的区域可用性，请参阅：

无服务器部署模型的网络隔离

模型作为无服务器部署进行部署时，其终结点将遵循包含部署所在的项目的 Foundry 中心的公共网络访问标志设置。 为了帮助保护无服务器部署，请在 Foundry 中心禁用公共网络访问标志。 可以通过使用中心的私有终结点来增强从客户端到您的终结点的入站通信的安全性。

若要设置 Foundry 中心的公用网络访问标志，请执行以下操作：

  1. 转到 Azure 门户。
  2. 搜索集线器所属的资源组，并从该资源组列出的资源中选择您的 Foundry 集线器。
  3. 在中心概述页上的左窗格中，转到“设置>”。
  4. 在“ 公共访问 ”选项卡上，配置公共网络访问标志的设置。
  5. 保存更改。 更改最多可能需要五分钟才能传播。

限制

  • 如果你的 Foundry 中心在 2024 年 7 月 11 日之前就已创建了专用终结点，那么添加到该中心项目中的无服务器部署将不会沿用此中心的网络配置。 而是为中心创建新的专用终结点，并在项目中创建新的无服务器部署，以便新部署可以遵循中心的网络配置。

  • 如果你拥有一个 Foundry 中心，且其中包含在 2024 年 7 月 11 日之前创建的无服务器部署，并且你为该中心启用了专用终结点，则现有的无服务器部署将不会遵循该中心的网络配置。 若要使中心的无服务器部署遵循中心的网络配置，请再次创建部署。

  • 目前，Azure OpenAI On Your Data 支持不适用于专用中心中的无服务器部署，因为专用中心禁用了公用网络访问标志。

  • 任何网络配置更改（例如启用或禁用公用网络访问标志）最多可能需要五分钟才能传播。

微调模型

某些模型还支持微调。 对于这些模型，可以使用托管计算或无服务器部署进行微调，以使用所提供的数据定制模型。 有关详细信息，请参阅 使用 Microsoft Foundry（经典）微调模型。  

模型生命周期：弃用和停用

AI 模型发展得很快。 当同一模型系列中具有更新功能的新版本或新模型可用时，旧模型可能会在 Foundry 模型目录中停用。 为了能够顺利过渡到较新的模型版本，某些模型允许用户启用自动更新。 若要了解不同模型的模型生命周期、即将推出的模型停用日期和建议的替换模型和版本，请参阅：

相关内容

  • Last updated on