你当前正在访问 Microsoft Azure Global Edition 技术文档网站。 如果需要访问由世纪互联运营的 Microsoft Azure 中国技术文档网站，请访问 https://docs.azure.cn。
AI 使计算机能够分析数据、生成内容、合成语音、进行预测并支持跨行业的决策。 随着 AI 功能通过生成模型、语言模型和基于代理的体系结构进行扩展，组织需要体系结构指南来设计可靠、安全、经济高效且可操作稳定的 AI 工作负载。
本文可帮助你开始使用 ai on Azure。 它引入了 AI 服务、参考体系结构、最佳做法和学习资源，以便设计和构建满足工作负荷要求的 AI 解决方案。
适用于 AI 的Azure服务
Azure提供了一系列用于生成、部署和管理 AI 工作负载的服务。 这些服务跨越开发平台、预生成的 AI 功能、数据平台和用于创建自定义模型的工具。 使用以下服务将 AI 集成到工作负载设计中。
AI 开发平台
Microsoft Foundry：用于开发和部署生成式 AI 应用程序和代理的统一平台即服务（PaaS）。 Microsoft Foundry 提供对模型目录、通过 Foundry 代理服务托管的代理、微调、评估工具和负责任的 AI 功能的访问权限。 使用 Foundry 门户 试验、生成和部署 AI 模型和代理。
Azure 机器学习：用于大规模生成、训练和部署机器学习模型的云服务。 Azure 机器学习支持开放源代码框架，如 PyTorch、TensorFlow 和 scikit-learn。 它还为 AutoML、超参数优化、分布式训练、机器学习操作和负责任的 AI 提供功能。
Microsoft Copilot Studio：用于生成、自定义和部署 AI 支持的代理的低代码平台。 使用Microsoft Copilot Studio为内部和外部方案创建聊天代理，并使用企业数据和自定义工作流扩展智能 Microsoft 365 Copilot 副驾驶®。
预生成的 AI 服务
Foundry 工具：一套预生成和可自定义的 API 和模型，用于向应用程序添加智能功能。 Foundry 工具包括语音、翻译、语言理解、文档智能、内容理解、视觉、内容安全和搜索的功能。
Azure OpenAI：通过由 Azure 管理的基础结构，提供对 OpenAI 模型（包括 GPT 和 DALL-E）的访问，并具备企业级安全性、网络功能和负责任的 AI 控制。
用于 AI 的数据平台
Microsoft Fabric：端到端分析和数据平台，涵盖数据引入、转换、实时事件路由和报告。 Microsoft Fabric将 OneLake 作为统一的数据湖提供，并包括嵌入式 AI 功能、Microsoft Copilot功能和与 Foundry 工具的集成。
Azure Databricks：用于数据工程、数据科学和机器学习的基于 Spark 的分析平台。 Azure Databricks 提供用于 Azure 机器学习的 Databricks Runtime、MLflow 集成、AutoML、基础模型微调以及用于基于嵌入的检索的 Mosaic AI 向量搜索。
Azure HDInsight：用于大数据处理和分析的托管 Apache Spark 服务。 Azure HDInsight Spark 群集通过 MLlib 支持机器学习工作负载，与Azure 存储和Azure Data Lake Storage兼容，并支持 SynapseML 进行深度学习。
Azure Data Lake Storage：用于存储结构化和非结构化数据的可缩放集中式存储库。 Azure Data Lake Storage提供文件系统语义、文件级安全性和基于Azure Blob 存储构建的分层存储。
企业智能层
Microsoft AI 体系结构引入了三个互补智能层或 IQ，这些层表示 AI 系统上下文的关键来源：
Work IQ 获取有关组织内部工作如何开展的洞察。 它使用来自Microsoft 365的信号，例如电子邮件、聊天、会议、文档和协作模式。
这一层对于让 AI 立足于人类活动和组织行为，而不是将交互视为孤立的提示词，至关重要。
Fabric IQ 提供基于在 Microsoft Fabric 中管理的结构化企业数据生成的智能洞察，其中包括分析模型、关键绩效指标 (KPI) 和业务实体。
Fabric IQ 使 AI 能够回答复杂的分析问题，并在业务运营上下文中解释结果。
Foundry IQ 提供统一的多源知识层，使 AI 智能体能够检索企业数据，并基于这些数据生成响应。
此层对于实现检索扩充生成（RAG）等模式至关重要，以帮助确保 AI 输出准确、最新且合规。
Architecture
下图显示了使用 Microsoft Foundry 的基线端到端聊天体系结构。 此参考体系结构演示了 AI 服务如何在 Azure 上构成生产就绪的解决方案。 它包括标识、网络、监视和治理层。
下载此体系结构的 Visio 文件。
上图演示了典型的基线 AI 实现。 有关可在Azure中构建的实际解决方案，请参阅 AI 体系结构。
探索 AI 体系结构和指南
本节中的文章包括指南和完全开发的体系结构，可在Azure中部署并扩展到生产级解决方案。 解决方案理念演示了在规划 AI 概念证明 （POC） 开发时要考虑的实现模式和可能性。 这些文章可帮助你决定如何在Azure中使用 AI 技术。
- AI 技术概述：概述 AI 概念、开发平台和体系结构模式，以帮助你在Azure上设计 AI 工作负载。
选择 AI 服务
以下文章可帮助你评估并选择最适合工作负荷要求的 AI 技术：
选择 AI 服务技术：比较 AI 服务和机器学习解决方案，帮助你为用例选择合适的服务或模型。
选择Azure AI 目标语言处理技术：比较目标语言处理任务的Azure服务，例如翻译、实体识别和文本分析。
选择Azure语音识别和生成技术：比较语音转文本、文本转语音和语音翻译方案的Azure服务。
选择Azure AI 图像和视频处理和生成技术：比较图像和视频分析、生成和处理Azure服务。
选择自然语言处理技术：比较Azure自然语言处理技术，帮助你选择合适的平台来理解文本和生成任务。
Microsoft AI 和机器学习产品：比较Microsoft机器学习产品，以帮助你选择用于构建、部署和管理 AI 应用程序、代理和机器学习模型的平台。
为工作负载选择正确的 AI 模型：描述从许多可用部署选项中选择正确的 AI 模型的策略。
AI 解决方案创意
以下 AI 解决方案思路演示了实现模式和探索的可能性。
音频处理解决方案创意
- 从对话数据中解锁见解：从对话音频数据中提取可操作的见解。
图像处理
- 图像分类：使用智能应用程序模式对图像进行分类。
预测分析
- 客户订单预测：使用机器学习预测未来的客户订单。
MLOps 解决方案思路
使用Azure Databricks来协调机器学习操作：使用 Azure Databricks 协调机器学习操作。
具有机器学习的许多模型：使用Azure 机器学习大规模训练和管理许多模型。
文档处理和扩充
从非结构化内容中提取和映射信息：从多模式非结构化内容中提取和映射信息。
从数据生成文档：从数据源生成结构化文档。
使用 Azure AI 搜索 进行 AI 增强：在 Azure AI 搜索 索引管道中使用 AI 技能集增强内容。
工作流自动化
- 使用 Microsoft Agent Framework 构建多代理工作流自动化解决方案：使用通过 Microsoft Agent Framework 协调的多个 AI 代理自动执行工作流。
AI 体系结构
以下生产就绪体系结构演示了可以部署和自定义的端到端 AI 解决方案。
- 借助 Silk 虚拟 SAN 进行 AI 推理：使用生产数据库的 Silk Echo 副本，将 Azure IaaS 上的实时 AI 推理与事务型工作负载隔离开来。
与数据聊天
基本Microsoft Foundry 聊天参考体系结构：使用 Microsoft Foundry 和 Azure OpenAI 的基本 RAG 聊天体系结构。
基线Microsoft Foundry 聊天参考体系结构：一种生产就绪的端到端聊天体系结构，用于将 Microsoft Foundry 与企业安全性、网络和监视配合使用。
Azure登陆区域中的基线Microsoft Foundry 聊天体系结构：在Azure登陆区域中部署基线Microsoft Foundry 聊天体系结构，以便进行企业规模治理。
文档处理
自动执行文档分类：使用Durable Functions自动执行文档分类工作流。
自动执行 PDF 表单处理：自动提取和处理 PDF 表单中的数据。
生成自定义文档处理模型：生成和部署用于文档处理方案的自定义模型。
使用Power Automate和AI Builder从对象中提取文本：使用Power Automate和 AI 功能从对象中提取文本。
具有Azure AI 搜索的多个索引器：使用多个索引器通过Azure AI 搜索处理和索引 blob 元数据。
视频和图像分类
- 自动执行视频分析：使用计算机视觉和机器学习分析视频内容。
音频处理体系结构
- 提取和分析呼叫中心数据：使用 Azure OpenAI 提取和分析呼叫中心对话。
Regulatory
- 针对受管制数据的安全研究：为处理受管制数据的研究工作负荷提供安全的计算环境。
AI 指南
大规模动态 AI 代理模式：介绍如何使用 Microsoft Foundry、Azure AI 搜索 和 Azure OpenAI 生成多代理系统，从池中动态选择和协调 AI 代理。
Microsoft AI 和机器学习产品：比较Microsoft机器学习产品，以帮助你选择用于构建、部署和管理 AI 应用程序、代理和机器学习模型的平台。
AI 代理业务流程模式：描述在复杂方案中协调 AI 代理的设计模式。
设计安全的多租户 RAG 推理解决方案：提供有关在多租户环境中保护 RAG 解决方案的指导。
用于支持基础模型生命周期的设计：提供管理基础模型更新、弃用和转换的指导。
开发和评估 RAG 解决方案
设计和开发 RAG 解决方案：概述如何设计和评估 RAG 解决方案。
准备阶段：介绍 RAG 实现的数据准备。
分块阶段：介绍用于在 RAG 管道中分块内容的策略。
区块扩充阶段：涵盖应用于内容区块的扩充技术。
嵌入阶段：介绍如何为 RAG 检索生成嵌入内容。
信息检索阶段：介绍 RAG 体系结构中的信息检索策略。
提示工程：介绍如何为 RAG 解决方案设计有效的提示词，包括提示结构、事实锚定技术和上下文管理。
模型端到端评估阶段：介绍如何端到端评估 RAG 模型。
代理 RAG：介绍如何从标准 RAG 管道转移到代理 RAG 体系结构，以便进行动态查询规划和多步骤推理。
MLOps 指南
机器学习操作：介绍用于操作机器学习工作流的机器学习操作 v2 方法。
面向已投资 MLOps 的组织的生成式 AI 运营：将机器学习运维实践扩展到生成式 AI 工作负载。
MLOps 成熟度模型：定义机器学习操作采用的成熟度级别。
代理生成 AI 模型
在生成模型前使用网关：介绍将网关置于生成 AI 模型终结点前的好处和体系结构。
在多个模型部署或实例前部署网关：将网关模式扩展为可把请求路由到多个模型后端。
通过网关向 Foundry 模型提供自定义身份验证：实现通过网关进行模型访问的自定义身份验证流。
通过网关实现 Foundry 模型的高级监视：通过网关添加对生成 AI 模型流量的监视和可观测性。
组织就绪情况
云采用过程开始时的组织可以使用 云采用框架 for Azure来访问加速云采用的成熟指南。
有关 AI 专属采用指南，请参阅以下 云采用框架 资源：
AI 采用：提供在Azure中采用 AI 解决方案的结构化过程，包括策略、规划、就绪性、治理、安全性和管理。
AI 就绪：概述在Azure中生成 AI 工作负载的组织流程，包括资源组织、网络、可靠性和治理。
若要帮助确保 ai 解决方案在Azure的质量，请按照 Azure Well-Architected Framework 中的指南进行操作。 Well-Architected 框架为寻求卓越体系结构的组织提供了规范性指南，并介绍了如何设计、预配和监视成本优化的 Azure 解决方案。
有关 AI 专项指导，请参阅以下 Well-Architected Framework 资源：
- Azure上的 AI 工作负载：解决设计 AI 工作负载的体系结构挑战，包括不确定的功能、数据和应用程序设计，以及跨五个 Well-Architected 框架支柱的操作。
有关与 AI 相关的完善架构框架服务指南，请参阅：
最佳做法
遵循以下最佳做法，在 Azure上提高 AI 工作负载的可靠性、安全性、成本效益、运营质量和性能：
设计和开发 RAG 解决方案：遵循结构化的分阶段方法来设计 RAG 解决方案，包括分块、嵌入、信息检索和端到端评估。
为矢量搜索选择Azure服务：评估支持矢量搜索的Azure服务，以找到最适合检索和相似性搜索要求的服务。
AI 代理编排模式：了解采用多个代理的架构中经过验证的编排模式，包括顺序、并发、群聊、交接和 Magentic 模式。 审查有关可靠性、安全性、成本和可观测性的实现注意事项。
在生成 AI 模型前使用网关：实现网关模式来代理、负载均衡和监视生成模型终结点。
机器学习操作 v2：应用端到端机器学习操作生命周期指南，以大规模训练、部署和管理机器学习模型。
使用机器学习操作生成 AI 操作：将机器学习操作实践扩展到生成式 AI 工作负载，包括提示管理、评估和部署。
设计安全的多租户 RAG 推理解决方案：对 RAG 解决方案应用多租户模式，以强制跨租户实施数据隔离和安全推理。
设计以支持基础模型生命周期：管理模型版本控制、弃用和轮换，使 AI 工作负载保持最新且可复原。
机器学习选项：比较Azure中的机器学习训练和部署选项，为工作负荷选择合适的服务。
Apache Spark 指南：查看有关在 Azure HDInsight 上运行、监视、调试和优化 Apache Spark 作业的指南。
及时了解 AI 最新动态
Azure AI 服务不断发展，以应对新式数据挑战。 随时了解最新的 更新和功能。
若要随时了解关键 AI 服务，请参阅以下文章：
Foundry 模型中的 Azure OpenAI 新增功能：提供 Azure OpenAI 的最新发布和文档更新摘要，包括新模型的可用情况、API 版本和功能公告。
Microsoft Foundry 中的新增功能：重点介绍 Microsoft Foundry 中的关键文章和产品更新，包括代理治理、可观测性特性和新功能。
Azure AI 搜索中的新增功能：介绍对Azure AI 搜索功能的最新更新，包括新的 API 版本、代理检索功能和索引功能。
Foundry 工具中Azure语言的新增功能：介绍对 Foundry 工具功能中Azure语言的更新，包括新的 SDK 版本、业务流程工作流和 Microsoft Foundry 集成。
Microsoft Fabric的新增功能：涵盖跨Microsoft Fabric功能的更新，包括数据科学、MLflow 集成、数据代理和分析功能。
Azure 机器学习 CLI 和 SDK 发行说明：提供 Azure 机器学习 CLI（v2）和 Python SDK 的发行说明，包括新功能、bug 修复和重大更改。
Azure Databricks平台发行说明：涵盖对Azure Databricks平台的更新，包括运行时版本、工作区功能和集成功能。
Microsoft Copilot Studio中的新增功能：突出显示Microsoft Copilot Studio的新功能和更新，包括代理生成功能和连接器更新。
Foundry 工具中Azure文档智能的新增功能：介绍对 Foundry 工具中Azure文档智能的更新，包括新的预生成模型、API 版本和提取功能。
Foundry Tools 中 Azure 内容理解的新增功能：涵盖 Foundry Tools 中 Azure 内容理解的更新，包括新的内容分析功能和 Microsoft Foundry 集成。
Amazon Web Services （AWS） 或 Google Cloud 专业人员
为了帮助你快速提升速度，以下文章将 Azure AI 选项与其他云服务进行比较：