你当前正在访问 Microsoft Azure Global Edition 技术文档网站。 如果需要访问由世纪互联运营的 Microsoft Azure 中国技术文档网站,请访问 https://docs.azure.cn。
本文解释如何准备组织以便采用 AI。 本文介绍如何选择正确的 AI 解决方案、准备数据,以及如何在负责任的 AI 原则中立足于你的方法。 精心规划的 AI 策略与业务目标保持一致,并确保 AI 项目为整体成功做出贡献。
确定 AI 用例
AI 提高了个人效率,提高了业务流程。 生成 AI 可提高工作效率并提高客户体验。 非生成式 AI(如机器学习)分析结构化数据并自动执行重复任务。 使用此理解来识别 AI 增加价值的业务领域。
确定自动化机会。 专注于适合自动化的过程,以提高效率和降低运营成本。 针对重复性任务、数据密集型操作或错误率高的领域,AI 可以对这些领域产生重大影响。
收集客户反馈。 使用客户反馈发现使用 AI 实现自动化时提高客户满意度的用例。 此反馈有助于确定有影响力的 AI 计划的优先级。
进行内部评估。 收集各部门的输入,以确定 AI 可以解决的挑战和效率低下。 记录工作流并收集利益干系人输入,以发现自动化、见解生成或改进决策的机会。
研究行业应用场景。 调查类似的组织或行业如何使用 AI 解决问题或增强运营。 使用 Azure 体系结构中心中的 AI 体系结构 等工具获得灵感,并评估合适的方法。
定义 AI 目标。 对于每个已识别的用例,请定义目标(常规用途)、目标(所需结果)和成功指标(可量化度量值)。 这些基准测试指导 AI 采用并衡量成功。 有关详细信息,请参阅 AI 策略示例。
定义 AI 技术策略
选择符合组织技能、可用数据和预算的 AI 技术。 Microsoft提供软件即服务(SaaS)、平台即服务(PaaS)和基础结构即服务(IaaS)。 这些服务提供不同级别的自定义和 共同责任。 使用以下 AI 决策树和指南做出明智的决策。
使用软件服务 (SaaS) 购买 AI
Microsoft提供 SaaS 生成 AI 解决方案(称为 Copilots),以最少的技术专业知识提高工作效率。 有关详细信息,请参阅下表。
Microsoft Copilots | 说明 | 用户 | 所需数据 | 所需技能 | 主要成本因素 |
---|---|---|---|---|---|
Microsoft 365 Copilot | Microsoft 365 Copilot 为 Microsoft 365 个应用提供基于 Web 的(internet)和基于工作的(Microsoft Graph)聊天和应用内 AI。 | 企业 | 是的。 使用敏感度标签对数据进行分类,并在 Microsoft Graph 中安全地与数据交互。 | 常规 IT 和数据管理 | 许可证 |
基于角色的 Copilot | 增强安全、销售、服务和财务中特定角色效率的代理。 | 企业 | 是的。 数据连接和插件选项可用。 | 常规 IT 和数据管理 | 许可证或安全计算单元(安全 Copilot) |
产品内 Copilot | GitHub、Power Apps、Power BI、Dynamics 365、Power Automate、Microsoft Fabric 和 Azure 等产品中的 AI。 | 企业和个人 | 是的。 大多数都需要最少的数据准备。 | 无 | 免费或订阅 |
Microsoft Copilot 或 Microsoft Copilot Pro | Microsoft Copilot 是一个免费的基于 Web 的聊天应用程序。 Copilot Pro 在某些 Microsoft 365 应用中提供更好的性能、容量和对 Copilot 的访问权限。 | 个人 | 否 | 无 | Microsoft科皮洛特 是免费的。 Microsoft Copilot Pro 需要 订阅 |
适用于 Microsoft 365 Copilot 的扩展性工具 | 通过声明代理自定义 Microsoft 365 Copilot,以便添加更多数据或功能。 使用 Copilot Studio、 代理生成器、 Teams 工具包和 SharePoint 等工具。 | 企业和个人 | 使用 Microsoft Graph 连接器 添加数据。 | 数据管理、常规 IT 或开发人员技能 | Microsoft 365 Copilot 许可证 |
Copilot Studio | 使用 Copilot Studio 在 SaaS 创作环境中生成、测试和部署代理。 | 开发人员 | 将大部分数据工作自动化以创建自定义副驾驶。 | 连接数据源、映射提示和部署 copilot 的平台 | 许可证 |
使用 Azure 平台构建 AI 工作负载(PaaS)
Azure 提供了针对 AI 目标、技能集和数据需求定制的多个 PaaS 选项。 这些平台适合不同水平的技术专业知识。 查看每个 Azure 服务的 定价页 ,并使用 Azure 定价计算器 开发成本估算。
AI 目标 | Microsoft 解决方案 | 所需数据 | 所需技能 | 主要成本因素 |
---|---|---|---|---|
生成代理 | Azure AI Foundry 代理服务 | 是 | 环境设置, 模型选择, 工具, 地面数据存储, 数据隔离, 代理触发, 连接代理, 内容筛选, 专用网络, 代理监视, 服务监视 | 使用模型令牌、存储、功能、计算、基础连接 |
生成 RAG 应用程序 | Azure AI Foundry | 是 | 选择模型、协调数据流、分块数据、扩充区块、选择索引、了解查询类型(全文、矢量、混合)、了解筛选器和方面、执行重新调整、工程提示流、部署终结点以及在应用中使用终结点 | 计算、传入和传出令牌数、使用的 AI 服务、存储和数据传输 |
微调 GenAI 模型 | Azure AI Foundry | 是 | 预处理数据、将数据拆分为训练和验证数据、验证模型、配置其他参数、改进模型、部署模型以及在应用中使用终结点 | 计算、传入和传出令牌数、使用的 AI 服务、存储和数据传输 |
训练和推理模型 | Azure 机器学习 或 Microsoft Fabric |
是 | 预处理数据、使用代码或自动化工具进行模型训练、改进模型、部署机器学习模型以及在应用中调用终结点 | 计算、存储和数据传输 |
使用预生成的 AI 模型和服务 | Azure AI 服务和/或 Azure OpenAI |
是 | 选择 AI 模型、保护终结点、在应用中使用终结点,并根据需要进行微调 | 消耗的模型端点、存储、数据传输和计算资源(如果需要训练自定义模型) |
隔离 AI 应用 | Azure 容器应用 | 是 | 选择 AI 模型,协调数据流,数据分块,扩充区块,选择索引,理解查询类型(全文检索、向量检索、混合检索),理解筛选器和关联,执行重排,提示流优化,部署终结点,并在应用中使用终结点。 | 计算、传入和传出令牌数、使用的 AI 服务、存储和数据传输 |
将 AI 模型与基础结构服务(IaaS)配合使用
为了更好地进行自定义和控制,请使用 Azure 的 IaaS 解决方案,例如 通过 CycleCloud 和 Azure Kubernetes 服务实现 Azure 虚拟机。 这些解决方案支持自定义 AI 模型的训练和部署。 请参阅相关的定价页和 Azure 定价计算器。
AI 目标 | Microsoft 解决方案 | 所需数据 | 所需技能 | 主要成本因素 |
---|---|---|---|---|
训练和推断自己的 AI 模型。 将自己的模型引入 Azure。 | Azure 虚拟机 或 Azure Kubernetes 服务 |
是 | 基础设施管理、IT、软件安装、模型训练、模型基准测试、编排、部署终端、保护终端以及在应用中使用终端 | 计算、计算节点业务流程协调程序、托管磁盘(可选)、存储服务、Azure Bastion 和其他使用的 Azure 服务 |
制定 AI 数据策略
AI 数据策略定义组织如何计划获取、管理和使用数据来支持 AI 计划,同时维护治理、可伸缩性和负责任的做法。 此策略可确保数据资产与 AI 用例和业务目标保持一致,同时满足安全、合规性和道德注意事项。 必须规划数据管理框架、评估可伸缩性要求、设计生命周期管理方法,并建立负责任的数据实践来创建全面的 AI 数据策略。
规划 AI 工作负载的数据治理框架。 数据管理规划通过定义访问控制、数据边界和负责任的使用策略,为安全合规的 AI 数据使用情况奠定了基础。 此规划阶段确定了不同 AI 用例的治理要求,并为正在进行的数据管理建立框架。 根据工作负荷暴露和敏感度级别定义数据分类方案。 仅允许内部(“公司”)工作负载访问具有定义的边界的业务数据时,才将面向 Internet 的(“Online”)工作负载限制为公共数据。 计划使用 Microsoft Purview 数据分类 对数据资产进行分类。 参考 数据管理登陆区域 以获取治理体系结构指南。
评估 AI 计划的数据可伸缩性要求。 可伸缩性评估可确保数据策略可以适应当前和预计的 AI 工作负载需求,而不会出现性能限制或成本过高。 此评估确定数据量、速度和种类要求,这些要求用于指导技术选择和架构规划。 记录每个标识的 AI 用例的当前数据量、处理频率和数据类型。 分析预测的增长模式,以告知可伸缩性规划。 规划灵活的存储和处理方法,这些方法可以根据需求进行缩放,同时满足批处理和实时处理要求。 请参考数据登陆区域以获取可扩展的架构模式。
设计 AI 数据资产的数据生命周期管理方法。 数据生命周期规划可确保数据在整个收集到处置过程中保持可访问、安全且经济高效,同时支持 AI 工作负载要求。 此规划解决了数据收集策略、存储优化、处理工作流和质量保证过程。 规划来自已识别源的系统数据收集方法,包括数据库、API、物联网(IoT)设备和第三方数据提供程序。 设计与数据特征和访问模式一致的存储策略,根据频率、保留要求和性能需求选择适当的层。 使用 ETL(提取、转换、加载)或 ELT 管道规划数据处理工作流,以确保质量和 AI 就绪性。 建立定期审核流程,以使用 负责任的 AI 仪表板等工具来识别以缓解 AI 数据集内的偏见。
为 AI 开发建立负责任的数据实践。 负责任的数据实践确保 AI 系统以道德方式使用数据,并保持符合组织价值观和法规要求。 这些做法在整个 AI 生命周期中指导数据收集、使用情况和保留决策。 使用 Microsoft Fabric 或 Microsoft Purview 规划数据世系跟踪,以保持数据使用情况的透明度。 在 AI 训练数据集中制定数据质量标准、偏差检测和公平性注意事项的准则。 定义数据保留和处置策略,以平衡 AI 性能要求以及隐私和法规合规性义务。
制定负责任的 AI 策略
负责任的 AI 策略定义了组织确保 AI 解决方案在满足法规和组织要求的同时保持可信、道德和有益的方法。 此策略建立符合行业标准和业务目标的道德 AI 开发和部署框架。 必须规划问责结构,将负责任的 AI 原则定义为业务目标,确定适当的工具和流程,并评估合规性要求,以创建全面的负责任的 AI 策略。
规划 AI 治理和监管的问责结构。 责任规划为 AI 治理决策建立明确的所有权和责任,同时确保对不断演变的法规要求进行响应式管理。 此规划阶段定义整个组织 AI 计划的角色、职责和决策权限。 通过计划分配个人或团队来监视、管理和响应 AI 技术和法规要求的变化,从而定义专用责任。 规划 AI 治理的明确角色和职责,包括升级过程、决策授权和 AI 计划的定期审查流程。 创建 AI 云卓越中心 来承担这些职责。
将负责任的 AI 原则定义为战略业务目标。 负责任的 AI 原则为道德 AI 开发和部署提供了战略框架,指导组织决策并符合行业标准。 这些原则成为塑造 AI 项目选择、开发方法和成功度量的业务目标。 计划采用Microsoft六 项负责任的 AI 原则,该原则与 NIST AI 风险管理框架(RMF)保持一致。 定义这些原则如何集成到项目规划方法、开发流程和 AI 计划的成功指标中。
确定适合 AI 项目组合的负责任的 AI 工具和流程。 工具识别可确保组织选择适当的机制来实现道德 AI 原则,并保持负责任的 AI 标准的一致应用。 此规划解决了负责任的 AI 实践的工具选择条件、集成方法和作流程。 评估并计划选择适当的负责任的 AI 工具和流程,以符合您的计划 AI 用例和组织风险概况。 在开发工作流和操作程序中规划这些工具的集成方法,以确保在人工智能项目中实现一致的应用。
评估 AI 法规和法律标准的合规性要求。 合规性评估可保护组织免受法律风险的影响,并确保 AI 计划与适用的法律和行业标准保持一致,同时告知战略规划决策。 合规性要求因行业、地理和 AI 应用程序而异,需要全面的分析和战略规划。 确定并评估适用于计划运营和 AI 用例的相关本地和国际 AI 法规。 规划监控监管变化、更新合规策略以及确保在整个 AI 采用过程中持续符合法律要求的流程。
示例 AI 策略
此示例 AI 策略基于一家虚构的公司 Contoso。 Contoso 运营一个面向客户的电子商务平台,并聘请需要工具来预测业务数据的销售代表。 该公司还负责管理用于生产的产品开发和库存。 其销售渠道包括私营公司和高度监管的公共部门机构。
AI 用例 | 目标 | 目标 | 成功指标 | AI 方法 | Microsoft 解决方案 | 数据需求 | 技能需求 | 成本因素 | AI 数据策略 | 负责任的 AI 策略 |
---|---|---|---|---|---|---|---|---|---|---|
电子商务 Web 应用程序聊天功能 | 自动化业务流程 | 提高客户满意度 | 提高客户保留率 | PaaS、生成式 AI、RAG | Azure AI Foundry | 项目描述和搭配 | RAG 和云应用开发 | 使用情况 | 为客户数据建立数据治理,并实施 AI 公平性控制。 | 将 AI 责任分配给 AI CoE,并与负责任的 AI 原则保持一致。 |
内部应用文档处理工作流 | 自动化业务流程 | 降低成本 | 提高完成率 | 分析 AI,微调 | Azure AI 服务 - 文档智能 | 标准文档 | 应用开发 | 估计的使用量 | 为内部文档定义数据治理,并规划数据生命周期策略。 | 分配 AI 问责制,并确保遵守数据处理政策。 |
库存管理和产品购买 | 自动化业务流程 | 降低成本 | 库存的更短保质期 | 机器学习,训练模型 | Azure 机器学习 | 历史库存和销售数据 | 机器学习和应用开发 | 估计的使用量 | 建立销售数据治理,检测并解决数据中的偏差。 | 明确 AI 问责制,并遵守财务法规。 |
跨公司的日常工作 | 提高个人工作效率 | 改善员工体验 | 提高员工满意度 | 软件即服务生成式人工智能 (SaaS generative AI) | Microsoft 365 Copilot | OneDrive 数据 | 通用 IT | 订阅成本 | 对员工数据实施数据治理,确保数据隐私。 | 指定 AI 责任,并利用内置的负责任的 AI 功能。 |
适用于受管制行业聊天功能的电子商务应用 | 自动化业务流程 | 增加销售 | 增加销售额 | IaaS 生成式 AI 模型训练 | Azure 虚拟机 | 特定领域的训练数据 | 云基础结构和应用开发 | 基础结构和软件 | 定义受监管数据的治理,并使用合规性措施规划生命周期。 | 分配 AI 问责制,并遵守行业法规。 |