你当前正在访问 Microsoft Azure Global Edition 技术文档网站。 如果需要访问由世纪互联运营的 Microsoft Azure 中国技术文档网站,请访问 https://docs.azure.cn。
本文提供有关从模型目录部署模型时,如何处理、使用和存储你所提供数据的详细信息。 另请参阅 Microsoft 产品和服务数据保护附录,该附录管理 Azure 服务提供的数据处理。
为 Azure 机器学习中部署的模型处理哪些数据?
在 Azure 机器学习中部署模型时,将处理以下类型的数据来提供服务:
提示和生成的内容。 提示由用户提交,内容(输出)通过模型支持的操作由模型生成。 提示可能包括通过检索增强生成 (RAG)、元提示或应用程序中包含的其他功能添加的内容。
已上传的数据。 对于支持微调的模型,客户可以将其数据上传到 Azure 机器学习数据存储,以便用于微调。
使用托管计算生成推理输出
将模型部署到托管计算时,会将模型权重部署到专用虚拟机,并公开 REST API 进行实时推理。 详细了解如何将模型从模型目录部署到托管计算。 你可以管理这些托管计算的基础结构,Azure 的数据、隐私和安全性承诺适用。 详细了解适用于 Azure 机器学习的 Azure 合规性产品。
尽管“由 Azure 直接销售的模型”容器已被扫描以检查可能会导致数据泄露的漏洞,但通过模型目录提供的所有模型都未必经过扫描。 若要降低数据外泄的风险,可以使用虚拟网络保护部署。 请单击此链接了解详细信息。 还可以使用 Azure Policy 来调节用户可以部署的模型。
使用标准部署生成推理输出
从模型目录(基本或微调)部署模型作为推理的标准部署时,会预配 API,以便访问 Azure 机器学习服务托管和管理的模型。 详细了解模型即服务。 模型根据模型的功能处理输入提示并生成输出,如为模型提供的模型详细信息中所述。 模型由模型提供商提供,你对模型的使用(以及模型提供商对模型及其输出的责任)受模型随附的许可条款的约束,而 Microsoft 提供和管理托管基础结构和 API 终结点。 模型即服务中托管的模型受 Azure 的数据、隐私和安全性承诺的约束。 在此处详细了解适用于 Azure 机器学习的 Azure 合规性产品。
重要
此功能目前处于公开预览状态。 此预览版在提供时没有附带服务级别协议,我们不建议将其用于生产工作负荷。 某些功能可能不受支持或者受限。
有关详细信息,请参阅 Microsoft Azure 预览版补充使用条款。
Microsoft作为数据处理者,负责处理发送给为标准部署使用的模型的提示和输出,以及由其生成的内容。 Microsoft 不会与模型提供商共享这些提示和输出,而且 Microsoft 不会使用这些提示和输出来训练或改进 Microsoft 的模型、模型提供商的模型或任何第三方的模型。 模型是无状态的,不会在模型中存储任何提示或输出。 如果启用了内容筛选(预览版),Azure AI 内容安全服务会实时筛查提示和输出以筛除某些类别的有害内容;在此处详细了解 Azure AI 内容安全如何处理数据。 在部署期间指定的地理位置内处理提示和输出,但出于操作目的(包括性能和容量管理)可以在地理位置中的区域之间进行处理。
如模型即服务部署过程中所述,Microsoft 可能会与模型发布者共享客户联系信息和交易详细信息(包括与产品/服务关联的使用量),以便他们可以与有关模型的客户联系。 若要详细了解模型发布者可用的信息,请单击此链接。
使用标准部署微调模型(模型即服务)
如果可用于标准部署的模型支持微调,可以将数据上传到 Azure 机器学习数据存储 (或指定已传入的数据)以微调模型。 然后,可以为微调的模型创建标准部署。 无法下载微调的模型,但微调的模型:
仅供你使用;
可以进行双重静态加密(默认情况下,使用 Microsoft 的 AES-256 加密和(可选)使用客户管理的密钥)。
可由你随时删除。
为微调上传的训练数据不用于训练、重新训练或改进任何 Microsoft 或第三方模型,除非你在服务中作出指示。
已下载模型的数据处理
如果从模型目录下载模型,请选择部署模型的位置,并负责使用模型时如何处理数据。