探索部署和监视体系结构
为了使无显示模型在发展过程中保持可靠,Proseware 的团队遵循 机器学习操作 (MLOps)过程,该过程涵盖从初始设置到持续监视的所有内容。
注意
此图是 MLOps 体系结构的简化表示形式。 若要探索更详细的实现集,请参阅 MLOps v2 解决方案加速器。
体系结构包括:
- 设置:创建解决方案所需的Azure资源。
- 模型开发(内部循环):浏览数据,并训练和评估候选模型。
- 持续集成:打包并注册模型。
- 模型部署(外部循环):将模型部署到终结点。
- 持续部署:测试部署并安全地将其提升到生产环境。
- 监视:跟踪终结点的操作运行状况和模型随时间推移的预测。
模型注册是前三个阶段与后三个阶段之间的关键衔接点。 在数据科学团队训练和注册模型后,本模块的其余部分侧重于本周期的下半部分:通过部署、安全提升、自动化和监视来获取已注册的模型。
确定要自动执行哪些内容
可以在Azure 机器学习工作室中手动执行上述每个后续阶段。 但是,由于 Proseware 计划定期重新训练和重新部署无显示模型,因此团队使用 GitHub Actions 自动执行注册、部署和测试,每当新的模型版本准备就绪时,就会触发工作流。 自动执行这些重复步骤可让团队专注于查看模型质量,而不是手动重复部署命令。
注意
自动化是 MLOps 的核心,但它不会取代人类判断。 最佳做法是让相关人员参与此类决策,例如将新模型版本推广到全部生产流量,或调查监控警报。
下一个单元展示了受保护的 GitHub 环境如何将该审核节点转化为可强制执行的部署门禁。