共用方式為


使用 TensorFlow 和 TensorRT 的模型推斷

本文中的範例筆記本示範 Azure Databricks 建議的使用 TensorFlow 和 TensorFlowRT 的深度學習推斷工作流程。 此範例示範如何使用 TensorRT 最佳化已定型的 ResNet-50 模型以進行模型推斷。

NVIDIA TensorRT 是一個高效能推斷最佳化工具和執行階段,可為深度學習推斷應用程式提供低延遲和高輸送量。 TensorRT 安裝在已啟用 GPU 的 Databricks Runtime 版本中,以進行機器學習。

模型推論 TensorFlow-TensorRT 程式筆記文件

取得筆記本