本文中的範例筆記本示範 Azure Databricks 建議的使用 TensorFlow 和 TensorFlowRT 的深度學習推斷工作流程。 此範例示範如何使用 TensorRT 最佳化已定型的 ResNet-50 模型以進行模型推斷。
NVIDIA TensorRT 是一個高效能推斷最佳化工具和執行階段,可為深度學習推斷應用程式提供低延遲和高輸送量。 TensorRT 安裝在已啟用 GPU 的 Databricks Runtime 版本中,以進行機器學習。
本文中的範例筆記本示範 Azure Databricks 建議的使用 TensorFlow 和 TensorFlowRT 的深度學習推斷工作流程。 此範例示範如何使用 TensorRT 最佳化已定型的 ResNet-50 模型以進行模型推斷。
NVIDIA TensorRT 是一個高效能推斷最佳化工具和執行階段,可為深度學習推斷應用程式提供低延遲和高輸送量。 TensorRT 安裝在已啟用 GPU 的 Databricks Runtime 版本中,以進行機器學習。