TensorFlow 및 TensorRT를 사용하여 모델 유추
이 문서의 예제 Notebook에서는 TensorFlow 및 TensorFlowRT를 사용하여 Azure Databricks 권장 딥 러닝 유추 워크플로 를 보여 줍니다. 이 예제에서는 모델 유추를 위해 TensorRT를 사용하여 학습된 ResNet-50 모델을 최적화하는 방법을 보여 줍니다.
NVIDIA TensorRT는 딥 러닝 유추 애플리케이션에 낮은 대기 시간과 높은 처리량을 제공하는 고성능 유추 최적화 프로그램 및 런타임입니다. TensorRT는 Machine Learning용 Databricks 런타임의 GPU 지원 버전에 설치됩니다.