Odvozování modelů s využitím nástrojů TensorFlow a TensorRT

Ukázkový poznámkový blok v tomto článku ukazuje doporučený pracovní postup odvozování hlubokého učení v Azure Databricks s TensorFlow a TensorFlowRT. Tento příklad ukazuje, jak optimalizovat natrénovaný model ResNet-50 pomocí TensorRT pro odvozování modelů.

NVIDIA TensorRT je vysoce výkonný optimalizátor pro odvozování a modul runtime, který poskytuje nízkou latenci a vysokou propustnost pro aplikace pro odvozování hlubokého učení. TensorRT je nainstalovaný ve verzi Databricks Runtime s podporou GPU pro Machine Learning.

Poznámkový blok odvozování modelu TensorFlow-TensorRT

Získejte poznámkový blok