Udostępnij za pośrednictwem

TritonInferencingServer Klasa

  • Odwołanie

Uwaga

Jest to klasa eksperymentalna i może ulec zmianie w dowolnym momencie. Aby uzyskać więcej informacji, zobacz https://aka.ms/azuremlexperimental.

Konfiguracje wnioskowania trytonowego usługi Azure ML.

Dziedziczenie
builtins.object
TritonInferencingServer

Konstruktor

TritonInferencingServer(*, inference_configuration: CodeConfiguration | None = None, **kwargs: Any)

Parametry

Nazwa Opis
inference_configuration
Wymagane
CodeConfiguration

Konfiguracja wnioskowania serwera wnioskowania.

Zmienne

Nazwa Opis
type

Typ serwera wnioskowania.