aks Modul

Dieses Modul enthält Funktionen zum Bereitstellen von Machine Learning-Modellen als Webdienst-Endpunkte auf Azure Kubernetes Service.

Für Szenarios, die eine umfassende Containerorchestrierung erfordern (etwa für die containerübergreifende Dienstermittlung, automatische Skalierung und koordinierte Anwendungsupgrades), wird Azure Kubernetes Service (AKS) empfohlen.

Weitere Informationen finden Sie unter Bereitstellen eines Modells in Azure Kubernetes Service.

Klassen

AksEndpoint

Hinweis

Dies ist eine experimentelle Klasse, die jederzeit geändert werden kann. Unter https://aka.ms/azuremlexperimental finden Sie weitere Informationen.

Stellt eine Sammlung von Webdienstversionen hinter demselben Endpunkt dar, der in Azure Kubernetes Service ausgeführt wird

Während eine AksWebservice-Klasse einen einzelnen Dienst mit einem einzelnen Bewertungsendpunkt bereitstellt, können Sie mit der AksEndpoint-Klasse mehrere Webdienstversionen hinter dem gleichen Bewertungsendpunkt bereitstellen. Jede Webdienstversion kann so konfiguriert werden, dass sie einen Prozentsatz des Datenverkehrs verarbeitet, sodass Sie Modelle (z. B. für A/B-Tests) kontrolliert bereitstellen können. Die AksEndpoint-Klasse ermöglicht die Bereitstellung aus einem Modellobjekt, das einer AksWebservice-Klasse ähnelt.

Initialisieren Sie den Webdienst instance.

Der Webdienstkonstruktor ruft eine Clouddarstellung eines Webdienstobjekts ab, das dem bereitgestellten Arbeitsbereich zugeordnet ist. Es wird eine instance einer untergeordneten Klasse zurückgegeben, die dem spezifischen Typ des abgerufenen Webdienstobjekts entspricht.

AksEndpointDeploymentConfiguration

Hinweis

Dies ist eine experimentelle Klasse, die jederzeit geändert werden kann. Unter https://aka.ms/azuremlexperimental finden Sie weitere Informationen.

Stellt Informationen zur Bereitstellungskonfiguration für einen Dienst dar, der auf Azure Kubernetes Service bereitgestellt wird

Erstellt ein AksEndpointDeploymentConfiguration-Objekt mithilfe der deploy_configuration-Methode der AksEndpoint-Klasse

Initialisieren Sie ein Konfigurationsobjekt für die Bereitstellung eines Endpunkts in einem AKS-Computeziel.

AksServiceAccessToken

Beschreibt das Zugriffstoken, das im Autorisierungsheader von Bewertungsanforderungen für den Webdienst angegeben werden kann

Erstellen Sie eine neue instance von WebServiceAccessToken.

AksServiceDeploymentConfiguration

Stellt Informationen zur Bereitstellungskonfiguration für einen Dienst dar, der auf Azure Kubernetes Service bereitgestellt wird

Erstellt ein AksServiceDeploymentConfiguration-Objekt mithilfe der deploy_configuration-Methode der AksWebservice-Klasse

Initialisieren Sie ein Konfigurationsobjekt für die Bereitstellung in einem AKS-Computeziel.

AksWebservice

Stellt ein Machine Learning-Modell dar, das als Webdienst-Endpunkt auf Azure Kubernetes Service bereitgestellt wird

Ein bereitgestellter Dienst wird aus einem Modell, einem Skript und zugehörigen Dateien erstellt. Der resultierende Webdienst ist ein HTTP-Endpunkt mit Lastenausgleich und einer REST-API. Sie können Daten an diese API senden und die vom Modell zurückgegebene Vorhersage empfangen.

AksWebservice stellt einen einzelnen Dienst auf einem Endpunkt bereit. Verwenden Sie die AksEndpoint-Klasse, um mehrere Dienste auf einem Endpunkt bereitzustellen.

Weitere Informationen finden Sie im Cluster Bereitstellen eines Modells in einem Azure Kubernetes Service.

Initialisieren Sie den Webdienst instance.

Der Webdienstkonstruktor ruft eine Clouddarstellung eines Webdienstobjekts ab, das dem bereitgestellten Arbeitsbereich zugeordnet ist. Es wird eine instance einer untergeordneten Klasse zurückgegeben, die dem spezifischen Typ des abgerufenen Webdienstobjekts entspricht.

AutoScaler

Definiert Details für die Konfiguration der automatischen Skalierung einer AksWebservice-Klasse

AutoScaler-Konfigurationswerte werden mithilfe der deploy_configuration- oder update-Methoden der Klasse AksWebservice angegeben.

Initialisieren Sie die AKS-AutoScaler-Instanz.

ContainerResourceRequirements

Definiert die Ressourcenanforderungen für einen Container, der vom Webdienst verwendet wird

ContainerResourceRequirement-Werte werden beim Bereitstellen oder Aktualisieren eines Webdiensts angegeben. Verwenden Sie beispielsweise die Methode deploy_configuration oder update der AksWebservice-Klasse oder die Methoden create_version, deploy_configuration oder update_version der AksEndpoint-Klasse.

Initialisieren Sie die Containerressourcenanforderungen.

DataCollection

Definiert die Datensammlungskonfiguration für eine AksWebservice-Klasse

Initialisieren Sie das DataCollection-Objekt.

LivenessProbeRequirements

Definiert die zeitlichen Anforderungen an Livetests für Bereitstellungen des Webdiensts

LivenessProbeRequirements-Konfigurationswerte werden beim Bereitstellen oder Aktualisieren eines Webdiensts angegeben. Verwenden Sie beispielsweise die Methode deploy_configuration oder update der AksWebservice-Klasse oder die Methoden create_version, deploy_configuration oder update_version der AksEndpoint-Klasse.

Initialisieren Sie die Containerressourcenanforderungen.