Upgradeschritte für Azure Container Instances-Webdienste zu verwalteten Onlineendpunkten

  • Artikel

Verwaltete Onlineendpunkte helfen Ihnen, Ihre ML-Modelle sofort einsatzbereit bereitzustellen. Verwaltete Onlineendpunkte arbeiten mit leistungsstarken CPU- und GPU-Computern in Azure auf skalierbare, vollständig verwaltete Weise. Verwaltete Online-Endpunkte sorgen für die Bereitstellung, Skalierung, Sicherung und Überwachung Ihrer Modelle und befreien Sie vom Aufwand für die Einrichtung und Verwaltung der zugrunde liegenden Infrastruktur. Weitere Informationen finden Sie unter Bereitstellen und Bewerten eines Machine Learning-Modells mithilfe eines Onlineendpunkts.

Sie können Ihre bisherigen Modelle und Umgebungen direkt auf dem neuen Computeziel bereitstellen, oder die von uns bereitgestellten Skripts verwenden, um die aktuellen Dienste zu exportieren und dann ohne Auswirkungen auf Ihre bestehenden Dienste auf dem neuen Computeziel bereitzustellen. Wenn Sie regelmäßig Azure Container Instances-Webdienste (ACI) erstellen und löschen, empfehlen wir dringend die direkte Bereitstellung und nicht die Verwendung der Skripts.

Wichtig

Die Bewertungs-URL wird nach dem Upgrade geändert. Die Bewertungs-URL für den ACI-Webdienst ähnelt http://aaaaaa-bbbbb-1111.westus.azurecontainer.io/score. Der Bewertungs-URI für einen verwalteten Onlineendpunkt ähnelt https://endpoint-name.westus.inference.ml.azure.com/score.

Unterstützte Szenarien und Unterschiede

Authentifizierungsmodus

Für den verwalteten Onlineendpunkt wird keine Authentifizierung unterstützt. Wenn Sie die Upgradeskripts verwenden, wird sie in die Schlüsselauthentifizierung konvertiert. Für die Schlüsselauthentifizierung werden die ursprünglichen Schlüssel verwendet. Die tokenbasierte Authentifizierung wird ebenfalls unterstützt.

TLS

Für einen mit HTTPS gesicherten ACI-Dienst müssen Sie nicht mehr Ihre eigenen Zertifikate bereitstellen. Alle verwalteten Onlineendpunkte werden durch TLS geschützt.

Benutzerdefinierte DNS-Namen werden nicht unterstützt.

Ressourcenanforderungen

ContainerResourceRequirements werden nicht unterstützt. Sie können die richtige SKU für Ihren Rückschluss auswählen. Das Upgradetool ordnet die CPU/Arbeitsspeicher-Anforderung der entsprechenden SKU zu. Wenn Sie die manuelle Bereitstellung über CLI/SDK V2 erneut durchführen möchten, empfehlen wir auch die entsprechende SKU für Ihre neue Bereitstellung.

CPU-Anforderung Arbeitsspeicheranforderung (in GB) Vorgeschlagene SKU
(0, 1] (0, 1.2] DS1 V2
(1, 2] (1.2, 1.7] F2s V2
(1, 2] (1.7, 4.7] DS2 V2
(1, 2] (4.7, 13.7] E2s V3
(2, 4] (0, 5.7] F4s V2
(2, 4] (5.7, 11.7] DS3 V2
(2, 4] (11.7, 16] E4s V3

„(“ bedeutet größer als und „]“ bedeutet kleiner oder gleich. Beispielsweise bedeutet „(0, 1]“ „größer als 0 und kleiner als oder gleich 1“.

Wichtig

Beim Upgrade von ACI gibt es einige Änderungen bezüglich der Gebühren. In unserem Blog finden Sie einen groben Kostenvergleich, der Ihnen bei der Auswahl der richtigen VM-SKUs für Ihre Workload hilft.

Netzwerkisolation

Informationen zu privaten Arbeitsbereichs- und VNet-Szenarien finden Sie unter Verwenden der Netzwerkisolation für verwaltete Onlineendpunkte.

Wichtig

Da es viele Einstellungen für Ihren Arbeitsbereich und Ihr VNet gibt, sollten Sie zur erneuten Bereitstellung unbedingt die Azure CLI-Erweiterung v2 für maschinelles Lernen anstelle des Skripttools verwenden.

Nicht unterstützt

  • EncryptionProperties wird für ACI-Container nicht unterstützt.
  • ACI-Webdienste, die über deploy_from_model bereitgestellt werden, und deploy_from_image werden vom Upgradetool nicht unterstützt. Führen Sie die erneute Bereitstellung manuell mit CLI/SDK V2 durch.

Upgradeschritte

Mit unserer CLI oder SDK

Führen Sie die erneute Bereitstellung manuell mit Ihren Modelldateien und Ihrer Umgebungsdefinition durch. Unsere Beispiele finden Sie unter azureml-examples. Wir empfehlen Ihnen insbesondere das SDK-Beispiel für den verwalteten Onlineendpunkt.

Mit unserem Upgradetool

Dieses Tool erstellt auf Basis Ihrer vorhandenen Webdienste automatisch einen neuen verwalteten Onlineendpunkt. Ihre ursprünglichen Dienste sind nicht betroffen. Sie können den Datenverkehr sicher an den neuen Endpunkt weiterleiten und dann den alten löschen.

Hinweis

Das Upgradeskript ist ein Beispielskript und wird ohne Vereinbarung zum Servicelevel (SLA) bereitgestellt.

Führen Sie die folgenden Schritte aus, um die Skripts auszuführen:

Tipp

Der Skripts erstellen den neue Endpunkt unter demselben Arbeitsbereich.

  1. Verwenden Sie eine Bash-Shell, um die Skripts auszuführen. Beispielsweise eine Terminalsitzung unter Linux oder dem Windows-Subsystem für Linux (WSL).

  2. Installieren Sie Python SDK V1, um das Python-Skript auszuführen.

  3. Installieren Sie die Azure-Befehlszeilenschnittstelle.

  4. Klonen Sie das Repository auf Ihre lokale Umgebung. Beispiel: git clone https://github.com/Azure/azureml-examples.

  5. Bearbeiten Sie die folgenden Werte in der Datei migrate-service.sh. Ersetzen Sie die Werte durch Werte, die für Ihre Konfiguration gelten.

    • <SUBSCRIPTION_ID>: Die Abonnement-ID Ihres Azure-Abonnements, das Ihren Arbeitsbereich enthält.
    • <RESOURCEGROUP_NAME>: Die Ressourcengruppe mit Ihrem Arbeitsbereich.
    • <WORKSPACE_NAME>: Der Arbeitsbereichsname.
    • <SERVICE_NAME>: Der Name Ihres vorhandenen ACI-Diensts.
    • <LOCAL_PATH>: Ein lokaler Pfad, in dem Ressourcen und Vorlagen heruntergeladen werden, die vom Skript verwendet werden.
    • <NEW_ENDPOINT_NAME>: Der Name des neuen Endpunkts, der erstellt wird. Der Name des neuen Endpunkts sollte sich vom vorherigen Dienstnamen unterscheiden. Andernfalls wird der ursprüngliche Dienst nicht angezeigt, wenn Sie Ihre Endpunkte im Portal überprüfen.
    • <NEW_DEPLOYMENT_NAME>: Der Name der Bereitstellung für den neuen Endpunkt.

  6. Führen Sie das Bash-Skript aus. Beispiel: ./migrate-service.sh. Es dauert etwa 5 bis 10 Minuten, um die neue Bereitstellung abzuschließen.

    Tipp

    Wenn Sie die Fehlermeldung erhalten, dass das Skript nicht ausführbar ist, oder ein Editor geöffnet wird, wenn Sie versuchen, das Skript auszuführen, markieren Sie das Skript mit folgendem Befehl als ausführbar:

    chmod +x migrate-service.sh

  7. Nach erfolgreichem Abschluss der Bereitstellung können Sie den Endpunkt mit dem Befehl az ml online-endpoint invoke verifizieren.

Kontakt

Wenn Sie Fragen oder Feedback zum Upgradeskript haben, wenden Sie sich unter moeonboard@microsoft.com an uns.

Nächste Schritte