Uppgraderingssteg för Azure Container Instances webbtjänster till hanterade onlineslutpunkter

  • Artikel

Hanterade onlineslutpunkter hjälper dig att distribuera dina ML-modeller på ett nyckelfärdigt sätt. Hanterade onlineslutpunkter körs skalbart och helt hanterat på datorer med kraftfulla processorer och grafikkort i Azure. Hanterade onlineslutpunkter betjänar, skalar om, skyddar och övervakar dina modeller så att du slipper arbetet med att konfigurera och hantera den underliggande infrastrukturen. Information finns i Distribuera och poängsätta en maskininlärningsmodell med hjälp av en onlineslutpunkt.

Du kan distribuera direkt till det nya beräkningsmålet med dina tidigare modeller och miljöer, eller använda de skript som tillhandahålls av oss för att exportera de aktuella tjänsterna och sedan distribuera till den nya beräkningen utan att påverka dina befintliga tjänster. Om du regelbundet skapar och tar bort Azure Container Instances -webbtjänster (ACI) rekommenderar vi starkt att du distribuerar direkt och inte använder skripten.

Viktigt

Bedömnings-URL:en ändras efter uppgraderingen. Till exempel är bedömnings-URL:en för ACI-webbtjänsten som http://aaaaaa-bbbbb-1111.westus.azurecontainer.io/score. Bedömnings-URI:n för en hanterad onlineslutpunkt liknar https://endpoint-name.westus.inference.ml.azure.com/score.

Scenarier och skillnader som stöds

Autentiseringsläge

Ingen autentisering stöds inte för hanterad onlineslutpunkt. Om du använder uppgraderingsskripten konverteras det till nyckelautentisering. För nyckelautentisering används de ursprungliga nycklarna. Tokenbaserad autentisering stöds också.

TLS

För ACI-tjänsten som skyddas med HTTPS behöver du inte längre ange egna certifikat. Alla hanterade onlineslutpunkter skyddas av TLS.

Anpassat DNS-namn stöds inte .

Resurskrav

ContainerResourceRequirements stöds inte. Du kan välja rätt SKU för din slutsatsdragning. Uppgraderingsverktyget mappar cpu-/minneskravet till motsvarande SKU. Om du väljer att distribuera om manuellt via CLI/SDK V2 föreslår vi även motsvarande SKU för din nya distribution.

CPU-begäran Minnesbegäran i GB Föreslagen SKU
(0, 1] (0, 1.2] DS1 V2
(1, 2] (1.2, 1.7] F2s V2
(1, 2] (1.7, 4.7] DS2 V2
(1, 2] (4.7, 13.7] E2s V3
(2, 4] (0, 5.7] F4s V2
(2, 4] (5.7, 11.7] DS3 V2
(2, 4] (11.7, 16] E4s V3

"(" betyder större än och "]" betyder mindre än eller lika med. Till exempel betyder "(0, 1]" "större än 0 och mindre än eller lika med 1".

Viktigt

När du uppgraderar från ACI sker vissa ändringar i hur du debiteras. Se vår blogg för en ungefärlig kostnadsjämförelse som hjälper dig att välja rätt VM-SKU:er för din arbetsbelastning.

Nätverksisolering

Information om scenarier med privata arbetsytor och virtuella nätverk finns i Använda nätverksisolering med hanterade onlineslutpunkter.

Viktigt

Eftersom det finns många inställningar för din arbetsyta och ditt virtuella nätverk rekommenderar vi starkt att du distribuerar om via Azure CLI-tillägget v2 för maskininlärning i stället för skriptverktyget.

Stöds inte

  • EncryptionProperties för ACI-container stöds inte.
  • ACI-webbtjänster som distribueras via deploy_from_model och deploy_from_image stöds inte av uppgraderingsverktyget. Distribuera om manuellt via CLI/SDK V2.

Uppgraderingssteg

Med vår CLI eller SDK

Distribuera om manuellt med modellfilerna och miljödefinitionen. Du hittar våra exempel på azureml-examples. Mer specifikt är detta SDK-exemplet för hanterad onlineslutpunkt.

Med vårt uppgraderingsverktyg

Det här verktyget skapar automatiskt en ny hanterad onlineslutpunkt baserat på dina befintliga webbtjänster. Dina ursprungliga tjänster påverkas inte. Du kan på ett säkert sätt dirigera trafiken till den nya slutpunkten och sedan ta bort den gamla.

Anteckning

Uppgraderingsskriptet är ett exempelskript och tillhandahålls utan serviceavtal (SLA).

Använd följande steg för att köra skripten:

Tips

Den nya slutpunkten som skapas av skripten skapas under samma arbetsyta.

  1. Använd ett bash-gränssnitt för att köra skripten. Till exempel en terminalsession i Linux eller Windows-undersystem för Linux (WSL).

  2. Installera Python SDK V1 för att köra Python-skriptet.

  3. Installera Azure CLI.

  4. Klona lagringsplatsen till din lokala miljö. Till exempel git clone https://github.com/Azure/azureml-examples.

  5. Redigera följande värden i migrate-service.sh filen. Ersätt värdena med de som gäller för din konfiguration.

    • <SUBSCRIPTION_ID> – Prenumerations-ID för din Azure-prenumeration som innehåller din arbetsyta.
    • <RESOURCEGROUP_NAME> – Resursgruppen som innehåller din arbetsyta.
    • <WORKSPACE_NAME> – Namnet på arbetsytan.
    • <SERVICE_NAME> – Namnet på din befintliga ACI-tjänst.
    • <LOCAL_PATH> – En lokal sökväg där resurser och mallar som används av skriptet laddas ned.
    • <NEW_ENDPOINT_NAME> – Namnet på den nya slutpunkten som ska skapas. Vi rekommenderar att det nya slutpunktsnamnet skiljer sig från det tidigare tjänstnamnet. Annars visas inte den ursprungliga tjänsten om du kontrollerar dina slutpunkter i portalen.
    • <NEW_DEPLOYMENT_NAME> – Namnet på distributionen till den nya slutpunkten.

  6. Kör bash-skriptet. Till exempel ./migrate-service.sh. Det tar cirka 5–10 minuter att slutföra den nya distributionen.

    Tips

    Om du får ett felmeddelande om att skriptet inte kan köras, eller om ett redigeringsprogram öppnas när du försöker köra skriptet, använder du följande kommando för att markera skriptet som körbart:

    chmod +x migrate-service.sh

  7. När distributionen är klar kan du verifiera slutpunkten med kommandot az ml online-endpoint invoke .

Kontakta oss

Om du har frågor eller feedback om uppgraderingsskriptet kontaktar du oss på moeonboard@microsoft.com.

Nästa steg