Een Azure Machine Learning-rekencluster maken

VAN TOEPASSING OP:Azure CLI ml extension v2 (current)Python SDK azure-ai-ml v2 (current)

In dit artikel wordt uitgelegd hoe u een rekencluster maakt en beheert in uw Azure Machine Learning-werkruimte.

U kunt een Azure Machine Learning-rekencluster gebruiken om een training of batchdeductieproces te distribueren over een cluster met CPU- of GPU-rekenknooppunten in de cloud. Zie GPU-geoptimaliseerde vm-grootten voor meer informatie over de VM-grootten die GPU's bevatten.

Leer hoe u het volgende doet:

• Maak een rekencluster.
• Verlaag de kosten van uw rekencluster met VM's met lage prioriteit.
• Stel een beheerde identiteit in voor het cluster.

Notitie

In plaats van een rekencluster te maken, gebruikt u serverloze rekenkracht om het levenscyclusbeheer van rekenprocessen naar Azure Machine Learning te offloaden.

Vereisten

• Een Azure Machine Learning-werkruimte. Zie Azure Machine Learning-werkruimten beheren voor meer informatie.

Selecteer het juiste tabblad voor de rest van de vereisten op basis van de gewenste methode voor het maken van het rekencluster.

Python SDK

• Als u uw code niet uitvoert op een rekenproces, installeert u de Azure Machine Learning Python SDK. Deze SDK is al voor u geïnstalleerd op een rekenproces.

• Koppelen aan de werkruimte in uw Python-script:

  Voer deze code uit om verbinding te maken met uw Azure Machine Learning-werkruimte.

  Vervang uw abonnements-id, resourcegroepnaam en werkruimtenaam in de volgende code. Deze waarden zoeken:

  1. Meld u aan bij Azure Machine Learning Studio.
  2. Open de werkruimte die u wilt gebruiken.
  3. Selecteer de naam van uw werkruimte in de rechterbovenhoek Azure Machine Learning-studio werkbalk.
  4. Kopieer de waarde voor werkruimte, resourcegroep en abonnements-id naar de code.

  VAN TOEPASSING OP: Python SDK azure-ai-ml v2 (actueel)

  # Enter details of your AML workspace
  subscription_id = "<SUBSCRIPTION_ID>"
  resource_group = "<RESOURCE_GROUP>"
  workspace = "<AML_WORKSPACE_NAME>"

  # get a handle to the workspace
  from azure.ai.ml import MLClient
  from azure.identity import DefaultAzureCredential
  
  ml_client = MLClient(
      DefaultAzureCredential(), subscription_id, resource_group, workspace
  )

  ml_client is een handler voor de werkruimte die u gebruikt om andere resources en taken te beheren.

Azure-CLI

• Als u deze opdrachten niet uitvoert op een rekenproces, installeert u de Azure CLI-extensie voor Machine Learning Service (v2). Deze extensie is al voor u geïnstalleerd op een rekenproces.

• Verifieer en stel de standaardwerkruimte en resourcegroep in. Laat de terminal open om de rest van de opdrachten in dit artikel uit te voeren.

  • Als u een rekenproces gebruikt:

    az login --identity
    # next line needed only if you have multiple subscriptions:
    az account set --subscription "<SUBSCRIPTION-NAME>" # replace with your subscription name
    az configure --defaults group=$CI_RESOURCE_GROUP workspace=$CI_WORKSPACE
    

  • Als u de opdrachten lokaal uitvoert, laat --identity u de instructies voor verificatie weg en volgt u deze. Vervang ook uw waarden en $CI_WORKSPACE vervang $CI_RESOURCE_GROUP deze door uw waarden.

Studio

Begin bij Azure Machine Learning-studio.

Wat is een rekencluster?

Azure Machine Learning-rekencluster is een beheerde-rekeninfrastructuur waarmee u eenvoudig een rekenproces met één of meerdere knooppunten kunt maken. Het rekencluster is een resource die kan worden gedeeld met andere gebruikers in uw werkruimte. De rekenkracht wordt automatisch opgeschaald wanneer een taak wordt verzonden en kan worden geplaatst in een virtueel Azure-netwerk. Rekencluster ondersteunt geen openbare IP-implementatie en ook in een virtueel netwerk. De berekening wordt uitgevoerd in een containeromgeving en verpakt uw modelafhankelijkheden in een Docker-container.

Rekenclusters kunnen taken veilig uitvoeren in een beheerd virtueel netwerk of een virtueel Azure-netwerk, zonder dat ondernemingen SSH-poorten hoeven te openen. De taak wordt uitgevoerd in een containeromgeving en verpakt uw modelafhankelijkheden in een Docker-container.

Beperkingen

• Rekenclusters kunnen worden gemaakt in een andere regio dan uw werkruimte. Deze functionaliteit is alleen beschikbaar voor rekenclusters, niet voor rekeninstanties.

  Waarschuwing

  Wanneer u een rekencluster in een andere regio gebruikt dan uw werkruimte of gegevensarchieven, ziet u mogelijk meer netwerklatentie en kosten voor gegevensoverdracht. De latentie en kosten kunnen optreden bij het maken van het cluster en bij het uitvoeren van taken.

• Azure Machine Learning Compute heeft standaardlimieten, zoals het aantal kernen dat kan worden toegewezen. Zie Quota beheren en aanvragen voor Azure-resources voor meer informatie.

• Met Azure kunt u vergrendelingen op resources plaatsen, zodat ze niet kunnen worden verwijderd of alleen-lezen zijn. Pas geen resourcevergrendelingen toe op de resourcegroep die uw werkruimte bevat. Door een vergrendeling toe te passen op de resourcegroep die uw werkruimte bevat, voorkomt u schaalbewerkingen voor Azure Machine Learning-rekenclusters. Zie Resources vergrendelen om onverwachte wijzigingen te voorkomen voor meer informatie over het vergrendelen van resources.

Maken

Geschatte tijd: ongeveer vijf minuten.

Notitie

Als u serverloze berekeningen gebruikt, hoeft u geen rekencluster te maken.

Azure Machine Learning Compute kan opnieuw worden gebruikt voor uitvoeringen. De berekening kan worden gedeeld met andere gebruikers in de werkruimte en wordt bewaard tussen uitvoeringen, knooppunten automatisch omhoog of omlaag schalen op basis van het aantal verzonden uitvoeringen en de max_nodes set op uw cluster. De min_nodes instelling bepaalt de minimale beschikbare knooppunten.

De toegewezen kernen per regio per VM-familiequotum en het totale regionale quotum, dat van toepassing is op het maken van rekenclusters, wordt geïntegreerd en gedeeld met het quotum voor rekeninstanties van Azure Machine Learning-training.

Belangrijk

Als u kosten wilt voorkomen wanneer er geen taken worden uitgevoerd, stelt u de minimale knooppunten in op 0. Met deze instelling kan Azure Machine Learning de toewijzing van de knooppunten ongedaan maken wanneer ze niet in gebruik zijn. Elke waarde die groter is dan 0 houdt dat aantal knooppunten actief, zelfs als ze niet in gebruik zijn.

De berekening wordt automatisch geschaald naar nul knooppunten wanneer deze niet wordt gebruikt. Toegewezen VM's worden zo nodig gemaakt om uw taken uit te voeren.

Gebruik de volgende voorbeelden om een rekencluster te maken:

Python SDK

Als u een permanente Azure Machine Learning Compute-resource in Python wilt maken, geeft u de size en max_instances eigenschappen op. Azure Machine Learning gebruikt vervolgens slimme standaardinstellingen voor de andere eigenschappen.

• grootte: de VM-serie van de knooppunten die zijn gemaakt door Azure Machine Learning Compute.
• max_instances: het maximum aantal knooppunten dat automatisch moet worden geschaald wanneer u een taak uitvoert op Azure Machine Learning Compute.

VAN TOEPASSING OP: Python SDK azure-ai-ml v2 (actueel)

from azure.ai.ml.entities import AmlCompute

cluster_basic = AmlCompute(
    name="basic-example",
    type="amlcompute",
    size="STANDARD_DS3_v2",
    location="westus",
    min_instances=0,
    max_instances=2,
    idle_time_before_scale_down=120,
)
ml_client.begin_create_or_update(cluster_basic).result()

U kunt ook verschillende geavanceerde eigenschappen configureren wanneer u Azure Machine Learning Compute maakt. Met de eigenschappen kunt u een permanent cluster met vaste grootte of binnen een bestaand Virtueel Azure-netwerk in uw abonnement maken. Zie de klasse AmlCompute voor meer informatie.

Waarschuwing

Bij het instellen van de location parameter, als deze een andere regio is dan uw werkruimte of gegevensarchieven, ziet u mogelijk meer netwerklatentie en kosten voor gegevensoverdracht. De latentie en kosten kunnen optreden bij het maken van het cluster en bij het uitvoeren van taken.

Azure-CLI

VAN TOEPASSING OP: Azure CLI ml-extensie v2 (huidige)

az ml compute create -f create-cluster.yml

Waar het bestand create-cluster.yml is:

$schema: https://azuremlschemas.azureedge.net/latest/amlCompute.schema.json 
name: location-example
type: amlcompute
size: STANDARD_DS3_v2
min_instances: 0
max_instances: 2
idle_time_before_scale_down: 120
location: westus

Waarschuwing

Wanneer u een rekencluster in een andere regio gebruikt dan uw werkruimte of gegevensarchieven, ziet u mogelijk hogere netwerklatentie en kosten voor gegevensoverdracht. De latentie en kosten kunnen optreden bij het maken van het cluster en bij het uitvoeren van taken.

Studio

Maak een rekencluster met één of meerdere knooppunten voor uw trainings-, batchdeductie- of versterkingsworkloads.

1. Ga naar Azure Machine Learning-studio.

2. Selecteer Compute onder Beheren.

3. Als u geen rekenresources hebt, selecteert u Nieuw in het midden van de pagina.

   

4. Als u een lijst met rekenresources ziet, selecteert u +Nieuw boven de lijst.

   

5. Selecteer Op de tabbladen bovenaan het rekencluster.

6. Vul het formulier als volgt in:

   Veld	Beschrijving
   Locatie	De Azure-regio waar het rekencluster wordt gemaakt. Dit is standaard dezelfde locatie als de werkruimte. Als u onvoldoende quota in de standaardregio hebt, schakelt u over naar een andere regio voor meer opties. Wanneer u een andere regio gebruikt dan uw werkruimte of gegevensarchieven, ziet u mogelijk meer netwerklatentie en kosten voor gegevensoverdracht. De latentie en kosten kunnen optreden bij het maken van het cluster en bij het uitvoeren van taken.
   VM-type	Kies CPU of GPU. Dit type kan niet worden gewijzigd na het maken.
   Prioriteit van virtuele machine	Kies Toegewezen of Lage prioriteit. Virtuele machines met lage prioriteit zijn goedkoper, maar bieden geen garantie voor de rekenknooppunten. Uw taak kan worden verschoven.
   Grootte van de virtuele machine	Ondersteunde grootten van virtuele machines zijn mogelijk beperkt in uw regio. De beschikbaarheidslijst controleren

7. Selecteer Volgende om door te gaan naar Geavanceerde instellingen en vul het formulier als volgt in:

   Veld	Beschrijving
   Naam berekening	* Naam is vereist en moet tussen de 3 en 24 tekens lang zijn. * Geldige tekens zijn hoofdletters en kleine letters, cijfers en het - teken. * Naam moet beginnen met een letter. * Naam moet uniek zijn voor alle bestaande berekeningen binnen een Azure-regio. U ziet een waarschuwing als de naam die u kiest niet uniek is. * Als - het teken wordt gebruikt, moet het worden gevolgd door ten minste één letter later in de naam.
   Minimum aantal knooppunten	Minimaal aantal knooppunten dat u wilt inrichten. Als u een toegewezen aantal knooppunten wilt, stelt u dat aantal hier in. Bespaar geld door het minimum in te stellen op 0, dus u betaalt niet voor knooppunten wanneer het cluster niet actief is.
   Maximaal aantal knooppunten	Maximum aantal knooppunten dat u wilt inrichten. De berekening wordt automatisch geschaald tot een maximum van dit aantal knooppunten wanneer een taak wordt verzonden.
   Seconden wachten voor omlaag schalen	Niet-actieve tijd voordat het cluster omlaag wordt geschaald naar het minimumaantal knooppunten.
   SSH-toegang inschakelen	Gebruik dezelfde instructies als SSH-toegang inschakelen voor een rekenproces.
   Geavanceerde instellingen	Optioneel. Netwerkinstellingen configureren. * Als een virtueel Azure-netwerk, geef de resourcegroep, het virtuele netwerk en het subnet op om het rekenproces in het netwerk te maken. Zie netwerkvereisten voor meer informatie. * Als een door Azure Machine Learning beheerd netwerk, bevindt het rekencluster zich automatisch in het beheerde netwerk. Zie beheerde berekeningen met een beheerd netwerk voor meer informatie. * Er wordt geen openbaar IP-adres geconfigureerd of het rekencluster een openbaar IP-adres heeft in een netwerk. * Wijs een beheerde identiteit toe om toegang te verlenen tot resources.

8. Selecteer Maken.

SSH-toegang inschakelen

SSH-toegang is standaard uitgeschakeld. SSH-toegang kan niet worden gewijzigd na het maken. Zorg ervoor dat u toegang inschakelt als u interactief fouten wilt opsporen met VS Code Remote.

Nadat u Volgende hebt geselecteerd : Geavanceerde instellingen:

1. Schakel SSH-toegang in.
2. Selecteer in de bron van de openbare SSH-sleutel een van de opties in de vervolgkeuzelijst:
   • Als u een nieuw sleutelpaar genereert:
     1. Voer een naam in voor de sleutel in de sleutelpaarnaam.
     2. Selecteer Maken.
     3. Selecteer Persoonlijke sleutel downloaden en rekenproces maken. De sleutel wordt meestal gedownload naar de map Downloads .
   • Als u Bestaande openbare sleutel gebruiken selecteert die is opgeslagen in Azure, zoekt en selecteert u de sleutel in Opgeslagen sleutel.
   • Als u Bestaande openbare sleutel gebruiken selecteert , geeft u een openbare RSA-sleutel op in de indeling met één regel (te beginnen met 'ssh-rsa') of de PEM-indeling met meerdere regels. U kunt SSH-sleutels genereren met behulp van ssh-keygen in Linux en OS X of PuTTYGen in Windows.

Verbinding maken met SSH-toegang

Nadat u een berekening hebt gemaakt waarvoor SSH-toegang is ingeschakeld, gebruikt u deze stappen voor toegang.

1. Zoek de rekenkracht in uw werkruimteresources:

   1. Selecteer Aan de linkerkant Compute.
   2. Gebruik de tabbladen bovenaan om rekeninstantie of rekencluster te selecteren om uw computer te vinden.

2. Selecteer de naam van de berekening in de lijst met resources.

3. Zoek de verbindingsreeks:

   • Voor een rekenproces selecteert u Verbinding maken bovenaan de sectie Details .

     

   • Voor een rekencluster selecteert u Knooppunten bovenaan en selecteert u vervolgens de verbindingsreeks in de tabel voor uw knooppunt.

4. Kopieer de verbindingsreeks.

5. Open PowerShell of een opdrachtprompt voor Windows:

   1. Ga naar de map of map waarin uw sleutel is opgeslagen

   2. Voeg de vlag -i toe aan het verbindingsreeks om de persoonlijke sleutel te zoeken en te verwijzen naar de locatie waar deze is opgeslagen:

      ssh -i <keyname.pem> azureuser@... (rest of connection string)

6. Voor Linux-gebruikers volgt u de stappen van Het maken en gebruiken van een SSH-sleutelpaar voor Linux-VM's in Azure

7. Gebruik voor SCP:

   scp -i key.pem -P {port} {fileToCopyFromLocal } azureuser@yourComputeInstancePublicIP:~/{destination}

Verlaag de kosten van uw rekencluster met VM's met lage prioriteit

U kunt er ook voor kiezen om vm's met lage prioriteit te gebruiken om sommige of al uw workloads uit te voeren. Deze VM's hebben geen gegarandeerde beschikbaarheid en worden mogelijk in gebruik. U moet een geprempteerde taak opnieuw starten.

Met virtuele Machines met lage prioriteit van Azure kunt u profiteren van de ongebruikte capaciteit van Azure tegen aanzienlijke kostenbesparingen. Op elk moment waarop Azure de capaciteit terug nodig heeft, verwijdert de Azure-infrastructuur virtuele machines met lage prioriteit. Daarom is virtuele azure-machine met lage prioriteit ideaal voor workloads die onderbrekingen kunnen afhandelen. De hoeveelheid beschikbare capaciteit kan variëren op basis van grootte, regio, tijdstip van de dag en meer. Bij het implementeren van virtuele Machines met lage prioriteit wijst Azure de VM's toe als er capaciteit beschikbaar is, maar er is geen SLA voor deze VM's. Een virtuele Machine met lage prioriteit van Azure biedt geen garanties voor hoge beschikbaarheid. Op elk moment waarop Azure de capaciteit terug nodig heeft, verwijdert de Azure-infrastructuur virtuele machines met lage prioriteit.

Gebruik een van deze manieren om een VM met lage prioriteit op te geven:

Python SDK

VAN TOEPASSING OP: Python SDK azure-ai-ml v2 (actueel)

from azure.ai.ml.entities import AmlCompute

cluster_low_pri = AmlCompute(
    name="low-pri-example",
    size="STANDARD_DS3_v2",
    min_instances=0,
    max_instances=2,
    idle_time_before_scale_down=120,
    tier="low_priority",
)
ml_client.begin_create_or_update(cluster_low_pri).result()

Azure-CLI

VAN TOEPASSING OP: Azure CLI ml-extensie v2 (huidige)

Stel het vm-priorityvolgende in:

az ml compute create -f create-cluster.yml

Waar het bestand create-cluster.yml is:

$schema: https://azuremlschemas.azureedge.net/latest/amlCompute.schema.json 
name: low-pri-example
type: amlcompute
size: STANDARD_DS3_v2
min_instances: 0
max_instances: 2
idle_time_before_scale_down: 120
tier: low_priority

Notitie

Als u serverloze berekeningen gebruikt, hoeft u geen rekencluster te maken. Als u een serverloze berekening met lage prioriteit wilt opgeven, stelt u de job_tier instelling Spot in op in de wachtrijinstellingen.

Studio

Kies lage prioriteit in de studio wanneer u een VIRTUELE machine maakt.

Delete

Terwijl uw rekencluster omlaag wordt geschaald naar nul knooppunten wanneer deze niet in gebruik zijn, dragen niet-ingerichte knooppunten bij aan uw quotumgebruik. Als u het rekencluster verwijdert, wordt het rekendoel uit uw werkruimte verwijderd en wordt het quotum vrijgegeven.

Python SDK

VAN TOEPASSING OP: Python SDK azure-ai-ml v2 (actueel)

Hiermee verwijdert u het basisberekeningscluster dat u eerder in dit artikel hebt gemaakt op basis van het create_basic object.

from azure.ai.ml.entities import AmlCompute

ml_client.compute.begin_delete(cluster_basic.name).wait()

Azure-CLI

VAN TOEPASSING OP: Azure CLI ml-extensie v2 (huidige)

Hiermee verwijdert u een rekencluster met de naam basic-example.

az ml compute delete --name basic-example 

Studio

1. Ga naar Azure Machine Learning-studio.
2. Selecteer Compute in het linkermenu onder Beheren.
3. Selecteer Boven aan de pagina Compute het rekencluster.
4. Selecteer het cluster dat u wilt verwijderen.
5. Selecteer Verwijderen bovenaan de pagina.

Beheerde identiteit instellen

Zie Verificatie instellen tussen Azure Machine Learning en andere services voor meer informatie over het configureren van een beheerde identiteit met uw rekencluster.

Probleemoplossing

Er is een kans dat sommige gebruikers die hun Azure Machine Learning-werkruimte hebben gemaakt vanuit Azure Portal voordat de ALGEMENE beschikbaarheidsrelease AmlCompute mogelijk niet in die werkruimte kan maken. U kunt een ondersteuningsaanvraag indienen voor de service of een nieuwe werkruimte maken via de portal of de SDK om uzelf onmiddellijk te deblokkeren.

Belangrijk

Als uw rekenproces of rekenclusters zijn gebaseerd op een van deze reeksen, maakt u deze opnieuw met een andere VM-grootte.

Deze reeks is op 31 augustus 2023 buiten gebruik gesteld:

• Azure NC-serie
• Azure NCv2-serie
• Azure ND-serie
• Azure NV- en NV_Promo-serie

Deze reeks is op 31 augustus 2024 buiten gebruik gesteld:

• Azure Av1-serie
• Azure HB-serie

Vastgelopen bij het wijzigen van het formaat

Als uw Azure Machine Learning-rekencluster vastloopt bij het wijzigen van het formaat (0 -> 0) voor de status van het knooppunt, kan azure-resourcevergrendeling de oorzaak zijn.

Met Azure kunt u vergrendelingen op resources plaatsen, zodat ze niet kunnen worden verwijderd of alleen-lezen zijn. Het vergrendelen van een resource kan leiden tot onverwachte resultaten. Voor sommige bewerkingen die de resource niet lijken te wijzigen, zijn acties vereist die door de vergrendeling onmogelijk zijn.

Met Azure Machine Learning voorkomt het toepassen van een verwijderingsvergrendeling op de resourcegroep voor uw werkruimte schaalbewerkingen voor Azure ML-rekenclusters. Als u dit probleem wilt omzeilen, raden we u aan de vergrendeling van de resourcegroep te verwijderen en in plaats daarvan toe te passen op afzonderlijke items in de groep.

Belangrijk

Pas de vergrendeling niet toe op de volgende resources:

Resourcenaam	Brontype
<GUID>-azurebatch-cloudservicenetworksecurityggroup	Netwerkbeveiligingsgroep
<GUID>-azurebatch-cloudservicepublicip	Openbaar IP-adres
<GUID>-azurebatch-cloudserviceloadbalancer	Load balancer

Deze resources worden gebruikt om te communiceren en bewerkingen uit te voeren zoals schalen op het rekencluster. Als u de resourcevergrendeling van deze resources verwijdert, moet automatisch schalen voor uw rekenclusters zijn toegestaan.

Zie Resources vergrendelen om onverwachte wijzigingen te voorkomen voor meer informatie over het vergrendelen van resources.

Volgende stap

Gebruik uw rekencluster om het volgende te doen:

• Een trainingsuitvoering verzenden
• Batchdeductie uitvoeren