CLI (v2) YAML-schema för onlineslutpunkt

  • Artikel

GÄLLER FÖR:Azure CLI ml extension v2 (aktuell)

JSON-källschemat finns på https://azuremlschemas.azureedge.net/latest/managedOnlineEndpoint.schema.json för den hanterade onlineslutpunkten och för https://azuremlschemas.azureedge.net/latest/kubernetesOnlineEndpoint.schema.json Kubernetes onlineslutpunkt. Skillnaderna mellan hanterad onlineslutpunkt och Kubernetes onlineslutpunkt beskrivs i tabellen med egenskaper i den här artikeln. Exemplet i den här artikeln fokuserar på hanterad onlineslutpunkt.

Kommentar

YAML-syntaxen som beskrivs i det här dokumentet baseras på JSON-schemat för den senaste versionen av ML CLI v2-tillägget. Den här syntaxen är garanterad att endast fungera med den senaste versionen av ML CLI v2-tillägget. Du hittar scheman för äldre tilläggsversioner på https://azuremlschemasprod.azureedge.net/.

Kommentar

Ett fullständigt angivet exempel på YAML för hanterade onlineslutpunkter är tillgängligt som referens

YAML-syntax

Key Typ Beskrivning Tillåtna värden Default value
$schema sträng YAML-schemat. Om du använder Azure Machine Learning VS Code-tillägget för att skapa YAML-filen, inklusive $schema längst upp i filen, kan du anropa schema- och resursavslutningar.
name sträng Obligatoriska. Namnet på slutpunkten. Måste vara unikt på Azure-regionnivå.

Namngivningsregler definieras under slutpunktsgränser.
description sträng Beskrivning av slutpunkten.
tags objekt Ordlista med taggar för slutpunkten.
auth_mode sträng Autentiseringsmetoden för slutpunkten. Nyckelbaserad autentisering och Tokenbaserad autentisering i Azure Machine Learning stöds. Nyckelbaserad autentisering upphör inte att gälla, men tokenbaserad autentisering i Azure Machine Learning gör det. key, aml_token key
compute sträng Namnet på beräkningsmålet som slutpunktsdistributionerna ska köras på. Det här fältet gäller endast för slutpunktsdistributioner till Azure Arc-aktiverade Kubernetes-kluster (beräkningsmålet som anges i det här fältet måste ha type: kubernetes). Ange inte det här fältet om du gör en hanterad online-slutsatsdragning.
identity objekt Konfigurationen för hanterad identitet för åtkomst till Azure-resurser för slutpunktsetablering och slutsatsdragning.
identity.type sträng Typen av hanterad identitet. Om typen är user_assignedmåste egenskapen identity.user_assigned_identities också anges. system_assigned, user_assigned
identity.user_assigned_identities matris Lista över fullständigt kvalificerade resurs-ID:n för de användartilldelade identiteterna.
traffic objekt Trafik representerar procentandelen begäranden som ska hanteras av olika distributioner. Den representeras av en ordlista med nyckel/värde-par, där nycklar representerar distributionsnamnet och värdet representerar procentandelen trafik till den distributionen. Innebär till exempel blue: 90 green: 10 att 90 % begäranden skickas till distributionen med namnet blue och 10 % skickas till distributionen green. Den totala trafiken måste antingen vara 0 eller summera upp till 100. Se Valv distribution för onlineslutpunkter för att se hur trafikkonfigurationen fungerar.

Obs! Du kan inte ange det här fältet när onlineslutpunkten skapas, eftersom distributionerna under slutpunkten måste skapas innan trafiken kan ställas in. Du kan uppdatera trafiken för en onlineslutpunkt när distributionerna har skapats med hjälp av az ml online-endpoint update, till exempel az ml online-endpoint update --name <endpoint_name> --traffic "blue=90 green=10".
public_network_access sträng Den här flaggan styr synligheten för den hanterade slutpunkten. När disabledtas inkommande bedömningsbegäranden emot med hjälp av den privata slutpunkten för Azure Machine Learning-arbetsytan och slutpunkten kan inte nås från offentliga nätverk. Den här flaggan gäller endast för hanterade slutpunkter enabled, disabled enabled
mirror_traffic sträng Procentandel av livetrafik som ska speglas i en distribution. Speglingstrafiken ändrar inte resultatet som returneras till klienterna. Den speglade procentandelen trafik kopieras och skickas till den angivna distributionen så att du kan samla in mått och loggning utan att påverka klienter. Om du till exempel vill kontrollera om svarstiden ligger inom godkända gränser och att det inte finns några HTTP-fel. Den representeras av en ordlista med ett enda nyckel/värde-par, där nyckeln representerar distributionsnamnet och värdet representerar procentandelen trafik som ska speglas i distributionen. Mer information finns i Testa en distribution med speglad trafik.

Anmärkningar

Kommandona az ml online-endpoint kan användas för att hantera Azure Machine Learning-slutpunkter online.

Exempel

Exempel är tillgängliga i GitHub-exempellagringsplatsen. Flera visas nedan.

YAML: basic

$schema: https://azuremlschemas.azureedge.net/latest/managedOnlineEndpoint.schema.json
name: my-endpoint
auth_mode: key

YAML: systemtilldelad identitet

$schema: https://azuremlschemas.azureedge.net/latest/managedOnlineEndpoint.schema.json
name: my-sai-endpoint
auth_mode: key

YAML: användartilldelad identitet

$schema: https://azuremlschemas.azureedge.net/latest/managedOnlineEndpoint.schema.json
name: my-uai-endpoint
auth_mode: key
identity:
  type: user_assigned
  user_assigned_identities:
    - resource_id: user_identity_ARM_id_place_holder

Nästa steg