Sdílet prostřednictvím

Pracovní prostory Microsoft.MachineLearningServices / inferencePools 2023-08-01-preview

  • Článek

Definice prostředku Bicep

Typ prostředku workspaces/inferencePools je možné nasadit s operacemi, které cílí na:

Seznam změněných vlastností v jednotlivých verzích rozhraní API najdete v protokolu změn.

Formát prostředku

Pokud chcete vytvořit prostředek Microsoft.MachineLearningServices/workspaces/inferencePools, přidejte do šablony následující bicep.

resource symbolicname 'Microsoft.MachineLearningServices/workspaces/inferencePools@2023-08-01-preview' = {
  name: 'string'
  location: 'string'
  tags: {
    tagName1: 'tagValue1'
    tagName2: 'tagValue2'
  }
  sku: {
    capacity: int
    family: 'string'
    name: 'string'
    size: 'string'
    tier: 'string'
  }
  kind: 'string'
  parent: resourceSymbolicName
  identity: {
    type: 'string'
    userAssignedIdentities: {
      {customized property}: {}
    }
  }
  properties: {
    codeConfiguration: {
      codeId: 'string'
      scoringScript: 'string'
    }
    description: 'string'
    environmentConfiguration: {
      environmentId: 'string'
      environmentVariables: {
        {customized property}: 'string'
      }
      livenessProbe: {
        failureThreshold: int
        initialDelay: 'string'
        period: 'string'
        successThreshold: int
        timeout: 'string'
      }
      readinessProbe: {
        failureThreshold: int
        initialDelay: 'string'
        period: 'string'
        successThreshold: int
        timeout: 'string'
      }
      startupProbe: {
        failureThreshold: int
        initialDelay: 'string'
        period: 'string'
        successThreshold: int
        timeout: 'string'
      }
    }
    modelConfiguration: {
      modelId: 'string'
    }
    nodeSkuType: 'string'
    properties: {
      {customized property}: 'string'
      {customized property}: 'string'
      {customized property}: 'string'
    }
    requestConfiguration: {
      maxConcurrentRequestsPerInstance: int
      requestTimeout: 'string'
    }
  }
}

Hodnoty vlastností

pracovní prostory / odvozováníPools

Název Description Hodnota
name Název prostředku

Přečtěte si, jak nastavit názvy a typy pro podřízené prostředky v Bicepu.		 string (povinné)
location Geografické umístění, ve kterém se nachází prostředek string (povinné)
tags Značky prostředků. Slovník názvů značek a hodnot. Viz Značky v šablonách
Sku Podrobnosti skladové položky vyžadované pro kontrakt ARM pro automatické škálování Sku
Druhu Metadata používaná portálem, nástroji atd. k vykreslení různých uživatelských prostředí pro prostředky stejného typu. řetězec
Nadřazené V nástroji Bicep můžete zadat nadřazený prostředek pro podřízený prostředek. Tuto vlastnost stačí přidat pouze v případě, že je podřízený prostředek deklarován mimo nadřazený prostředek.

Další informace najdete v tématu Podřízený prostředek mimo nadřazený prostředek.		 Symbolický název prostředku typu: pracovní prostory
identity Identita spravované služby (identity přiřazené systémem nebo uživatelem) ManagedServiceIdentity
properties [Povinné] Další atributy entity. InferencePoolProperties (povinné)

ManagedServiceIdentity

Název Description Hodnota
typ Typ identity spravované služby (kde jsou povolené typy SystemAssigned i UserAssigned). 'Žádný'
'SystemAssigned'
'SystemAssigned,UserAssigned'
UserAssigned (povinné)
userAssignedIdentity Sada identit přiřazených uživatelem přidružených k prostředku. Klíče slovníku userAssignedIdentities budou ID prostředků ARM ve formátu /subscriptions/{subscriptionId}/resourceGroups/{resourceGroupName}/providers/Microsoft.ManagedIdentity/userAssignedIdentities/{identityName}. Hodnoty slovníku můžou být prázdné objekty ({}) v požadavcích. UserAssignedIdentities

UserAssignedIdentities

Název Description Hodnota
{přizpůsobená vlastnost} UserAssignedIdentity

UserAssignedIdentity

Tento objekt neobsahuje žádné vlastnosti, které by se nastavily během nasazování. Všechny vlastnosti jsou Jen pro čtení.

OdvozováníPoolVlastnosti

Název Description Hodnota
codeConfiguration Konfigurace kódu pro fond odvozování Konfigurace kódu
description Popis prostředku. řetězec
environmentConfiguration (Konfigurace prostředí) EnvironmentConfiguration pro fond odvozování. PoolEnvironmentConfiguration
konfigurace modelu ModelConfiguration pro fond odvozování. PoolModelConfiguration
nodeSkuType [Povinné] Typ výpočetní instance. string (povinné)

Omezení:
Minimální délka = 1
Pattern = [a-zA-Z0-9_]
properties Slovník vlastností. Vlastnosti je možné přidat, ale ne odebrat ani změnit. VlastnostiBaseProperties
requestConfiguration Požádejte o konfiguraci fondu odvozování. Konfigurace požadavku

Konfigurace kódu

Název Description Hodnota
id kódu ID prostředku ARM prostředku kódu. řetězec
scoringScript [Povinné] Skript, který se má spustit při spuštění. např. "score.py" string (povinné)

Omezení:
Minimální délka = 1
Vzor = [a-zA-Z0-9_]

PoolEnvironmentConfiguration

Název Description Hodnota
id prostředí ID prostředku ARM specifikace prostředí pro fond odvozování řetězec
environmentVariables Konfigurace proměnných prostředí pro fond odvozování. PoolEnvironmentConfigurationEnvironmentVariables
livenessProbe Sonda aktivity pravidelně monitoruje stav kontejneru. ProbeSettings
readinessProbe Sonda připravenosti ověřuje, jestli je kontejner připravený obsluhovat provoz. Vlastnosti a výchozí hodnoty jsou stejné jako u sondy aktivity. ProbeSettings
startupProbe Tím se ověří, jestli je aplikace v kontejneru spuštěná. Spouštěcí testy se spouštějí před jakoukoli jinou sondou, a pokud se úspěšně nedokončí, zakážou jiné sondy. ProbeSettings

PoolEnvironmentConfigurationEnvironmentVariables

Název Description Hodnota
{přizpůsobená vlastnost} řetězec

ProbeSettings

Název Description Hodnota
failureThreshold Počet selhání, která se mají povolit před vrácením stavu, který není v pořádku. int
Initialdelay Zpoždění před první sondou ve formátu ISO 8601. řetězec
period Doba mezi sondami ve formátu ISO 8601. řetězec
successThreshold Počet úspěšných sond před vrácením stavu v pořádku int
timeout Časový limit sondy ve formátu ISO 8601. řetězec

PoolModelConfiguration

Název Description Hodnota
id modelu Cesta URI k modelu. řetězec

PropertiesBaseProperties

Název Description Hodnota
{přizpůsobená vlastnost} řetězec
{přizpůsobená vlastnost} řetězec
{přizpůsobená vlastnost} řetězec

Konfigurace požadavku

Název Description Hodnota
maxConcurrentRequestsPerInstance Maximální povolený počet souběžných požadavků na uzel na nasazení. Výchozí hodnota je 1. int
časový limit požadavku Časový limit vyhodnocení ve formátu ISO 8601.
Výchozí hodnota je 5000ms.
 řetězec

Skladová jednotka (SKU)

Název Description Hodnota
capacity Pokud skladová položka podporuje horizontální navýšení/snížení kapacity, mělo by být zahrnuto celé číslo kapacity. Pokud pro prostředek není možné škálovat na více nebo více instancí, může se to vynechat. int
family Pokud má služba různé generace hardwaru pro stejnou skladovou položku, můžete to tady zaznamenat. řetězec
name Název skladové položky. Příklad – P3. Obvykle se jedná o písmeno+číselný kód. string (povinné)
size Velikost skladové položky. Pokud je pole pro název kombinací vrstvy a nějaké jiné hodnoty, jedná se o samostatný kód. řetězec
tier Toto pole musí poskytovatel prostředků implementovat, pokud má služba více než jednu úroveň, ale nevyžaduje se u PUT. 'Základní'
'Zdarma'
Premium
'Standardní'

Definice prostředku šablony ARM

Typ prostředku pracovní prostory/odvozováníPools je možné nasadit s operacemi, které cílí na:

Seznam změněných vlastností v jednotlivých verzích rozhraní API najdete v protokolu změn.

Formát prostředku

Pokud chcete vytvořit prostředek Microsoft.MachineLearningServices/workspaces/inferencePools, přidejte do šablony následující kód JSON.

{
  "type": "Microsoft.MachineLearningServices/workspaces/inferencePools",
  "apiVersion": "2023-08-01-preview",
  "name": "string",
  "location": "string",
  "tags": {
    "tagName1": "tagValue1",
    "tagName2": "tagValue2"
  },
  "sku": {
    "capacity": "int",
    "family": "string",
    "name": "string",
    "size": "string",
    "tier": "string"
  },
  "kind": "string",
  "identity": {
    "type": "string",
    "userAssignedIdentities": {
      "{customized property}": {}
    }
  },
  "properties": {
    "codeConfiguration": {
      "codeId": "string",
      "scoringScript": "string"
    },
    "description": "string",
    "environmentConfiguration": {
      "environmentId": "string",
      "environmentVariables": {
        "{customized property}": "string"
      },
      "livenessProbe": {
        "failureThreshold": "int",
        "initialDelay": "string",
        "period": "string",
        "successThreshold": "int",
        "timeout": "string"
      },
      "readinessProbe": {
        "failureThreshold": "int",
        "initialDelay": "string",
        "period": "string",
        "successThreshold": "int",
        "timeout": "string"
      },
      "startupProbe": {
        "failureThreshold": "int",
        "initialDelay": "string",
        "period": "string",
        "successThreshold": "int",
        "timeout": "string"
      }
    },
    "modelConfiguration": {
      "modelId": "string"
    },
    "nodeSkuType": "string",
    "properties": {
      "{customized property}": "string",
      "{customized property}": "string",
      "{customized property}": "string"
    },
    "requestConfiguration": {
      "maxConcurrentRequestsPerInstance": "int",
      "requestTimeout": "string"
    }
  }
}

Hodnoty vlastností

pracovní prostory / odvozováníPools

Název Description Hodnota
typ Typ prostředku Microsoft.MachineLearningServices/workspaces/inferencePools
apiVersion Verze rozhraní API prostředku 2023-08-01-preview
name Název prostředku

Podívejte se, jak nastavit názvy a typy pro podřízené prostředky v šablonách JSON ARM.		 string (povinné)
location Geografické umístění, kde se prostředek nachází string (povinné)
tags Značky prostředků. Slovník názvů a hodnot značek. Zobrazit značky v šablonách
Sku Podrobnosti o SKU vyžadované pro kontrakt ARM pro automatické škálování Sku
Druhu Metadata používaná portálem, nástroji atd. k vykreslení různých prostředí uživatelského prostředí pro prostředky stejného typu. řetězec
identity Identita spravované služby (identity přiřazené systémem nebo uživatelem) Identita spravované služby
properties [Povinné] Další atributy entity InferencePoolProperties (povinné)

Identita spravované služby

Název Description Hodnota
typ Typ identity spravované služby (kde jsou povolené typy SystemAssigned i UserAssigned) 'Žádný'
'SystemAssigned'
'SystemAssigned,UserAssigned'
UserAssigned (povinné)
userAssignedIdentity Sada identit přiřazených uživatelem přidružených k prostředku. Klíče slovníku userAssignedIdentities budou ID prostředků ARM ve formátu /subscriptions/{subscriptionId}/resourceGroups/{název_skupiny_prostředků}/providers/Microsoft.ManagedIdentity/userAssignedIdentities/{identityName}. Hodnoty slovníku můžou být prázdné objekty ({}) v požadavcích. UserAssignedIdentity

UserAssignedIdentity

Název Description Hodnota
{přizpůsobená vlastnost} UserAssignedIdentity

UserAssignedIdentity

Tento objekt neobsahuje žádné vlastnosti, které by se nastavily během nasazování. Všechny vlastnosti jsou jen pro čtení.

InferencePoolVlastnosti

Název Description Hodnota
codeConfiguration Konfigurace kódu pro fond odvozování. CodeConfiguration
description Popis prostředku řetězec
konfigurace prostředí EnvironmentConfiguration pro fond odvozování. PoolEnvironmentConfiguration
konfigurace modelu ModelConfiguration pro fond odvozování. PoolModelConfiguration
nodeSkuType [Povinné] Typ výpočetní instance. string (povinné)

Omezení:
Minimální délka = 1
Vzor = [a-zA-Z0-9_]
properties Slovník vlastností. Vlastnosti se dají přidat, ale ne odebrat ani změnit. PropertiesBaseProperties
konfigurace požadavku Požádejte o konfiguraci fondu odvozování. Konfigurace požadavku

CodeConfiguration

Název Description Hodnota
id kódu ID prostředku ARM prostředku kódu. řetězec
scoringScript [Povinné] Skript, který se má spustit při spuštění. např. "score.py" string (povinné)

Omezení:
Minimální délka = 1
Vzor = [a-zA-Z0-9_]

PoolEnvironmentConfiguration

Název Description Hodnota
id prostředí ID prostředku ARM specifikace prostředí pro fond odvozování řetězec
environmentVariables Konfigurace proměnných prostředí pro fond odvozování. PoolEnvironmentConfigurationEnvironmentVariables
livenessProbe Sonda aktivity pravidelně monitoruje stav kontejneru. ProbeSettings
readinessProbe Sonda připravenosti ověřuje, jestli je kontejner připravený obsluhovat provoz. Vlastnosti a výchozí hodnoty jsou stejné jako u sondy aktivity. ProbeSettings
startupProbe Tím se ověří, jestli je aplikace v kontejneru spuštěná. Spouštěcí testy se spouštějí před jakoukoli jinou sondou, a pokud se úspěšně nedokončí, zakážou jiné sondy. ProbeSettings

PoolEnvironmentConfigurationEnvironmentVariables

Název Description Hodnota
{přizpůsobená vlastnost} řetězec

ProbeSettings

Název Description Hodnota
failureThreshold Počet selhání, která se mají povolit před vrácením stavu, který není v pořádku. int
Initialdelay Zpoždění před první sondou ve formátu ISO 8601. řetězec
period Doba mezi sondami ve formátu ISO 8601. řetězec
successThreshold Počet úspěšných sond před vrácením stavu v pořádku int
timeout Časový limit sondy ve formátu ISO 8601. řetězec

PoolModelConfiguration

Název Description Hodnota
id modelu Cesta URI k modelu. řetězec

PropertiesBaseProperties

Název Description Hodnota
{přizpůsobená vlastnost} řetězec
{přizpůsobená vlastnost} řetězec
{přizpůsobená vlastnost} řetězec

Konfigurace požadavku

Název Description Hodnota
maxConcurrentRequestsPerInstance Maximální povolený počet souběžných požadavků na uzel na nasazení. Výchozí hodnota je 1. int
časový limit požadavku Časový limit vyhodnocení ve formátu ISO 8601.
Výchozí hodnota je 5000ms.
 řetězec

Skladová jednotka (SKU)

Název Description Hodnota
capacity Pokud skladová položka podporuje horizontální navýšení/snížení kapacity, mělo by být zahrnuto celé číslo kapacity. Pokud pro prostředek není možné škálovat na více nebo více instancí, může se to vynechat. int
family Pokud má služba různé generace hardwaru pro stejnou skladovou položku, můžete to tady zaznamenat. řetězec
name Název skladové položky. Příklad – P3. Obvykle se jedná o písmeno+číselný kód. string (povinné)
size Velikost skladové položky. Pokud je pole pro název kombinací vrstvy a nějaké jiné hodnoty, jedná se o samostatný kód. řetězec
tier Toto pole musí poskytovatel prostředků implementovat, pokud má služba více než jednu úroveň, ale nevyžaduje se u PUT. 'Základní'
'Zdarma'
Premium
'Standardní'

Definice prostředku Terraform (poskytovatel AzAPI)

Typ prostředku pracovní prostory/odvozováníPools je možné nasadit s operacemi, které cílí na:

  • Skupiny prostředků

Seznam změněných vlastností v jednotlivých verzích rozhraní API najdete v protokolu změn.

Formát prostředku

Pokud chcete vytvořit prostředek Microsoft.MachineLearningServices/workspaces/inferencePools, přidejte do šablony následující Terraform.

resource "azapi_resource" "symbolicname" {
  type = "Microsoft.MachineLearningServices/workspaces/inferencePools@2023-08-01-preview"
  name = "string"
  location = "string"
  parent_id = "string"
  tags = {
    tagName1 = "tagValue1"
    tagName2 = "tagValue2"
  }
  identity {
    type = "string"
    identity_ids = []
  }
  body = jsonencode({
    properties = {
      codeConfiguration = {
        codeId = "string"
        scoringScript = "string"
      }
      description = "string"
      environmentConfiguration = {
        environmentId = "string"
        environmentVariables = {
          {customized property} = "string"
        }
        livenessProbe = {
          failureThreshold = int
          initialDelay = "string"
          period = "string"
          successThreshold = int
          timeout = "string"
        }
        readinessProbe = {
          failureThreshold = int
          initialDelay = "string"
          period = "string"
          successThreshold = int
          timeout = "string"
        }
        startupProbe = {
          failureThreshold = int
          initialDelay = "string"
          period = "string"
          successThreshold = int
          timeout = "string"
        }
      }
      modelConfiguration = {
        modelId = "string"
      }
      nodeSkuType = "string"
      properties = {
        {customized property} = "string"
        {customized property} = "string"
        {customized property} = "string"
      }
      requestConfiguration = {
        maxConcurrentRequestsPerInstance = int
        requestTimeout = "string"
      }
    }
    sku = {
      capacity = int
      family = "string"
      name = "string"
      size = "string"
      tier = "string"
    }
    kind = "string"
  })
}

Hodnoty vlastností

pracovní prostory / odvozováníPools

Název Description Hodnota
typ Typ prostředku Microsoft.MachineLearningServices/workspaces/inferencePools@2023-08-01-preview
name Název prostředku string (povinné)
location Geografické umístění, kde se prostředek nachází string (povinné)
parent_id ID prostředku, který je nadřazený pro tento prostředek. ID prostředku typu: pracovní prostory
tags Značky prostředků. Slovník názvů a hodnot značek.
Sku Podrobnosti o SKU vyžadované pro kontrakt ARM pro automatické škálování Sku
Druhu Metadata používaná portálem, nástroji atd. k vykreslení různých prostředí uživatelského prostředí pro prostředky stejného typu. řetězec
identity Identita spravované služby (identity přiřazené systémem nebo uživatelem) Identita spravované služby
properties [Povinné] Další atributy entity InferencePoolProperties (povinné)

Identita spravované služby

Název Description Hodnota
typ Typ identity spravované služby (kde jsou povolené typy SystemAssigned i UserAssigned) "SystemAssigned"
"SystemAssigned,UserAssigned"
"UserAssigned" (povinné)
identity_ids Sada identit přiřazených uživatelem přidružených k prostředku. Klíče slovníku userAssignedIdentities budou ID prostředků ARM ve formátu /subscriptions/{subscriptionId}/resourceGroups/{název_skupiny_prostředků}/providers/Microsoft.ManagedIdentity/userAssignedIdentities/{identityName}. Hodnoty slovníku můžou být prázdné objekty ({}) v požadavcích. Pole ID identit uživatelů

UserAssignedIdentity

Název Description Hodnota
{přizpůsobená vlastnost} UserAssignedIdentity

UserAssignedIdentity

Tento objekt neobsahuje žádné vlastnosti, které by se nastavily během nasazování. Všechny vlastnosti jsou jen pro čtení.

InferencePoolVlastnosti

Název Description Hodnota
codeConfiguration Konfigurace kódu pro fond odvozování. CodeConfiguration
description Popis prostředku řetězec
konfigurace prostředí EnvironmentConfiguration pro fond odvozování. PoolEnvironmentConfiguration
konfigurace modelu ModelConfiguration pro fond odvozování. PoolModelConfiguration
nodeSkuType [Povinné] Typ výpočetní instance. string (povinné)

Omezení:
Minimální délka = 1
Pattern = [a-zA-Z0-9_]
properties Slovník vlastností. Vlastnosti je možné přidat, ale ne odebrat ani změnit. VlastnostiBaseProperties
requestConfiguration Požádejte o konfiguraci fondu odvozování. Konfigurace požadavku

Konfigurace kódu

Název Description Hodnota
id kódu ID prostředku ARM pro prostředek kódu. řetězec
scoringScript [Povinné] Skript, který se má spustit při spuštění. např. "score.py" string (povinné)

Omezení:
Minimální délka = 1
Pattern = [a-zA-Z0-9_]

PoolEnvironmentConfiguration

Název Description Hodnota
environmentId ID prostředku ARM specifikace prostředí pro fond odvozování řetězec
environmentVariables Konfigurace proměnných prostředí pro fond odvozování. PoolEnvironmentConfigurationEnvironmentVariables
živostProbe Sonda živosti pravidelně monitoruje stav kontejneru. ProbeSettings
připravenostProbe Sonda připravenosti ověří, jestli je kontejner připravený pro obsluhu provozu. Vlastnosti a výchozí hodnoty jsou stejné jako u sondy živosti. ProbeSettings
startupProbe Tím se ověří, jestli je aplikace v kontejneru spuštěná. Spouštěcí sondy se spustí před jakoukoli jinou sondou, a pokud se úspěšně nedokončí, zakáže ostatní sondy. ProbeSettings

PoolEnvironmentConfigurationEnvironmentVariables

Název Description Hodnota
{přizpůsobená vlastnost} řetězec

ProbeSettings

Název Description Hodnota
failureThreshold Počet selhání, která se mají povolit před vrácením stavu, který není v pořádku. int
Initialdelay Zpoždění před první sondou ve formátu ISO 8601. řetězec
period Délka doby mezi sondami ve formátu ISO 8601. řetězec
successThreshold Počet úspěšných sond před vrácením stavu v pořádku. int
timeout Časový limit sondy ve formátu ISO 8601 řetězec

PoolModelConfiguration

Název Description Hodnota
modelId Cesta identifikátoru URI k modelu. řetězec

VlastnostiBaseProperties

Název Description Hodnota
{přizpůsobená vlastnost} řetězec
{přizpůsobená vlastnost} řetězec
{přizpůsobená vlastnost} řetězec

Konfigurace požadavku

Název Description Hodnota
maxConcurrentRequestsPerInstance Maximální povolený počet souběžných požadavků na jeden uzel na nasazení. Výchozí hodnota je 1. int
requestTimeout Časový limit bodování ve formátu ISO 8601
Výchozí hodnota je 5000ms.
 řetězec

Skladová jednotka (SKU)

Název Description Hodnota
capacity Pokud skladová položka podporuje horizontální navýšení/snížení kapacity, mělo by být zahrnuto celé číslo kapacity. Pokud u prostředku není možné provést horizontální navýšení nebo snížení kapacity, může být vynecháno. int
family Pokud má služba různé generace hardwaru, pro stejnou skladovou položku, můžete to tady zaznamenat. řetězec
name Název skladové položky. Příklad – P3. Obvykle se jedná o písmeno+číselný kód. string (povinné)
size Velikost skladové položky Pokud je pole název kombinací vrstvy a nějaké jiné hodnoty, bude to samostatný kód. řetězec
tier Toto pole musí poskytovatel prostředků implementovat, pokud má služba více než jednu úroveň, ale není vyžadováno u PUT. "Základní"
"Zdarma"
"Premium"
"Standardní"