Pracovní prostory Microsoft.MachineLearningServices/onlineEndpoints/deployments 2021-03-01-preview
Definice prostředku Bicep
Typ prostředku workspaces/onlineEndpoints/deployments je možné nasadit s operacemi, které cílí na:
- Skupiny prostředků – viz příkazy nasazení skupiny prostředků.
Seznam změněných vlastností v jednotlivých verzích rozhraní API najdete v protokolu změn.
Formát prostředku
Pokud chcete vytvořit prostředek Microsoft.MachineLearningServices/workspaces/onlineEndpoints/deployments, přidejte do šablony následující bicep.
resource symbolicname 'Microsoft.MachineLearningServices/workspaces/onlineEndpoints/deployments@2021-03-01-preview' = {
name: 'string'
location: 'string'
tags: {
tagName1: 'tagValue1'
tagName2: 'tagValue2'
}
kind: 'string'
parent: resourceSymbolicName
identity: {
type: 'string'
userAssignedIdentities: {
{customized property}: {
clientId: 'string'
principalId: 'string'
}
}
}
properties: {
appInsightsEnabled: bool
codeConfiguration: {
codeId: 'string'
scoringScript: 'string'
}
description: 'string'
environmentId: 'string'
environmentVariables: {
{customized property}: 'string'
}
livenessProbe: {
failureThreshold: int
initialDelay: 'string'
period: 'string'
successThreshold: int
timeout: 'string'
}
model: {
referenceType: 'string'
// For remaining properties, see AssetReferenceBase objects
}
properties: {
{customized property}: 'string'
}
requestSettings: {
maxConcurrentRequestsPerInstance: int
maxQueueWait: 'string'
requestTimeout: 'string'
}
scaleSettings: {
maxInstances: int
minInstances: int
scaleType: 'string'
// For remaining properties, see OnlineScaleSettings objects
}
endpointComputeType: 'string'
// For remaining properties, see OnlineDeployment objects
}
}
OnlineDeployment – objekty
Nastavte vlastnost endpointComputeType pro určení typu objektu.
Pro K8S použijte:
endpointComputeType: 'K8S'
containerResourceRequirements: {
cpu: int
cpuLimit: int
fpga: int
gpu: int
memoryInGB: int
memoryInGBLimit: int
}
V případě spravovaného použijte:
endpointComputeType: 'Managed'
instanceType: 'string'
readinessProbe: {
failureThreshold: int
initialDelay: 'string'
period: 'string'
successThreshold: int
timeout: 'string'
}
Objekty AssetReferenceBase
Nastavte vlastnost referenceType a určete typ objektu.
Pro DataPath použijte:
referenceType: 'DataPath'
datastoreId: 'string'
path: 'string'
Jako ID použijte:
referenceType: 'Id'
assetId: 'string'
Jako OutputPath použijte:
referenceType: 'OutputPath'
jobId: 'string'
path: 'string'
Objekty OnlineScaleSettings
Nastavte vlastnost scaleType a určete typ objektu.
V části Automaticky použijte:
scaleType: 'Auto'
pollingInterval: 'string'
targetUtilizationPercentage: int
Pro Ruční použijte:
scaleType: 'Manual'
instanceCount: int
Hodnoty vlastností
pracovní prostory/online koncové body/nasazení
Název | Description | Hodnota |
---|---|---|
name | Název prostředku Přečtěte si, jak nastavit názvy a typy pro podřízené prostředky v Bicepu. |
string (povinné) |
location | Geografické umístění, ve kterém se nachází prostředek | string (povinné) |
tags | Značky prostředků. | Slovník názvů značek a hodnot. Viz Značky v šablonách |
Druhu | Metadata používaná portálem, nástroji atd. k vykreslení různých uživatelských prostředí pro prostředky stejného typu. | řetězec |
Nadřazené | V nástroji Bicep můžete zadat nadřazený prostředek pro podřízený prostředek. Tuto vlastnost stačí přidat pouze v případě, že je podřízený prostředek deklarován mimo nadřazený prostředek. Další informace najdete v tématu Podřízený prostředek mimo nadřazený prostředek. |
Symbolický název prostředku typu: onlineEndpoints |
identity | Identita služby přidružená k prostředku | ResourceIdentity |
properties | [Povinné] Další atributy entity. | OnlineDeployment (povinné) |
ResourceIdentity
Název | Description | Hodnota |
---|---|---|
typ | Definuje hodnoty pro typ ResourceIdentity. | 'Žádný' 'SystemAssigned' 'SystemAssigned,UserAssigned' 'UserAssigned' |
userAssignedIdentity | Slovník identit přiřazených uživatelem, klíč je ID prostředku ARM UAI. | ResourceIdentityUserAssignedIdentities |
ResourceIdentityUserAssignedIdentities
Název | Description | Hodnota |
---|---|---|
{přizpůsobená vlastnost} | UserAssignedIdentityMeta |
UserAssignedIdentityMeta
Název | Description | Hodnota |
---|---|---|
clientId | Neboli ID aplikace, jedinečný identifikátor vygenerovaný Azure AD, který je při počátečním zřizování svázán s aplikací a instančním objektem. | řetězec |
principalId | ID objektu instančního objektu pro vaši spravovanou identitu, které se používá k udělení přístupu na základě role k prostředku Azure. | řetězec |
OnlineDeployment
Název | Description | Hodnota |
---|---|---|
appInsightsEnabled | Pokud ano, povolí protokolování Application Insights. | bool |
codeConfiguration | Konfigurace kódu pro nasazení koncového bodu | Konfigurace kódu |
description | Popis nasazení koncového bodu | řetězec |
environmentId | ID prostředku ARM specifikace prostředí pro nasazení koncového bodu | řetězec |
environmentVariables | Konfigurace proměnných prostředí pro nasazení | OnlineDeploymentEnvironmentVariables |
živostProbe | Konfigurace sondy připravenosti nebo živosti kontejneru nasazení. | ProbeSettings |
model | Odkaz na prostředek modelu pro nasazení koncového bodu. | AssetReferenceBase |
properties | Slovník vlastností. Vlastnosti je možné přidat, ale ne odebrat ani změnit. | OnlineDeploymentProperties |
requestSettings | Konfigurace bodování žádostí o nasazení online | OnlineRequestSettings |
scaleSettings | Konfigurace škálování online nasazení | OnlineScaleSettings |
endpointComputeType | Nastavení typu objektu | K8S Spravované (povinné) |
Konfigurace kódu
Název | Description | Hodnota |
---|---|---|
id kódu | ID prostředku ARM pro prostředek kódu. | řetězec |
scoringScript | [Povinné] Skript, který se má spustit při spuštění. např. "score.py" | string (povinné) Omezení: Minimální délka = 1 Pattern = [a-zA-Z0-9_] |
OnlineDeploymentEnvironmentVariables
Název | Description | Hodnota |
---|---|---|
{přizpůsobená vlastnost} | řetězec |
ProbeSettings
Název | Description | Hodnota |
---|---|---|
failureThreshold | Počet selhání, která se mají povolit před vrácením stavu, který není v pořádku. | int |
Initialdelay | Zpoždění před první sondou ve formátu ISO 8601. | řetězec |
period | Délka doby mezi sondami ve formátu ISO 8601. | řetězec |
successThreshold | Počet úspěšných sond před vrácením stavu v pořádku. | int |
timeout | Časový limit sondy ve formátu ISO 8601 | řetězec |
AssetReferenceBase
Název | Description | Hodnota |
---|---|---|
referenční typ | Nastavení typu objektu | DataPath Id OutputPath (povinné) |
DataPathAssetReference
Název | Description | Hodnota |
---|---|---|
referenční typ | [Povinné] Určuje typ odkazu na prostředek. | 'DataPath' (povinné) |
id úložiště dat | ID prostředku ARM úložiště dat, ve kterém se prostředek nachází. | řetězec |
program | Cesta k souboru nebo adresáři v úložišti dat. | řetězec |
IdAssetReference
Název | Description | Hodnota |
---|---|---|
referenční typ | [Povinné] Určuje typ odkazu na prostředek. | 'Id' (povinné) |
ID prostředku | [Povinné] ID prostředku ARM prostředku. | string (povinné) Omezení: Vzor = [a-zA-Z0-9_] |
OutputPathAssetReference
Název | Description | Hodnota |
---|---|---|
referenční typ | [Povinné] Určuje typ odkazu na prostředek. | 'OutputPath' (povinné) |
ID úlohy | ID prostředku ARM úlohy | řetězec |
program | Cesta k souboru nebo adresáři ve výstupu úlohy. | řetězec |
OnlineDeploymentProperties
Název | Description | Hodnota |
---|---|---|
{přizpůsobená vlastnost} | řetězec |
OnlineRequestSettings
Název | Description | Hodnota |
---|---|---|
maxConcurrentRequestsPerInstance | Počet požadavků, které se můžou pro toto nasazení zařadit do fronty najednou. | int |
maxQueueWait | Maximální doba čekání fronty ve formátu ISO 8601. Podporuje přesnost milisekund. | řetězec |
časový limit požadavku | Časový limit požadavku ve formátu ISO 8601. Podporuje přesnost milisekund. | řetězec |
OnlineScaleSettings
Název | Description | Hodnota |
---|---|---|
maxInstances | Maximální počet instancí pro toto nasazení | int |
minInstances | Minimální počet instancí pro toto nasazení | int |
typ škálování | Nastavení typu objektu | Auto Ručně (povinné) |
Nastavení automatického škálování
Název | Description | Hodnota |
---|---|---|
typ škálování | [Povinné] Typ algoritmu škálování nasazení | "Automaticky" (povinné) |
pollingInterval | Interval dotazování ve formátu ISO 8691. Podporuje pouze dobu trvání s přesností na sekundy. | řetězec |
targetUtilizationPercentage | Cílové využití procesoru pro automatické škálování | int |
ManualScaleSettings
Název | Description | Hodnota |
---|---|---|
typ škálování | [Povinné] Typ algoritmu škálování nasazení | "Ruční" (povinné) |
instanceCount | Pevný počet instancí pro toto nasazení. | int |
Nasazení K8SOnlineDeployment
Název | Description | Hodnota |
---|---|---|
typcompute_koncového bodu | [Povinné] Typ výpočetních prostředků koncového bodu. | 'K8S' (povinné) |
containerResourceRequirements | Požadavky na prostředky pro každou instanci kontejneru v rámci online nasazení | ContainerResourceRequirements |
ContainerResourceRequirements
Název | Description | Hodnota |
---|---|---|
Cpu | Minimální množství jader procesoru, které bude kontejner používat. Další informace: https://kubernetes.io/docs/concepts/configuration/manage-compute-resources-container/ |
int |
cpuLimit | Maximální množství jader procesoru, které může kontejner používat. Další informace: https://kubernetes.io/docs/concepts/configuration/manage-compute-resources-container/ |
int |
Fpga | Počet zařízení FPGA PCIE vystavených kontejneru. Musí být násobek 2. | int |
Gpu | Počet jader GPU v kontejneru. | int |
memoryInGB | Minimální velikost paměti (v GB), kterou má kontejner použít. Další informace: https://kubernetes.io/docs/concepts/configuration/manage-compute-resources-container/ |
int |
memoryInGBLimit | Maximální velikost paměti (v GB), kterou může kontejner používat. Další informace: https://kubernetes.io/docs/concepts/configuration/manage-compute-resources-container/ |
int |
ManagedOnlineDeployment
Název | Description | Hodnota |
---|---|---|
endpointComputeType | [Povinné] Typ výpočetních prostředků koncového bodu. | Spravované (povinné) |
instanceType | Typ výpočetní instance. | řetězec |
připravenostProbe | Konfigurace sondy připravenosti nebo živosti kontejneru nasazení. | ProbeSettings |
Definice prostředku šablony ARM
Typ prostředku workspaces/onlineEndpoints/deployments je možné nasadit s operacemi, které cílí na:
- Skupiny prostředků – viz příkazy nasazení skupiny prostředků.
Seznam změněných vlastností v jednotlivých verzích rozhraní API najdete v protokolu změn.
Formát prostředku
Pokud chcete vytvořit prostředek Microsoft.MachineLearningServices/workspaces/onlineEndpoints/deployments, přidejte do šablony následující kód JSON.
{
"type": "Microsoft.MachineLearningServices/workspaces/onlineEndpoints/deployments",
"apiVersion": "2021-03-01-preview",
"name": "string",
"location": "string",
"tags": {
"tagName1": "tagValue1",
"tagName2": "tagValue2"
},
"kind": "string",
"identity": {
"type": "string",
"userAssignedIdentities": {
"{customized property}": {
"clientId": "string",
"principalId": "string"
}
}
},
"properties": {
"appInsightsEnabled": "bool",
"codeConfiguration": {
"codeId": "string",
"scoringScript": "string"
},
"description": "string",
"environmentId": "string",
"environmentVariables": {
"{customized property}": "string"
},
"livenessProbe": {
"failureThreshold": "int",
"initialDelay": "string",
"period": "string",
"successThreshold": "int",
"timeout": "string"
},
"model": {
"referenceType": "string"
// For remaining properties, see AssetReferenceBase objects
},
"properties": {
"{customized property}": "string"
},
"requestSettings": {
"maxConcurrentRequestsPerInstance": "int",
"maxQueueWait": "string",
"requestTimeout": "string"
},
"scaleSettings": {
"maxInstances": "int",
"minInstances": "int",
"scaleType": "string"
// For remaining properties, see OnlineScaleSettings objects
},
"endpointComputeType": "string"
// For remaining properties, see OnlineDeployment objects
}
}
OnlineDeployment – objekty
Nastavte vlastnost endpointComputeType pro určení typu objektu.
Pro K8S použijte:
"endpointComputeType": "K8S",
"containerResourceRequirements": {
"cpu": "int",
"cpuLimit": "int",
"fpga": "int",
"gpu": "int",
"memoryInGB": "int",
"memoryInGBLimit": "int"
}
V případě spravovaného použijte:
"endpointComputeType": "Managed",
"instanceType": "string",
"readinessProbe": {
"failureThreshold": "int",
"initialDelay": "string",
"period": "string",
"successThreshold": "int",
"timeout": "string"
}
Objekty AssetReferenceBase
Nastavte vlastnost referenceType a určete typ objektu.
Pro DataPath použijte:
"referenceType": "DataPath",
"datastoreId": "string",
"path": "string"
Jako ID použijte:
"referenceType": "Id",
"assetId": "string"
Jako OutputPath použijte:
"referenceType": "OutputPath",
"jobId": "string",
"path": "string"
Objekty OnlineScaleSettings
Nastavte vlastnost scaleType a určete typ objektu.
V části Automaticky použijte:
"scaleType": "Auto",
"pollingInterval": "string",
"targetUtilizationPercentage": "int"
Pro Ruční použijte:
"scaleType": "Manual",
"instanceCount": "int"
Hodnoty vlastností
pracovní prostory/online koncové body/nasazení
Název | Description | Hodnota |
---|---|---|
typ | Typ prostředku | Microsoft.MachineLearningServices/workspaces/onlineEndpoints/deployments |
apiVersion | Verze rozhraní API prostředků | '2021-03-01-preview' |
name | Název prostředku Podívejte se, jak nastavit názvy a typy pro podřízené prostředky v šablonách JSON ARM. |
string (povinné) |
location | Geografické umístění, ve kterém se nachází prostředek | string (povinné) |
tags | Značky prostředků. | Slovník názvů značek a hodnot. Viz Značky v šablonách |
Druhu | Metadata používaná portálem, nástroji atd. k vykreslení různých uživatelských prostředí pro prostředky stejného typu. | řetězec |
identity | Identita služby přidružená k prostředku | ResourceIdentity |
properties | [Povinné] Další atributy entity. | OnlineDeployment (povinné) |
ResourceIdentity
Název | Description | Hodnota |
---|---|---|
typ | Definuje hodnoty pro typ ResourceIdentity. | 'Žádný' 'SystemAssigned' 'SystemAssigned,UserAssigned' 'UserAssigned' |
userAssignedIdentity | Slovník identit přiřazených uživatelem, klíč je ID prostředku ARM UAI. | ResourceIdentityUserAssignedIdentities |
ResourceIdentityUserAssignedIdentities
Název | Description | Hodnota |
---|---|---|
{přizpůsobená vlastnost} | UserAssignedIdentityMeta |
UserAssignedIdentityMeta
Název | Description | Hodnota |
---|---|---|
clientId | Neboli ID aplikace, jedinečný identifikátor vygenerovaný Azure AD, který je při počátečním zřizování svázán s aplikací a instančním objektem. | řetězec |
principalId | ID objektu instančního objektu pro vaši spravovanou identitu, které se používá k udělení přístupu na základě role k prostředku Azure. | řetězec |
OnlineDeployment
Název | Description | Hodnota |
---|---|---|
appInsightsEnabled | Pokud ano, povolí protokolování Application Insights. | bool |
codeConfiguration | Konfigurace kódu pro nasazení koncového bodu | Konfigurace kódu |
description | Popis nasazení koncového bodu | řetězec |
environmentId | ID prostředku ARM specifikace prostředí pro nasazení koncového bodu | řetězec |
environmentVariables | Konfigurace proměnných prostředí pro nasazení | OnlineDeploymentEnvironmentVariables |
živostProbe | Konfigurace sondy připravenosti nebo živosti kontejneru nasazení. | ProbeSettings |
model | Odkaz na prostředek modelu pro nasazení koncového bodu. | AssetReferenceBase |
properties | Slovník vlastností. Vlastnosti je možné přidat, ale ne odebrat ani změnit. | OnlineDeploymentProperties |
requestSettings | Konfigurace bodování žádostí o nasazení online | OnlineRequestSettings |
scaleSettings | Konfigurace škálování online nasazení | OnlineScaleSettings |
endpointComputeType | Nastavení typu objektu | K8S Spravované (povinné) |
Konfigurace kódu
Název | Description | Hodnota |
---|---|---|
id kódu | ID prostředku ARM pro prostředek kódu. | řetězec |
scoringScript | [Povinné] Skript, který se má spustit při spuštění. např. "score.py" | string (povinné) Omezení: Minimální délka = 1 Pattern = [a-zA-Z0-9_] |
OnlineDeploymentEnvironmentVariables
Název | Description | Hodnota |
---|---|---|
{přizpůsobená vlastnost} | řetězec |
ProbeSettings
Název | Description | Hodnota |
---|---|---|
failureThreshold | Počet selhání, která se mají povolit před vrácením stavu, který není v pořádku. | int |
Initialdelay | Zpoždění před první sondou ve formátu ISO 8601. | řetězec |
period | Délka doby mezi sondami ve formátu ISO 8601. | řetězec |
successThreshold | Počet úspěšných sond před vrácením stavu v pořádku. | int |
timeout | Časový limit sondy ve formátu ISO 8601 | řetězec |
AssetReferenceBase
Název | Description | Hodnota |
---|---|---|
referenční typ | Nastavení typu objektu | DataPath Id OutputPath (povinné) |
DataPathAssetReference
Název | Description | Hodnota |
---|---|---|
referenční typ | [Povinné] Určuje typ odkazu na prostředek. | Cesta k datům (povinné) |
ID úložiště dat | ID prostředku ARM úložiště dat, ve kterém se prostředek nachází. | řetězec |
program | Cesta k souboru nebo adresáři v úložišti dat. | řetězec |
IdAssetReference
Název | Description | Hodnota |
---|---|---|
referenční typ | [Povinné] Určuje typ odkazu na prostředek. | 'Id' (povinné) |
ID prostředku | [Povinné] ID prostředku ARM prostředku. | string (povinné) Omezení: Vzor = [a-zA-Z0-9_] |
OutputPathAssetReference
Název | Description | Hodnota |
---|---|---|
referenční typ | [Povinné] Určuje typ odkazu na prostředek. | 'OutputPath' (povinné) |
ID úlohy | ID prostředku ARM úlohy | řetězec |
program | Cesta k souboru nebo adresáři ve výstupu úlohy. | řetězec |
OnlineDeploymentProperties
Název | Description | Hodnota |
---|---|---|
{přizpůsobená vlastnost} | řetězec |
OnlineRequestSettings
Název | Description | Hodnota |
---|---|---|
maxConcurrentRequestsPerInstance | Počet požadavků, které se můžou pro toto nasazení zařadit do fronty najednou. | int |
maxQueueWait | Maximální doba čekání fronty ve formátu ISO 8601. Podporuje přesnost milisekund. | řetězec |
časový limit požadavku | Časový limit požadavku ve formátu ISO 8601. Podporuje přesnost milisekund. | řetězec |
OnlineScaleSettings
Název | Description | Hodnota |
---|---|---|
maxInstances | Maximální počet instancí pro toto nasazení | int |
minInstances | Minimální počet instancí pro toto nasazení | int |
typ škálování | Nastavení typu objektu | Auto Ručně (povinné) |
Nastavení automatického škálování
Název | Description | Hodnota |
---|---|---|
typ škálování | [Povinné] Typ algoritmu škálování nasazení | "Automaticky" (povinné) |
pollingInterval | Interval dotazování ve formátu ISO 8691. Podporuje pouze dobu trvání s přesností na sekundy. | řetězec |
targetUtilizationPercentage | Cílové využití procesoru pro automatické škálování | int |
ManualScaleSettings
Název | Description | Hodnota |
---|---|---|
typ škálování | [Povinné] Typ algoritmu škálování nasazení | "Ruční" (povinné) |
instanceCount | Pevný počet instancí pro toto nasazení. | int |
Nasazení K8SOnlineDeployment
Název | Description | Hodnota |
---|---|---|
typcompute_koncového bodu | [Povinné] Typ výpočetních prostředků koncového bodu. | 'K8S' (povinné) |
containerResourceRequirements | Požadavky na prostředky pro každou instanci kontejneru v rámci online nasazení | ContainerResourceRequirements |
ContainerResourceRequirements
Název | Description | Hodnota |
---|---|---|
Cpu | Minimální množství jader procesoru, které bude kontejner používat. Další informace: https://kubernetes.io/docs/concepts/configuration/manage-compute-resources-container/ |
int |
cpuLimit | Maximální množství jader procesoru, které může kontejner používat. Další informace: https://kubernetes.io/docs/concepts/configuration/manage-compute-resources-container/ |
int |
Fpga | Počet zařízení PCIE FPGA vystavených kontejneru. Musí to být násobek z 2. | int |
Gpu | Počet jader GPU v kontejneru. | int |
memoryInGB | Minimální velikost paměti (v GB), kterou má kontejner použít. Další informace: https://kubernetes.io/docs/concepts/configuration/manage-compute-resources-container/ |
int |
memoryInGBLimit | Maximální velikost paměti (v GB), kterou může kontejner používat. Další informace: https://kubernetes.io/docs/concepts/configuration/manage-compute-resources-container/ |
int |
Nasazení ManagedOnlineDeployment
Název | Description | Hodnota |
---|---|---|
typcompute_koncového bodu | [Povinné] Typ výpočetních prostředků koncového bodu. | Spravované (povinné) |
typ instance | Typ výpočetní instance. | řetězec |
readinessProbe | Konfigurace sondy připravenosti/ aktivity kontejneru nasazení | ProbeSettings |
Definice prostředku Terraform (poskytovatel AzAPI)
Typ prostředku pracovní prostory/ online koncové body/nasazení je možné nasadit s operacemi, které cílí na:
- Skupiny prostředků
Seznam změněných vlastností v jednotlivých verzích rozhraní API najdete v protokolu změn.
Formát prostředku
Pokud chcete vytvořit prostředek Microsoft.MachineLearningServices/workspaces/onlineEndpoints/deployments, přidejte do šablony následující Terraform.
resource "azapi_resource" "symbolicname" {
type = "Microsoft.MachineLearningServices/workspaces/onlineEndpoints/deployments@2021-03-01-preview"
name = "string"
location = "string"
parent_id = "string"
tags = {
tagName1 = "tagValue1"
tagName2 = "tagValue2"
}
identity {
type = "string"
identity_ids = []
}
body = jsonencode({
properties = {
appInsightsEnabled = bool
codeConfiguration = {
codeId = "string"
scoringScript = "string"
}
description = "string"
environmentId = "string"
environmentVariables = {
{customized property} = "string"
}
livenessProbe = {
failureThreshold = int
initialDelay = "string"
period = "string"
successThreshold = int
timeout = "string"
}
model = {
referenceType = "string"
// For remaining properties, see AssetReferenceBase objects
}
properties = {
{customized property} = "string"
}
requestSettings = {
maxConcurrentRequestsPerInstance = int
maxQueueWait = "string"
requestTimeout = "string"
}
scaleSettings = {
maxInstances = int
minInstances = int
scaleType = "string"
// For remaining properties, see OnlineScaleSettings objects
}
endpointComputeType = "string"
// For remaining properties, see OnlineDeployment objects
}
kind = "string"
})
}
OnlineDeployment – objekty
Nastavením vlastnosti endpointComputeType zadejte typ objektu.
Pro K8S použijte:
endpointComputeType = "K8S"
containerResourceRequirements = {
cpu = int
cpuLimit = int
fpga = int
gpu = int
memoryInGB = int
memoryInGBLimit = int
}
V případě spravovaného použijte:
endpointComputeType = "Managed"
instanceType = "string"
readinessProbe = {
failureThreshold = int
initialDelay = "string"
period = "string"
successThreshold = int
timeout = "string"
}
Objekty AssetReferenceBase
Nastavte vlastnost referenceType a určete typ objektu.
Pro DataPath použijte:
referenceType = "DataPath"
datastoreId = "string"
path = "string"
Jako ID použijte:
referenceType = "Id"
assetId = "string"
Jako OutputPath použijte:
referenceType = "OutputPath"
jobId = "string"
path = "string"
Objekty OnlineScaleSettings
Nastavte vlastnost scaleType a určete typ objektu.
V případě automatického nastavení použijte:
scaleType = "Auto"
pollingInterval = "string"
targetUtilizationPercentage = int
Pro Ruční použijte:
scaleType = "Manual"
instanceCount = int
Hodnoty vlastností
pracovní prostory/online koncové body/nasazení
Název | Description | Hodnota |
---|---|---|
typ | Typ prostředku | Microsoft.MachineLearningServices/workspaces/onlineEndpoints/deployments@2021-03-01-preview |
name | Název prostředku | string (povinné) |
location | Geografické umístění, kde se prostředek nachází | string (povinné) |
parent_id | ID prostředku, který je nadřazený pro tento prostředek. | ID prostředku typu: onlineEndpoints |
tags | Značky prostředků. | Slovník názvů a hodnot značek. |
Druhu | Metadata používaná portálem, nástroji atd. k vykreslení různých prostředí uživatelského prostředí pro prostředky stejného typu. | řetězec |
identity | Identita služby přidružená k prostředku. | Identita prostředku |
properties | [Povinné] Další atributy entity | Nasazení online (povinné) |
Identita prostředku
Název | Description | Hodnota |
---|---|---|
typ | Definuje hodnoty pro typ ResourceIdentity. | "SystemAssigned" "SystemAssigned,UserAssigned" "UserAssigned" |
identity_ids | Slovník identit přiřazených uživatelem, klíč je ID prostředku ARM UAI. | Pole ID identit uživatelů |
ResourceIdentityUserAssignedIdentities
Název | Description | Hodnota |
---|---|---|
{přizpůsobená vlastnost} | UserAssignedIdentityMeta |
UserAssignedIdentityMeta
Název | Description | Hodnota |
---|---|---|
clientId | Neboli ID aplikace, jedinečný identifikátor vygenerovaný Azure AD, který je při počátečním zřizování svázán s aplikací a instančním objektem. | řetězec |
principalId | ID objektu instančního objektu pro vaši spravovanou identitu, které se používá k udělení přístupu na základě role k prostředku Azure. | řetězec |
OnlineDeployment
Název | Description | Hodnota |
---|---|---|
appInsightsEnabled | Pokud ano, povolí protokolování Application Insights. | bool |
codeConfiguration | Konfigurace kódu pro nasazení koncového bodu | Konfigurace kódu |
description | Popis nasazení koncového bodu | řetězec |
environmentId | ID prostředku ARM specifikace prostředí pro nasazení koncového bodu | řetězec |
environmentVariables | Konfigurace proměnných prostředí pro nasazení | OnlineDeploymentEnvironmentVariables |
živostProbe | Konfigurace sondy připravenosti nebo živosti kontejneru nasazení. | ProbeSettings |
model | Odkaz na prostředek modelu pro nasazení koncového bodu. | AssetReferenceBase |
properties | Slovník vlastností. Vlastnosti je možné přidat, ale ne odebrat ani změnit. | OnlineDeploymentProperties |
requestSettings | Konfigurace bodování žádostí o nasazení online | OnlineRequestSettings |
scaleSettings | Konfigurace škálování online nasazení | OnlineScaleSettings |
endpointComputeType | Nastavení typu objektu | K8S Spravované (povinné) |
Konfigurace kódu
Název | Description | Hodnota |
---|---|---|
id kódu | ID prostředku ARM pro prostředek kódu. | řetězec |
scoringScript | [Povinné] Skript, který se má spustit při spuštění. např. "score.py" | string (povinné) Omezení: Minimální délka = 1 Pattern = [a-zA-Z0-9_] |
OnlineDeploymentEnvironmentVariables
Název | Description | Hodnota |
---|---|---|
{přizpůsobená vlastnost} | řetězec |
ProbeSettings
Název | Description | Hodnota |
---|---|---|
failureThreshold | Počet selhání, která se mají povolit před vrácením stavu, který není v pořádku. | int |
Initialdelay | Zpoždění před první sondou ve formátu ISO 8601. | řetězec |
period | Délka doby mezi sondami ve formátu ISO 8601. | řetězec |
successThreshold | Počet úspěšných sond před vrácením stavu v pořádku. | int |
timeout | Časový limit sondy ve formátu ISO 8601 | řetězec |
AssetReferenceBase
Název | Description | Hodnota |
---|---|---|
referenční typ | Nastavení typu objektu | DataPath Id OutputPath (povinné) |
DataPathAssetReference
Název | Description | Hodnota |
---|---|---|
referenční typ | [Povinné] Určuje typ odkazu na prostředek. | "Cesta k datům" (povinné) |
ID úložiště dat | ID prostředku ARM úložiště dat, ve kterém se prostředek nachází. | řetězec |
program | Cesta k souboru nebo adresáři v úložišti dat. | řetězec |
IdAssetReference
Název | Description | Hodnota |
---|---|---|
referenční typ | [Povinné] Určuje typ odkazu na prostředek. | "Id" (povinné) |
ID prostředku | [Povinné] ID prostředku ARM prostředku. | string (povinné) Omezení: Vzor = [a-zA-Z0-9_] |
OutputPathAssetReference
Název | Description | Hodnota |
---|---|---|
referenční typ | [Povinné] Určuje typ odkazu na prostředek. | "OutputPath" (povinné) |
ID úlohy | ID prostředku ARM úlohy | řetězec |
program | Cesta k souboru nebo adresáři ve výstupu úlohy. | řetězec |
OnlineDeploymentProperties
Název | Description | Hodnota |
---|---|---|
{přizpůsobená vlastnost} | řetězec |
OnlineRequestSettings
Název | Description | Hodnota |
---|---|---|
maxConcurrentRequestsPerInstance | Počet požadavků, které se můžou pro toto nasazení zařadit do fronty najednou. | int |
maxQueueWait | Maximální doba čekání fronty ve formátu ISO 8601. Podporuje přesnost milisekund. | řetězec |
časový limit požadavku | Časový limit požadavku ve formátu ISO 8601. Podporuje přesnost milisekund. | řetězec |
OnlineScaleSettings
Název | Description | Hodnota |
---|---|---|
maxInstances | Maximální počet instancí pro toto nasazení | int |
minInstances | Minimální počet instancí pro toto nasazení | int |
typ škálování | Nastavení typu objektu | Auto Ručně (povinné) |
Nastavení automatického škálování
Název | Description | Hodnota |
---|---|---|
typ škálování | [Povinné] Typ algoritmu škálování nasazení | "Automaticky" (povinné) |
pollingInterval | Interval dotazování ve formátu ISO 8691. Podporuje pouze dobu trvání s přesností na sekundy. | řetězec |
targetUtilizationPercentage | Cílové využití procesoru pro automatické škálování | int |
ManualScaleSettings
Název | Description | Hodnota |
---|---|---|
scaleType | [Povinné] Typ algoritmu škálování nasazení | "Ruční" (povinné) |
instanceCount | Pevný počet instancí pro toto nasazení | int |
K8SOnlineDeployment
Název | Description | Hodnota |
---|---|---|
endpointComputeType | [Povinné] Typ výpočetních prostředků koncového bodu. | "K8S" (povinné) |
containerResourceRequirements | Požadavky na prostředky pro každou instanci kontejneru v rámci online nasazení | ContainerResourceRequirements |
ContainerResourceRequirements
Název | Description | Hodnota |
---|---|---|
Cpu | Minimální množství jader procesoru, které má kontejner použít. Další informace: https://kubernetes.io/docs/concepts/configuration/manage-compute-resources-container/ |
int |
cpuLimit | Maximální množství jader procesoru, které může kontejner používat. Další informace: https://kubernetes.io/docs/concepts/configuration/manage-compute-resources-container/ |
int |
Fpga | Počet zařízení FPGA PCIE vystavených kontejneru. Musí být násobek 2. | int |
Gpu | Počet jader GPU v kontejneru. | int |
memoryInGB | Minimální velikost paměti (v GB), kterou má kontejner použít. Další informace: https://kubernetes.io/docs/concepts/configuration/manage-compute-resources-container/ |
int |
memoryInGBLimit | Maximální velikost paměti (v GB), kterou může kontejner používat. Další informace: https://kubernetes.io/docs/concepts/configuration/manage-compute-resources-container/ |
int |
ManagedOnlineDeployment
Název | Description | Hodnota |
---|---|---|
endpointComputeType | [Povinné] Typ výpočetních prostředků koncového bodu. | "Spravované" (povinné) |
instanceType | Typ výpočetní instance. | řetězec |
připravenostProbe | Konfigurace sondy připravenosti nebo živosti kontejneru nasazení. | ProbeSettings |
Váš názor
https://aka.ms/ContentUserFeedback.
Připravujeme: V průběhu roku 2024 budeme postupně vyřazovat problémy z GitHub coby mechanismus zpětné vazby pro obsah a nahrazovat ho novým systémem zpětné vazby. Další informace naleznete v tématu:Odeslat a zobrazit názory pro