Microsoft. MachineLearningServices рабочие пространства/онлайнEndpoints/deployments 2025-10-01-preview

Определение ресурсов Bicep

Тип ресурсов рабочих областей/onlineEndpoints/deployments можно развернуть с помощью операций, предназначенных для следующих операций:

Список измененных свойств в каждой версии API см. в журнала изменений.

Формат ресурса

Чтобы создать ресурс Microsoft.MachineLearningServices/workspaces/onlineEndpoints/deployments, добавьте следующий Bicep в шаблон.

resource symbolicname 'Microsoft.MachineLearningServices/workspaces/onlineEndpoints/deployments@2025-10-01-preview' = {
  parent: resourceSymbolicName
  identity: {
    type: 'string'
    userAssignedIdentities: {
      {customized property}: {}
    }
  }
  kind: 'string'
  location: 'string'
  name: 'string'
  properties: {
    appInsightsEnabled: bool
    codeConfiguration: {
      codeId: 'string'
      scoringScript: 'string'
    }
    dataCollector: {
      collections: {
        {customized property}: {
          clientId: 'string'
          dataCollectionMode: 'string'
          dataId: 'string'
          samplingRate: int
        }
      }
      requestLogging: {
        captureHeaders: [
          'string'
        ]
      }
      rollingRate: 'string'
    }
    description: 'string'
    egressPublicNetworkAccess: 'string'
    environmentId: 'string'
    environmentVariables: {
      {customized property}: 'string'
    }
    instanceType: 'string'
    livenessProbe: {
      failureThreshold: int
      initialDelay: 'string'
      period: 'string'
      successThreshold: int
      timeout: 'string'
    }
    model: 'string'
    modelMountPath: 'string'
    properties: {
      {customized property}: 'string'
    }
    readinessProbe: {
      failureThreshold: int
      initialDelay: 'string'
      period: 'string'
      successThreshold: int
      timeout: 'string'
    }
    requestSettings: {
      maxConcurrentRequestsPerInstance: int
      maxQueueWait: 'string'
      requestTimeout: 'string'
    }
    scaleSettings: {
      scaleType: 'string'
      // For remaining properties, see OnlineScaleSettings objects
    }
    startupProbe: {
      failureThreshold: int
      initialDelay: 'string'
      period: 'string'
      successThreshold: int
      timeout: 'string'
    }
    endpointComputeType: 'string'
    // For remaining properties, see OnlineDeploymentProperties objects
  }
  sku: {
    capacity: int
    family: 'string'
    name: 'string'
    size: 'string'
    tier: 'string'
  }
  tags: {
    {customized property}: 'string'
  }
}

Объекты OnlineDeploymentProperties

Задайте свойство endpointComputeType , чтобы указать тип объекта.

Для Kubernetes используйте:

{
  containerResourceRequirements: {
    containerResourceLimits: {
      cpu: 'string'
      gpu: 'string'
      memory: 'string'
    }
    containerResourceRequests: {
      cpu: 'string'
      gpu: 'string'
      memory: 'string'
    }
  }
  endpointComputeType: 'Kubernetes'
}

Для управляемого управления используйте:

{
  endpointComputeType: 'Managed'
}

Объекты OnlineScaleSettings

Задайте свойство scaleType , чтобы указать тип объекта.

Для по умолчаниюиспользуйте:

{
  scaleType: 'Default'
}

Для TargetUtilization используйте:

{
  maxInstances: int
  minInstances: int
  pollingInterval: 'string'
  scaleType: 'TargetUtilization'
  targetUtilizationPercentage: int
}

Значения свойств

Microsoft.УслугиМашинногоОбучения/рабочиепространства/онлайнКонечныеТочки/развертывания

Имя Description Ценность
identity Управляемое удостоверение службы (назначенные системой удостоверения и (или) назначенные пользователем удостоверения ManagedServiceIdentity
добрый Метаданные, используемые порталом или инструментом и т. д., для отображения различных интерфейсов пользовательского интерфейса для ресурсов одного типа. струна
location Географическое расположение, в котором находится ресурс строка (обязательно)
имя имя ресурса. строка (обязательно)
parent В Bicep можно указать родительский ресурс для дочернего ресурса. Это свойство необходимо добавить, только если дочерний ресурс объявлен за пределами родительского ресурса.

Дополнительные сведения см. в разделе Дочерний ресурс за пределами родительского ресурса.
Символьное имя ресурса типа: workspaces/onlineEndpoints
properties [Обязательный] Дополнительные атрибуты сущности. OnlineDeploymentProperties (обязательно)
sku Сведения о SKU, необходимые для контракта ARM для автомасштабирования. Sku
tags Теги ресурсов Словарь имен и значений тегов. См. теги в шаблонах

CodeConfiguration

Имя Description Ценность
codeId Идентификатор ресурса ARM ресурса ресурса кода. струна
scoringScript [Обязательный] Скрипт, выполняемый при запуске. eg. "score.py" string

Constraints:
Минимальная длина = 1
Pattern = [a-zA-Z0-9_] (обязательно)

Коллекция

Имя Description Ценность
clientId Идентификатор клиента MSI, используемый для сбора журналов в хранилище BLOB-объектов. Если это значение NULL, серверная часть выберет зарегистрированное удостоверение конечной точки для проверки подлинности. струна
dataCollectionMode Включение или отключение сбора данных. 'Disabled'
'Enabled'
dataId Идентификатор ресурса Клиентская сторона гарантирует, что ресурс данных указывает на хранилище BLOB-объектов, а серверная часть собирает данные в хранилище BLOB-объектов. струна
samplingRate Частота выборки для коллекции. Частота выборки 1.0 означает, что по умолчанию мы собираем 100% данных. инт

Требования К Ресурсам Контейнера

Имя Description Ценность
containerResourceLimits Сведения об ограничении ресурсов контейнера: ContainerResourceSettings
containerResourceRequests Сведения о запросе ресурса контейнера: ContainerResourceSettings

ContainerResourceSettings

Имя Description Ценность
cpu Количество запросов и ограничений виртуальных ЦП для контейнера. Дополнительная информация:
https://kubernetes.io/docs/concepts/configuration/manage-compute-resources-container/
струна
Графический процессор Количество запросов и ограничений карт NVIDIA GPU для контейнера. Дополнительная информация:
https://kubernetes.io/docs/concepts/configuration/manage-compute-resources-container/
струна
memory Запрос или ограничение размера памяти для контейнера. Дополнительная информация:
https://kubernetes.io/docs/concepts/configuration/manage-compute-resources-container/
струна

Сборщик данных

Имя Description Ценность
collections [Обязательный] Конфигурация коллекции. Каждая коллекция имеет собственную конфигурацию для сбора данных модели, а имя коллекции может быть произвольной строкой.
Сборщик данных модели можно использовать для ведения журнала полезных данных или пользовательского ведения журнала или обоих из них. Запросы и ответы коллекции зарезервированы для ведения журнала полезных данных, другие — для пользовательского ведения журнала.
DataCollectorCollections (обязательно)
requestLogging Конфигурация ведения журнала запросов для MDC включает расширенные параметры ведения журнала для всех коллекций. Это необязательно. RequestLogging
rollingRate При сборе данных модели в хранилище BLOB-объектов необходимо свернуть данные в другой путь, чтобы избежать ведения журнала всех данных в одном файле BLOB-объектов.
Если скорость передачи составляет час, все данные будут собираться в пути к BLOB-объектам /гггг/ММ/дд/HH/.
Если это день, все данные будут собираться в пути к BLOB-объекту /гггг/ММ/dd/.
Другим преимуществом скользящего пути является то, что пользовательский интерфейс мониторинга модели может быстро выбрать диапазон времени данных.
'Day'
'Hour'
'Minute'
'Month'
'Year'

DataCollectorCollections

Имя Description Ценность

DefaultScaleSettings

Имя Description Ценность
scaleType [Обязательный] Тип алгоритма масштабирования развертывания «По умолчанию» (обязательно)

EndpointDeploymentPropertiesBaseEnvironmentVariables

Имя Description Ценность

EndpointDeploymentPropertiesBaseProperties

Имя Description Ценность

KubernetesOnlineDeployment

Имя Description Ценность
containerResourceRequirements Требования к ресурсам для контейнера (ЦП и памяти). ContainerResourceRequirements
endpointComputeType [Обязательный] Тип вычислений конечной точки. 'Kubernetes' (обязательно)

ManagedOnlineDeployment

Имя Description Ценность
endpointComputeType [Обязательный] Тип вычислений конечной точки. «Управляемый» (обязательно)

ManagedServiceIdentity

Имя Description Ценность
type Тип управляемого удостоверения службы (где разрешены типы SystemAssigned и UserAssigned). 'None'
'SystemAssigned'
'SystemAssigned,UserAssigned'
UserAssigned (обязательно)
userAssignedIdentities Набор назначенных пользователем удостоверений, связанных с ресурсом. Ключи словаря userAssignedIdentities будут идентификаторами ресурсов ARM в форме: "/subscriptions/{subscriptionId}/resourceGroups/{resourceGroupName}/providers/Microsoft.ManagedIdentity/userAssignedIdentities/{identityName}. Значения словаря могут быть пустыми объектами ({}) в запросах. UserAssignedIdentities

OnlineDeploymentProperties

Имя Description Ценность
appInsightsEnabled Если значение true, включает ведение журнала Application Insights. bool
codeConfiguration Конфигурация кода для развертывания конечной точки. CodeConfiguration
dataCollector Конфигурация mdc отключается при значении NULL. DataCollector
описание Описание развертывания конечной точки. струна
egressPublicNetworkAccess Перечисление, чтобы определить, включен или отключен PublicNetworkAccess для исходящего развертывания. 'Disabled'
'Enabled'
endpointComputeType Установите значение "Kubernetes" для типа KubernetesOnlineDeployment. Установите значение "Managed" для типа ManagedOnlineDeployment. 'Kubernetes'
«Управляемый» (обязательно)
environmentId Идентификатор ресурса ARM или AssetId спецификации среды для развертывания конечной точки. струна
environmentVariables Конфигурация переменных среды для развертывания. EndpointDeploymentPropertiesBaseEnvironmentVariables
instanceType Тип вычислительного экземпляра. По умолчанию: Standard_F4s_v2. струна
livenessProbe Проба динамической активности регулярно отслеживает работоспособность контейнера. ProbeSettings
model Путь URI к модели. струна
modelMountPath Путь к подключению модели в пользовательском контейнере. струна
properties Словарь свойств. Свойства можно добавлять, но не удалять или изменять. EndpointDeploymentPropertiesBaseProperties
readinessProbe Проверка готовности проверяет, готов ли контейнер обслуживать трафик. Свойства и значения по умолчанию совпадают с пробой активности. ProbeSettings
requestSettings Параметры запроса для развертывания. OnlineRequestSettings
параметры масштабирования Параметры масштабирования развертывания.
Если значение равно null или не указано,
По умолчанию значение TargetUtilizationScaleSettings для KubernetesOnlineDeployment
и значение DefaultScaleSettings для ManagedOnlineDeployment.
OnlineScaleSettings
startupProbe Проверка запуска проверяет, успешно ли запущено приложение в контейнере. ProbeSettings

OnlineRequestSettings

Имя Description Ценность
maxConcurrentRequestsPerInstance Количество одновременных запросов на узел, разрешенных для каждого развертывания. По умолчанию равен 1. инт
maxQueueWait (Не рекомендуется использовать для управляемых конечных точек в Интернете) Максимальное время пребывания запроса в очереди в формате ISO 8601.
Значение по умолчанию — 500 мс.
(Теперь увеличьте request_timeout_ms учет любых задержек сети или очередей)
струна
requestTimeout Время ожидания оценки в формате ISO 8601.
Значение по умолчанию — 5000 мс.
струна

OnlineScaleSettings

Имя Description Ценность
scaleType Установите значение "Default" для типа DefaultScaleSettings. Установите значение "TargetUtilization" для типа TargetUtilizationScaleSettings. По умолчанию
'TargetUtilization' (обязательно)

ProbeSettings

Имя Description Ценность
failureThreshold Количество сбоев, которые необходимо разрешить, прежде чем возвращать неработоспособное состояние. инт
initialDelay Задержка перед первой пробой в формате ISO 8601. струна
период Продолжительность времени между пробами в формате ISO 8601. струна
successThreshold Количество успешных проб перед возвратом работоспособного состояния. инт
timeout Время ожидания пробы в формате ISO 8601. струна

RequestLogging

Имя Description Ценность
captureHeaders Для ведения журнала полезных данных мы собираем полезные данные только по умолчанию. Если клиенты также хотят собирать указанные заголовки, они могут задать их в captureHeaders, чтобы серверная часть собирала эти заголовки вместе с полезными данными. строка[]

Sku

Имя Description Ценность
capacity Если номер SKU поддерживает горизонтальное масштабирование или в, то целое число емкости должно быть включено. Если горизонтальное масштабирование невозможно для ресурса, это может быть опущено. инт
family Если служба имеет разные поколения оборудования для одного номера SKU, это можно записать здесь. струна
имя Имя номера SKU. Пример - П3. Обычно это код буквы и числа строка (обязательно)
size Размер номера SKU. Если поле имени является сочетанием уровня и другого значения, это будет автономный код. струна
tier Это поле необходимо реализовать поставщиком ресурсов, если служба имеет несколько уровней, но не требуется для PUT. 'Basic'
'Free'
'Premium'
'Standard'

TargetUtilizationScaleSettings

Имя Description Ценность
maxInstances Максимальное количество экземпляров, в которых развертывание может масштабироваться. Квота будет зарезервирована для max_instances. инт
minInstances Минимальное количество экземпляров, которые всегда должны присутствовать. инт
pollingInterval Интервал опроса в формате ISO 8691. Поддерживается только длительность с точностью до секунд. струна
scaleType [Обязательный] Тип алгоритма масштабирования развертывания 'TargetUtilization' (обязательно)
targetUtilizationPercentage Целевое использование ЦП для автомасштабирования. инт

TrackedResourceTags

Имя Description Ценность

UserAssignedIdentities

Имя Description Ценность

UserAssignedIdentity

Имя Description Ценность

Определение ресурса шаблона ARM

Тип ресурсов рабочих областей/onlineEndpoints/deployments можно развернуть с помощью операций, предназначенных для следующих операций:

Примеры использования

Формат ресурса

Чтобы создать ресурс Microsoft.MachineLearningServices/workspaces/onlineEndpoints/deployments, добавьте следующий код JSON в шаблон.

{
  "type": "Microsoft.MachineLearningServices/workspaces/onlineEndpoints/deployments",
  "apiVersion": "2025-10-01-preview",
  "name": "string",
  "identity": {
    "type": "string",
    "userAssignedIdentities": {
      "{customized property}": {
      }
    }
  },
  "kind": "string",
  "location": "string",
  "properties": {
    "appInsightsEnabled": "bool",
    "codeConfiguration": {
      "codeId": "string",
      "scoringScript": "string"
    },
    "dataCollector": {
      "collections": {
        "{customized property}": {
          "clientId": "string",
          "dataCollectionMode": "string",
          "dataId": "string",
          "samplingRate": "int"
        }
      },
      "requestLogging": {
        "captureHeaders": [ "string" ]
      },
      "rollingRate": "string"
    },
    "description": "string",
    "egressPublicNetworkAccess": "string",
    "environmentId": "string",
    "environmentVariables": {
      "{customized property}": "string"
    },
    "instanceType": "string",
    "livenessProbe": {
      "failureThreshold": "int",
      "initialDelay": "string",
      "period": "string",
      "successThreshold": "int",
      "timeout": "string"
    },
    "model": "string",
    "modelMountPath": "string",
    "properties": {
      "{customized property}": "string"
    },
    "readinessProbe": {
      "failureThreshold": "int",
      "initialDelay": "string",
      "period": "string",
      "successThreshold": "int",
      "timeout": "string"
    },
    "requestSettings": {
      "maxConcurrentRequestsPerInstance": "int",
      "maxQueueWait": "string",
      "requestTimeout": "string"
    },
    "scaleSettings": {
      "scaleType": "string"
      // For remaining properties, see OnlineScaleSettings objects
    },
    "startupProbe": {
      "failureThreshold": "int",
      "initialDelay": "string",
      "period": "string",
      "successThreshold": "int",
      "timeout": "string"
    },
    "endpointComputeType": "string"
    // For remaining properties, see OnlineDeploymentProperties objects
  },
  "sku": {
    "capacity": "int",
    "family": "string",
    "name": "string",
    "size": "string",
    "tier": "string"
  },
  "tags": {
    "{customized property}": "string"
  }
}

Объекты OnlineDeploymentProperties

Задайте свойство endpointComputeType , чтобы указать тип объекта.

Для Kubernetes используйте:

{
  "containerResourceRequirements": {
    "containerResourceLimits": {
      "cpu": "string",
      "gpu": "string",
      "memory": "string"
    },
    "containerResourceRequests": {
      "cpu": "string",
      "gpu": "string",
      "memory": "string"
    }
  },
  "endpointComputeType": "Kubernetes"
}

Для управляемого управления используйте:

{
  "endpointComputeType": "Managed"
}

Объекты OnlineScaleSettings

Задайте свойство scaleType , чтобы указать тип объекта.

Для по умолчаниюиспользуйте:

{
  "scaleType": "Default"
}

Для TargetUtilization используйте:

{
  "maxInstances": "int",
  "minInstances": "int",
  "pollingInterval": "string",
  "scaleType": "TargetUtilization",
  "targetUtilizationPercentage": "int"
}

Значения свойств

Microsoft.УслугиМашинногоОбучения/рабочиепространства/онлайнКонечныеТочки/развертывания

Имя Description Ценность
apiVersion Версия API «2025-10-01-превью»
identity Управляемое удостоверение службы (назначенные системой удостоверения и (или) назначенные пользователем удостоверения ManagedServiceIdentity
добрый Метаданные, используемые порталом или инструментом и т. д., для отображения различных интерфейсов пользовательского интерфейса для ресурсов одного типа. струна
location Географическое расположение, в котором находится ресурс строка (обязательно)
имя имя ресурса. строка (обязательно)
properties [Обязательный] Дополнительные атрибуты сущности. OnlineDeploymentProperties (обязательно)
sku Сведения о SKU, необходимые для контракта ARM для автомасштабирования. Sku
tags Теги ресурсов Словарь имен и значений тегов. См. теги в шаблонах
type Тип ресурса 'Microsoft.MachineLearningServices/workspaces/onlineEndpoints/deployments'

CodeConfiguration

Имя Description Ценность
codeId Идентификатор ресурса ARM ресурса ресурса кода. струна
scoringScript [Обязательный] Скрипт, выполняемый при запуске. eg. "score.py" string

Constraints:
Минимальная длина = 1
Pattern = [a-zA-Z0-9_] (обязательно)

Коллекция

Имя Description Ценность
clientId Идентификатор клиента MSI, используемый для сбора журналов в хранилище BLOB-объектов. Если это значение NULL, серверная часть выберет зарегистрированное удостоверение конечной точки для проверки подлинности. струна
dataCollectionMode Включение или отключение сбора данных. 'Disabled'
'Enabled'
dataId Идентификатор ресурса Клиентская сторона гарантирует, что ресурс данных указывает на хранилище BLOB-объектов, а серверная часть собирает данные в хранилище BLOB-объектов. струна
samplingRate Частота выборки для коллекции. Частота выборки 1.0 означает, что по умолчанию мы собираем 100% данных. инт

Требования К Ресурсам Контейнера

Имя Description Ценность
containerResourceLimits Сведения об ограничении ресурсов контейнера: ContainerResourceSettings
containerResourceRequests Сведения о запросе ресурса контейнера: ContainerResourceSettings

ContainerResourceSettings

Имя Description Ценность
cpu Количество запросов и ограничений виртуальных ЦП для контейнера. Дополнительная информация:
https://kubernetes.io/docs/concepts/configuration/manage-compute-resources-container/
струна
Графический процессор Количество запросов и ограничений карт NVIDIA GPU для контейнера. Дополнительная информация:
https://kubernetes.io/docs/concepts/configuration/manage-compute-resources-container/
струна
memory Запрос или ограничение размера памяти для контейнера. Дополнительная информация:
https://kubernetes.io/docs/concepts/configuration/manage-compute-resources-container/
струна

Сборщик данных

Имя Description Ценность
collections [Обязательный] Конфигурация коллекции. Каждая коллекция имеет собственную конфигурацию для сбора данных модели, а имя коллекции может быть произвольной строкой.
Сборщик данных модели можно использовать для ведения журнала полезных данных или пользовательского ведения журнала или обоих из них. Запросы и ответы коллекции зарезервированы для ведения журнала полезных данных, другие — для пользовательского ведения журнала.
DataCollectorCollections (обязательно)
requestLogging Конфигурация ведения журнала запросов для MDC включает расширенные параметры ведения журнала для всех коллекций. Это необязательно. RequestLogging
rollingRate При сборе данных модели в хранилище BLOB-объектов необходимо свернуть данные в другой путь, чтобы избежать ведения журнала всех данных в одном файле BLOB-объектов.
Если скорость передачи составляет час, все данные будут собираться в пути к BLOB-объектам /гггг/ММ/дд/HH/.
Если это день, все данные будут собираться в пути к BLOB-объекту /гггг/ММ/dd/.
Другим преимуществом скользящего пути является то, что пользовательский интерфейс мониторинга модели может быстро выбрать диапазон времени данных.
'Day'
'Hour'
'Minute'
'Month'
'Year'

DataCollectorCollections

Имя Description Ценность

DefaultScaleSettings

Имя Description Ценность
scaleType [Обязательный] Тип алгоритма масштабирования развертывания «По умолчанию» (обязательно)

EndpointDeploymentPropertiesBaseEnvironmentVariables

Имя Description Ценность

EndpointDeploymentPropertiesBaseProperties

Имя Description Ценность

KubernetesOnlineDeployment

Имя Description Ценность
containerResourceRequirements Требования к ресурсам для контейнера (ЦП и памяти). ContainerResourceRequirements
endpointComputeType [Обязательный] Тип вычислений конечной точки. 'Kubernetes' (обязательно)

ManagedOnlineDeployment

Имя Description Ценность
endpointComputeType [Обязательный] Тип вычислений конечной точки. «Управляемый» (обязательно)

ManagedServiceIdentity

Имя Description Ценность
type Тип управляемого удостоверения службы (где разрешены типы SystemAssigned и UserAssigned). 'None'
'SystemAssigned'
'SystemAssigned,UserAssigned'
UserAssigned (обязательно)
userAssignedIdentities Набор назначенных пользователем удостоверений, связанных с ресурсом. Ключи словаря userAssignedIdentities будут идентификаторами ресурсов ARM в форме: "/subscriptions/{subscriptionId}/resourceGroups/{resourceGroupName}/providers/Microsoft.ManagedIdentity/userAssignedIdentities/{identityName}. Значения словаря могут быть пустыми объектами ({}) в запросах. UserAssignedIdentities

OnlineDeploymentProperties

Имя Description Ценность
appInsightsEnabled Если значение true, включает ведение журнала Application Insights. bool
codeConfiguration Конфигурация кода для развертывания конечной точки. CodeConfiguration
dataCollector Конфигурация mdc отключается при значении NULL. DataCollector
описание Описание развертывания конечной точки. струна
egressPublicNetworkAccess Перечисление, чтобы определить, включен или отключен PublicNetworkAccess для исходящего развертывания. 'Disabled'
'Enabled'
endpointComputeType Установите значение "Kubernetes" для типа KubernetesOnlineDeployment. Установите значение "Managed" для типа ManagedOnlineDeployment. 'Kubernetes'
«Управляемый» (обязательно)
environmentId Идентификатор ресурса ARM или AssetId спецификации среды для развертывания конечной точки. струна
environmentVariables Конфигурация переменных среды для развертывания. EndpointDeploymentPropertiesBaseEnvironmentVariables
instanceType Тип вычислительного экземпляра. По умолчанию: Standard_F4s_v2. струна
livenessProbe Проба динамической активности регулярно отслеживает работоспособность контейнера. ProbeSettings
model Путь URI к модели. струна
modelMountPath Путь к подключению модели в пользовательском контейнере. струна
properties Словарь свойств. Свойства можно добавлять, но не удалять или изменять. EndpointDeploymentPropertiesBaseProperties
readinessProbe Проверка готовности проверяет, готов ли контейнер обслуживать трафик. Свойства и значения по умолчанию совпадают с пробой активности. ProbeSettings
requestSettings Параметры запроса для развертывания. OnlineRequestSettings
параметры масштабирования Параметры масштабирования развертывания.
Если значение равно null или не указано,
По умолчанию значение TargetUtilizationScaleSettings для KubernetesOnlineDeployment
и значение DefaultScaleSettings для ManagedOnlineDeployment.
OnlineScaleSettings
startupProbe Проверка запуска проверяет, успешно ли запущено приложение в контейнере. ProbeSettings

OnlineRequestSettings

Имя Description Ценность
maxConcurrentRequestsPerInstance Количество одновременных запросов на узел, разрешенных для каждого развертывания. По умолчанию равен 1. инт
maxQueueWait (Не рекомендуется использовать для управляемых конечных точек в Интернете) Максимальное время пребывания запроса в очереди в формате ISO 8601.
Значение по умолчанию — 500 мс.
(Теперь увеличьте request_timeout_ms учет любых задержек сети или очередей)
струна
requestTimeout Время ожидания оценки в формате ISO 8601.
Значение по умолчанию — 5000 мс.
струна

OnlineScaleSettings

Имя Description Ценность
scaleType Установите значение "Default" для типа DefaultScaleSettings. Установите значение "TargetUtilization" для типа TargetUtilizationScaleSettings. По умолчанию
'TargetUtilization' (обязательно)

ProbeSettings

Имя Description Ценность
failureThreshold Количество сбоев, которые необходимо разрешить, прежде чем возвращать неработоспособное состояние. инт
initialDelay Задержка перед первой пробой в формате ISO 8601. струна
период Продолжительность времени между пробами в формате ISO 8601. струна
successThreshold Количество успешных проб перед возвратом работоспособного состояния. инт
timeout Время ожидания пробы в формате ISO 8601. струна

RequestLogging

Имя Description Ценность
captureHeaders Для ведения журнала полезных данных мы собираем полезные данные только по умолчанию. Если клиенты также хотят собирать указанные заголовки, они могут задать их в captureHeaders, чтобы серверная часть собирала эти заголовки вместе с полезными данными. строка[]

Sku

Имя Description Ценность
capacity Если номер SKU поддерживает горизонтальное масштабирование или в, то целое число емкости должно быть включено. Если горизонтальное масштабирование невозможно для ресурса, это может быть опущено. инт
family Если служба имеет разные поколения оборудования для одного номера SKU, это можно записать здесь. струна
имя Имя номера SKU. Пример - П3. Обычно это код буквы и числа строка (обязательно)
size Размер номера SKU. Если поле имени является сочетанием уровня и другого значения, это будет автономный код. струна
tier Это поле необходимо реализовать поставщиком ресурсов, если служба имеет несколько уровней, но не требуется для PUT. 'Basic'
'Free'
'Premium'
'Standard'

TargetUtilizationScaleSettings

Имя Description Ценность
maxInstances Максимальное количество экземпляров, в которых развертывание может масштабироваться. Квота будет зарезервирована для max_instances. инт
minInstances Минимальное количество экземпляров, которые всегда должны присутствовать. инт
pollingInterval Интервал опроса в формате ISO 8691. Поддерживается только длительность с точностью до секунд. струна
scaleType [Обязательный] Тип алгоритма масштабирования развертывания 'TargetUtilization' (обязательно)
targetUtilizationPercentage Целевое использование ЦП для автомасштабирования. инт

TrackedResourceTags

Имя Description Ценность

UserAssignedIdentities

Имя Description Ценность

UserAssignedIdentity

Имя Description Ценность

Определение ресурса Terraform (поставщик AzAPI)

Тип ресурсов рабочих областей/onlineEndpoints/deployments можно развернуть с помощью операций, предназначенных для следующих операций:

Формат ресурса

Чтобы создать ресурс Microsoft.MachineLearningServices/workspaces/onlineEndpoints/deployments, добавьте следующий объект Terraform в шаблон.

resource "azapi_resource" "symbolicname" {
  type = "Microsoft.MachineLearningServices/workspaces/onlineEndpoints/deployments@2025-10-01-preview"
  name = "string"
  parent_id = "string"
  identity {
    type = "string"
    identity_ids = [
      "string"
    ]
  }
  location = "string"
  tags = {
    {customized property} = "string"
  }
  body = {
    kind = "string"
    properties = {
      appInsightsEnabled = bool
      codeConfiguration = {
        codeId = "string"
        scoringScript = "string"
      }
      dataCollector = {
        collections = {
          {customized property} = {
            clientId = "string"
            dataCollectionMode = "string"
            dataId = "string"
            samplingRate = int
          }
        }
        requestLogging = {
          captureHeaders = [
            "string"
          ]
        }
        rollingRate = "string"
      }
      description = "string"
      egressPublicNetworkAccess = "string"
      environmentId = "string"
      environmentVariables = {
        {customized property} = "string"
      }
      instanceType = "string"
      livenessProbe = {
        failureThreshold = int
        initialDelay = "string"
        period = "string"
        successThreshold = int
        timeout = "string"
      }
      model = "string"
      modelMountPath = "string"
      properties = {
        {customized property} = "string"
      }
      readinessProbe = {
        failureThreshold = int
        initialDelay = "string"
        period = "string"
        successThreshold = int
        timeout = "string"
      }
      requestSettings = {
        maxConcurrentRequestsPerInstance = int
        maxQueueWait = "string"
        requestTimeout = "string"
      }
      scaleSettings = {
        scaleType = "string"
        // For remaining properties, see OnlineScaleSettings objects
      }
      startupProbe = {
        failureThreshold = int
        initialDelay = "string"
        period = "string"
        successThreshold = int
        timeout = "string"
      }
      endpointComputeType = "string"
      // For remaining properties, see OnlineDeploymentProperties objects
    }
    sku = {
      capacity = int
      family = "string"
      name = "string"
      size = "string"
      tier = "string"
    }
  }
}

Объекты OnlineDeploymentProperties

Задайте свойство endpointComputeType , чтобы указать тип объекта.

Для Kubernetes используйте:

{
  containerResourceRequirements = {
    containerResourceLimits = {
      cpu = "string"
      gpu = "string"
      memory = "string"
    }
    containerResourceRequests = {
      cpu = "string"
      gpu = "string"
      memory = "string"
    }
  }
  endpointComputeType = "Kubernetes"
}

Для управляемого управления используйте:

{
  endpointComputeType = "Managed"
}

Объекты OnlineScaleSettings

Задайте свойство scaleType , чтобы указать тип объекта.

Для по умолчаниюиспользуйте:

{
  scaleType = "Default"
}

Для TargetUtilization используйте:

{
  maxInstances = int
  minInstances = int
  pollingInterval = "string"
  scaleType = "TargetUtilization"
  targetUtilizationPercentage = int
}

Значения свойств

Microsoft.УслугиМашинногоОбучения/рабочиепространства/онлайнКонечныеТочки/развертывания

Имя Description Ценность
identity Управляемое удостоверение службы (назначенные системой удостоверения и (или) назначенные пользователем удостоверения ManagedServiceIdentity
добрый Метаданные, используемые порталом или инструментом и т. д., для отображения различных интерфейсов пользовательского интерфейса для ресурсов одного типа. струна
location Географическое расположение, в котором находится ресурс строка (обязательно)
имя имя ресурса. строка (обязательно)
parent_id Идентификатор ресурса, который является родительским для этого ресурса. ID для ресурса типа: workspaces/onlineEndpoints
properties [Обязательный] Дополнительные атрибуты сущности. OnlineDeploymentProperties (обязательно)
sku Сведения о SKU, необходимые для контракта ARM для автомасштабирования. Sku
tags Теги ресурсов Словарь имен и значений тегов.
type Тип ресурса "Microsoft.MachineLearningServices/workspaces/onlineEndpoints/deployments@2025-10-01-preview"

CodeConfiguration

Имя Description Ценность
codeId Идентификатор ресурса ARM ресурса ресурса кода. струна
scoringScript [Обязательный] Скрипт, выполняемый при запуске. eg. "score.py" string

Constraints:
Минимальная длина = 1
Pattern = [a-zA-Z0-9_] (обязательно)

Коллекция

Имя Description Ценность
clientId Идентификатор клиента MSI, используемый для сбора журналов в хранилище BLOB-объектов. Если это значение NULL, серверная часть выберет зарегистрированное удостоверение конечной точки для проверки подлинности. струна
dataCollectionMode Включение или отключение сбора данных. 'Disabled'
'Enabled'
dataId Идентификатор ресурса Клиентская сторона гарантирует, что ресурс данных указывает на хранилище BLOB-объектов, а серверная часть собирает данные в хранилище BLOB-объектов. струна
samplingRate Частота выборки для коллекции. Частота выборки 1.0 означает, что по умолчанию мы собираем 100% данных. инт

Требования К Ресурсам Контейнера

Имя Description Ценность
containerResourceLimits Сведения об ограничении ресурсов контейнера: ContainerResourceSettings
containerResourceRequests Сведения о запросе ресурса контейнера: ContainerResourceSettings

ContainerResourceSettings

Имя Description Ценность
cpu Количество запросов и ограничений виртуальных ЦП для контейнера. Дополнительная информация:
https://kubernetes.io/docs/concepts/configuration/manage-compute-resources-container/
струна
Графический процессор Количество запросов и ограничений карт NVIDIA GPU для контейнера. Дополнительная информация:
https://kubernetes.io/docs/concepts/configuration/manage-compute-resources-container/
струна
memory Запрос или ограничение размера памяти для контейнера. Дополнительная информация:
https://kubernetes.io/docs/concepts/configuration/manage-compute-resources-container/
струна

Сборщик данных

Имя Description Ценность
collections [Обязательный] Конфигурация коллекции. Каждая коллекция имеет собственную конфигурацию для сбора данных модели, а имя коллекции может быть произвольной строкой.
Сборщик данных модели можно использовать для ведения журнала полезных данных или пользовательского ведения журнала или обоих из них. Запросы и ответы коллекции зарезервированы для ведения журнала полезных данных, другие — для пользовательского ведения журнала.
DataCollectorCollections (обязательно)
requestLogging Конфигурация ведения журнала запросов для MDC включает расширенные параметры ведения журнала для всех коллекций. Это необязательно. RequestLogging
rollingRate При сборе данных модели в хранилище BLOB-объектов необходимо свернуть данные в другой путь, чтобы избежать ведения журнала всех данных в одном файле BLOB-объектов.
Если скорость передачи составляет час, все данные будут собираться в пути к BLOB-объектам /гггг/ММ/дд/HH/.
Если это день, все данные будут собираться в пути к BLOB-объекту /гггг/ММ/dd/.
Другим преимуществом скользящего пути является то, что пользовательский интерфейс мониторинга модели может быстро выбрать диапазон времени данных.
'Day'
'Hour'
'Minute'
'Month'
'Year'

DataCollectorCollections

Имя Description Ценность

DefaultScaleSettings

Имя Description Ценность
scaleType [Обязательный] Тип алгоритма масштабирования развертывания «По умолчанию» (обязательно)

EndpointDeploymentPropertiesBaseEnvironmentVariables

Имя Description Ценность

EndpointDeploymentPropertiesBaseProperties

Имя Description Ценность

KubernetesOnlineDeployment

Имя Description Ценность
containerResourceRequirements Требования к ресурсам для контейнера (ЦП и памяти). ContainerResourceRequirements
endpointComputeType [Обязательный] Тип вычислений конечной точки. 'Kubernetes' (обязательно)

ManagedOnlineDeployment

Имя Description Ценность
endpointComputeType [Обязательный] Тип вычислений конечной точки. «Управляемый» (обязательно)

ManagedServiceIdentity

Имя Description Ценность
type Тип управляемого удостоверения службы (где разрешены типы SystemAssigned и UserAssigned). 'None'
'SystemAssigned'
'SystemAssigned,UserAssigned'
UserAssigned (обязательно)
userAssignedIdentities Набор назначенных пользователем удостоверений, связанных с ресурсом. Ключи словаря userAssignedIdentities будут идентификаторами ресурсов ARM в форме: "/subscriptions/{subscriptionId}/resourceGroups/{resourceGroupName}/providers/Microsoft.ManagedIdentity/userAssignedIdentities/{identityName}. Значения словаря могут быть пустыми объектами ({}) в запросах. UserAssignedIdentities

OnlineDeploymentProperties

Имя Description Ценность
appInsightsEnabled Если значение true, включает ведение журнала Application Insights. bool
codeConfiguration Конфигурация кода для развертывания конечной точки. CodeConfiguration
dataCollector Конфигурация mdc отключается при значении NULL. DataCollector
описание Описание развертывания конечной точки. струна
egressPublicNetworkAccess Перечисление, чтобы определить, включен или отключен PublicNetworkAccess для исходящего развертывания. 'Disabled'
'Enabled'
endpointComputeType Установите значение "Kubernetes" для типа KubernetesOnlineDeployment. Установите значение "Managed" для типа ManagedOnlineDeployment. 'Kubernetes'
«Управляемый» (обязательно)
environmentId Идентификатор ресурса ARM или AssetId спецификации среды для развертывания конечной точки. струна
environmentVariables Конфигурация переменных среды для развертывания. EndpointDeploymentPropertiesBaseEnvironmentVariables
instanceType Тип вычислительного экземпляра. По умолчанию: Standard_F4s_v2. струна
livenessProbe Проба динамической активности регулярно отслеживает работоспособность контейнера. ProbeSettings
model Путь URI к модели. струна
modelMountPath Путь к подключению модели в пользовательском контейнере. струна
properties Словарь свойств. Свойства можно добавлять, но не удалять или изменять. EndpointDeploymentPropertiesBaseProperties
readinessProbe Проверка готовности проверяет, готов ли контейнер обслуживать трафик. Свойства и значения по умолчанию совпадают с пробой активности. ProbeSettings
requestSettings Параметры запроса для развертывания. OnlineRequestSettings
параметры масштабирования Параметры масштабирования развертывания.
Если значение равно null или не указано,
По умолчанию значение TargetUtilizationScaleSettings для KubernetesOnlineDeployment
и значение DefaultScaleSettings для ManagedOnlineDeployment.
OnlineScaleSettings
startupProbe Проверка запуска проверяет, успешно ли запущено приложение в контейнере. ProbeSettings

OnlineRequestSettings

Имя Description Ценность
maxConcurrentRequestsPerInstance Количество одновременных запросов на узел, разрешенных для каждого развертывания. По умолчанию равен 1. инт
maxQueueWait (Не рекомендуется использовать для управляемых конечных точек в Интернете) Максимальное время пребывания запроса в очереди в формате ISO 8601.
Значение по умолчанию — 500 мс.
(Теперь увеличьте request_timeout_ms учет любых задержек сети или очередей)
струна
requestTimeout Время ожидания оценки в формате ISO 8601.
Значение по умолчанию — 5000 мс.
струна

OnlineScaleSettings

Имя Description Ценность
scaleType Установите значение "Default" для типа DefaultScaleSettings. Установите значение "TargetUtilization" для типа TargetUtilizationScaleSettings. По умолчанию
'TargetUtilization' (обязательно)

ProbeSettings

Имя Description Ценность
failureThreshold Количество сбоев, которые необходимо разрешить, прежде чем возвращать неработоспособное состояние. инт
initialDelay Задержка перед первой пробой в формате ISO 8601. струна
период Продолжительность времени между пробами в формате ISO 8601. струна
successThreshold Количество успешных проб перед возвратом работоспособного состояния. инт
timeout Время ожидания пробы в формате ISO 8601. струна

RequestLogging

Имя Description Ценность
captureHeaders Для ведения журнала полезных данных мы собираем полезные данные только по умолчанию. Если клиенты также хотят собирать указанные заголовки, они могут задать их в captureHeaders, чтобы серверная часть собирала эти заголовки вместе с полезными данными. строка[]

Sku

Имя Description Ценность
capacity Если номер SKU поддерживает горизонтальное масштабирование или в, то целое число емкости должно быть включено. Если горизонтальное масштабирование невозможно для ресурса, это может быть опущено. инт
family Если служба имеет разные поколения оборудования для одного номера SKU, это можно записать здесь. струна
имя Имя номера SKU. Пример - П3. Обычно это код буквы и числа строка (обязательно)
size Размер номера SKU. Если поле имени является сочетанием уровня и другого значения, это будет автономный код. струна
tier Это поле необходимо реализовать поставщиком ресурсов, если служба имеет несколько уровней, но не требуется для PUT. 'Basic'
'Free'
'Premium'
'Standard'

TargetUtilizationScaleSettings

Имя Description Ценность
maxInstances Максимальное количество экземпляров, в которых развертывание может масштабироваться. Квота будет зарезервирована для max_instances. инт
minInstances Минимальное количество экземпляров, которые всегда должны присутствовать. инт
pollingInterval Интервал опроса в формате ISO 8691. Поддерживается только длительность с точностью до секунд. струна
scaleType [Обязательный] Тип алгоритма масштабирования развертывания 'TargetUtilization' (обязательно)
targetUtilizationPercentage Целевое использование ЦП для автомасштабирования. инт

TrackedResourceTags

Имя Description Ценность

UserAssignedIdentities

Имя Description Ценность

UserAssignedIdentity

Имя Description Ценность