Поделиться через

ResourceSettings Класс

  • Ссылка

Параметры ресурсов для контейнера.

Этот класс использует форматы единиц ресурса Kubernetes. Для получения дополнительной информации см. https://kubernetes.io/docs/concepts/configuration/manage-resources-containers/.

Наследование
azure.ai.ml.entities._mixins.RestTranslatableMixin
ResourceSettings

Конструктор

ResourceSettings(cpu: str | None = None, memory: str | None = None, gpu: str | None = None)

Параметры

Имя Описание
cpu
Optional[str]

Параметры ресурсов ЦП для контейнера.

значение по умолчанию: None
memory
Optional[str]

Параметры ресурсов памяти для контейнера.

значение по умолчанию: None
gpu
Optional[str]

Параметры ресурсов GPU для контейнера.

значение по умолчанию: None

Примеры

Настройка ResourceSettings для развертывания Kubernetes.


   from azure.ai.ml.entities import (
       CodeConfiguration,
       KubernetesOnlineDeployment,
       ResourceRequirementsSettings,
       ResourceSettings,
   )

   blue_deployment = KubernetesOnlineDeployment(
       name="kubernetes_deployment",
       endpoint_name="online_endpoint_name",
       model=load_model("./sdk/ml/azure-ai-ml/tests/test_configs/model/model_with_stage.yml"),
       environment="azureml:AzureML-Minimal:1",
       code_configuration=CodeConfiguration(
           code="endpoints/online/model-1/onlinescoring", scoring_script="score.py"
       ),
       instance_count=1,
       resources=ResourceRequirementsSettings(
           requests=ResourceSettings(
               cpu="500m",
               memory="0.5Gi",
           ),
           limits=ResourceSettings(
               cpu="1",
               memory="1Gi",
           ),
       ),
   )