AksEndpoint 類別
注意
這是實驗性類別，隨時可能會變更。 請參閱 https://aka.ms/azuremlexperimental 以取得詳細資訊。
表示在Azure Kubernetes Service上執行之相同端點後方的 Web 服務版本集合。
而 部署 AksWebservice 具有單一評分端點的單一服務，AksEndpoint 類別可讓您在相同的評分端點後方部署多個 Web 服務版本。 每個 Web 服務版本都可以設定為提供流量百分比，讓您可以以受控制的方式部署模型，例如 A/B 測試。 AksEndpoint 允許從類似 AksWebservice 的模型物件進行部署。
初始化 Webservice 實例。
Webservice 建構函式會擷取與所提供工作區相關聯之 Webservice 物件的雲端標記法。 它會傳回對應至所擷取之 Webservice 物件之特定類型的子類別實例。
- 繼承
-
AksEndpoint
建構函式
AksEndpoint(workspace, name)參數
變數
- versions
- dict[str, AksWebservice]
版本名稱至 version 物件的字典。 包含部署為此端點一部分的所有版本。
方法
| create_version |
在端點中新增具有所提供屬性的新版本。 |
| delete_version |
刪除端點中的版本。 |
| deploy_configuration |
建立組態物件以部署至 AKS 計算目標。 |
| serialize |
將此 Webservice 轉換成 JSON 序列化字典。 |
| update |
使用所提供的屬性更新端點。 保留為 [無] 的值將會在此端點中保持不變 |
| update_version |
使用所提供的屬性更新端點中的現有版本。 保留為 None 的值將會在此版本中保持不變。 |
create_version
在端點中新增具有所提供屬性的新版本。
create_version(version_name, autoscale_enabled=None, autoscale_min_replicas=None, autoscale_max_replicas=None, autoscale_refresh_seconds=None, autoscale_target_utilization=None, collect_model_data=None, cpu_cores=None, memory_gb=None, scoring_timeout_ms=None, replica_max_concurrent_requests=None, max_request_wait_time=None, num_replicas=None, tags=None, properties=None, description=None, models=None, inference_config=None, gpu_cores=None, period_seconds=None, initial_delay_seconds=None, timeout_seconds=None, success_threshold=None, failure_threshold=None, traffic_percentile=None, is_default=None, is_control_version_type=None, cpu_cores_limit=None, memory_gb_limit=None)參數
- replica_max_concurrent_requests
- int
每個複本允許此版本的端點並行要求數目上限。 預設值為 1。 除非 Microsoft 技術支援或 Azure Machine Learning 小組的成員指示，否則請勿從預設值 1 變更此設定。
- failure_threshold
- int
當 Pod 啟動且活躍度探查失敗時，Kubernetes 會在放棄之前先嘗試使用 failureThreshold 時間。 預設值為 3。 最小值為 1。
例外狀況
delete_version
刪除端點中的版本。
delete_version(version_name)參數
例外狀況
deploy_configuration
建立組態物件以部署至 AKS 計算目標。
static deploy_configuration(autoscale_enabled=None, autoscale_min_replicas=None, autoscale_max_replicas=None, autoscale_refresh_seconds=None, autoscale_target_utilization=None, collect_model_data=None, auth_enabled=None, cpu_cores=None, memory_gb=None, enable_app_insights=None, scoring_timeout_ms=None, replica_max_concurrent_requests=None, max_request_wait_time=None, num_replicas=None, primary_key=None, secondary_key=None, tags=None, properties=None, description=None, gpu_cores=None, period_seconds=None, initial_delay_seconds=None, timeout_seconds=None, success_threshold=None, failure_threshold=None, namespace=None, token_auth_enabled=None, version_name=None, traffic_percentile=None, compute_target_name=None, cpu_cores_limit=None, memory_gb_limit=None)參數
- replica_max_concurrent_requests
- int
每個複本允許此版本在端點中的最大並行要求數目。 預設值為 1。 除非 Microsoft 技術支援或 Azure Machine Learning 小組的成員指示，否則請勿從預設值 1 變更此設定。
- failure_threshold
- int
當 Pod 啟動時，且即時探查失敗時，Kubernetes 會先嘗試 failureThreshold 時間再放棄。 預設值為 3。 最小值為 1。
- namespace
- str
要在其中部署此端點的 Kubernetes 命名空間：最多 63 個小寫英數位元 ('a'-'z'、'0'-'9') 和連字號 ('-') 字元。 第一個字元和最後一個字元不能是連字號。
- token_auth_enabled
- bool
是否要為此端點啟用權杖驗證。 如果啟用此功能，使用者可以使用其 Azure Active Directory 認證來擷取存取權杖，以存取此端點。 預設為 False。
傳回類型
例外狀況
serialize
將此 Webservice 轉換成 JSON 序列化字典。
serialize()傳回
此 Webservice 的 JSON 標記法。
傳回類型
例外狀況
update
使用所提供的屬性更新端點。
保留為 [無] 的值將會在此端點中保持不變
update(auth_enabled=None, token_auth_enabled=None, enable_app_insights=None, description=None, tags=None, properties=None)參數
- token_auth_enabled
- bool
是否要為此端點啟用權杖驗證。 如果啟用此功能，使用者可以使用其 Azure Active Directory 認證來擷取存取權杖，以存取此端點。 預設為 False。
例外狀況
update_version
使用所提供的屬性更新端點中的現有版本。
保留為 None 的值將會在此版本中保持不變。
update_version(version_name, autoscale_enabled=None, autoscale_min_replicas=None, autoscale_max_replicas=None, autoscale_refresh_seconds=None, autoscale_target_utilization=None, collect_model_data=None, cpu_cores=None, memory_gb=None, scoring_timeout_ms=None, replica_max_concurrent_requests=None, max_request_wait_time=None, num_replicas=None, tags=None, properties=None, description=None, models=None, inference_config=None, gpu_cores=None, period_seconds=None, initial_delay_seconds=None, timeout_seconds=None, success_threshold=None, failure_threshold=None, traffic_percentile=None, is_default=None, is_control_version_type=None, cpu_cores_limit=None, memory_gb_limit=None)參數
- replica_max_concurrent_requests
- int
每個複本允許此版本在端點中的最大並行要求數目。 預設值為 1。 除非 Microsoft 技術支援或 Azure Machine Learning 小組的成員指示，否則請勿從預設值 1 變更此設定。
- failure_threshold
- int
當 Pod 啟動且活躍度探查失敗時，Kubernetes 會在放棄之前先嘗試使用 failureThreshold 時間。 預設值為 3。 最小值為 1。
例外狀況
意見反應
即將登場：在 2024 年，我們將逐步淘汰 GitHub 問題作為內容的意見反應機制，並將它取代為新的意見反應系統。 如需詳細資訊，請參閱：https://aka.ms/ContentUserFeedback。
提交並檢視相關的意見反應