Note
此資訊適用於 Databricks CLI 版本 0.205 及以上。 Databricks CLI 處於 公開預覽狀態。
Databricks CLI 的使用受限於 Databricks 授權 和 Databricks 隱私權聲明，包括任何使用數據條款。
serving-endpoints
Databricks CLI 中的指令群組允許你建立、更新及刪除服務端點的模型。 請參閱 管理服務端點的模型。
databricks 提供端點建置記錄
擷取與所提供模型相關聯的組建記錄。
databricks serving-endpoints build-logs NAME SERVED_MODEL_NAME [flags]
Arguments
NAME
服務模型所屬之服務端點的名稱。 此欄位為必要欄位。
SERVED_MODEL_NAME
將會擷取建置記錄之服務模型的名稱。 此欄位為必要欄位。
選項
databricks 服務端點建立
建立新的服務端點。
databricks serving-endpoints create NAME [flags]
Arguments
NAME
服務端點的名稱。 此欄位是必要的，而且在 Databricks 工作區中必須是唯一的。 端點名稱可以包含英文字母、數字、連字號和底線。
選項
--budget-policy-id string
要套用至服務端點的預算原則。
--json JSON
內嵌的 JSON 字串或 @path 整合至包含要求內容的 JSON 檔案。
--no-wait
不要等到達到「NOT_UPDATING」狀態
--route-optimized
啟用服務端點的路由優化。
--timeout duration
達到NOT_UPDATING狀態的時間上限（預設為 20m0s）
databricks 服務端點刪除
刪除服務端點。
databricks serving-endpoints delete NAME [flags]
Arguments
NAME
要刪除之服務端點的名稱。
選項
Databricks 服務端點 匯出指標
使用 Prometheus 或 OpenMetrics 說明格式，擷取與所提供服務端點相關聯的計量。
databricks serving-endpoints export-metrics NAME [flags]
Arguments
NAME
要擷取計量之服務端點的名稱。 此欄位為必要欄位。
選項
databricks 提供端點 get
擷取單一服務端點的詳細數據。
databricks serving-endpoints get NAME [flags]
Arguments
NAME
服務端點的名稱。 此欄位為必要欄位。
選項
databricks 服務端點 get-open-api
以 OpenAPI 格式取得服務端點的查詢架構。 架構包含所支援路徑、輸入和輸出格式和數據類型的資訊。
databricks serving-endpoints get-open-api NAME [flags]
Arguments
NAME
服務模型所屬之服務端點的名稱。 此欄位為必要欄位。
選項
databricks 服務端點清單
取得所有服務端點。
databricks serving-endpoints list [flags]
Arguments
None
選項
databricks 服務端點日誌
擷取與所提供模型相關聯的服務記錄。
databricks serving-endpoints logs NAME SERVED_MODEL_NAME [flags]
Arguments
NAME
服務模型所屬之服務端點的名稱。 此欄位為必要欄位。
SERVED_MODEL_NAME
用於擷取日誌的服務模型名稱。 此欄位為必要欄位。
選項
databricks 服務端點更新
新增或刪除服務端點的標記。
databricks serving-endpoints patch NAME [flags]
Arguments
NAME
要修補之標記的服務端點名稱。 此欄位為必要欄位。
選項
--json JSON
內嵌的 JSON 字串或 @path 整合至包含要求內容的 JSON 檔案。
databricks 服務端點 put
服務端點的更新速率限制。
Note
已淘汰：請改用 AI 閘道來管理速率限制。
databricks serving-endpoints put NAME [flags]
Arguments
NAME
服務端點的名稱，其速率限制正在更新。 此欄位為必要欄位。
選項
--json JSON
內嵌的 JSON 字串或 @path 整合至包含要求內容的 JSON 檔案。
Databricks 服務端點 put-ai-gateway
更新服務端點的 AI 閘道。 完全支援外部模型、已預配置的吞吐量和按令牌計費的端點；而代理端點目前僅支援推理表格。
databricks serving-endpoints put-ai-gateway NAME [flags]
Arguments
NAME
正在更新其 AI 閘道的服務端點名稱。 此欄位為必要欄位。
選項
--json JSON
內嵌的 JSON 字串或 @path 整合至包含要求內容的 JSON 檔案。
databricks 服務端點查詢
查詢服務端點。
databricks serving-endpoints query NAME [flags]
Arguments
NAME
服務端點的名稱。 此欄位為必要欄位。
選項
--json JSON
內嵌的 JSON 字串或 @path 整合至包含要求內容的 JSON 檔案。
--max-tokens int
max tokens 欄位僅用於 完成 任務，以及 聊天外部和基礎模型 服務端點。
--n int
n（候選人數）欄位僅用於完成項目和聊天外部及基礎模型的端點服務。
--stream
串流欄位僅用於完成任務以及聊天外部與基礎模型服務端點。
--temperature float
溫度欄位僅用於 生成和 聊天外部模型與基礎模型 服務端點。
DataBricks serving-endpoints update-config
更新服務端點服務實體、這些服務實體的計算組態，以及端點的流量設定的任何組合。在目前更新完成或失敗之前，無法更新已進行中更新的端點。
databricks serving-endpoints update-config NAME [flags]
Arguments
NAME
要更新之服務端點的名稱。 此欄位為必要欄位。
選項
--json JSON
內嵌的 JSON 字串或 @path 整合至包含要求內容的 JSON 檔案。
--no-wait
不要等到達到「NOT_UPDATING」狀態
--timeout duration
達到NOT_UPDATING狀態的時間上限（預設為 20m0s）
databricks 服務端點 取得權限等級
取得服務端點許可權等級。
databricks serving-endpoints get-permission-levels SERVING_ENDPOINT_ID [flags]
Arguments
SERVING_ENDPOINT_ID
要取得或管理許可權的服務端點。
選項
databricks 服務端點 取得權限
取得服務端點許可權。
取得服務端點的權限。 服務端點可以從其根對象繼承許可權。
databricks serving-endpoints get-permissions SERVING_ENDPOINT_ID [flags]
Arguments
SERVING_ENDPOINT_ID
要取得或管理許可權的服務端點。
選項
databricks 模型服務端點 設定權限
設定提供端點許可權。
databricks serving-endpoints set-permissions SERVING_ENDPOINT_ID [flags]
Arguments
SERVING_ENDPOINT_ID
要取得或管理許可權的服務端點。
選項
--json JSON
內嵌的 JSON 字串或 @path 整合至包含要求內容的 JSON 檔案。
databricks 服務端點更新權限
更新服務端點的許可權。 服務端點可以從其根對象繼承許可權。
databricks serving-endpoints update-permissions SERVING_ENDPOINT_ID [flags]
Arguments
SERVING_ENDPOINT_ID
要取得或管理許可權的服務端點。
選項
--json JSON
內嵌的 JSON 字串或 @path 整合至包含要求內容的 JSON 檔案。
全域旗標
--debug
是否要啟用偵錯記錄。
-h 或 --help
顯示 Databricks CLI、相關命令群組或相關命令的幫助說明。
--log-file 字串
字串，表示要寫入輸出記錄檔的檔案。 若未指定此旗標，則預設值是將輸出記錄寫入 stderr。
--log-format 格式
記錄格式類型，text 或 json。 預設值是 text。
--log-level 字串
表示日誌格式層級的字串。 若未指定，則日誌的格式層級功能將被停用。
-o, --output 類型
指令輸出類型，text 或 json。 預設值是 text。
-p, --profile 字串
用於執行命令的~/.databrickscfg檔案中的配置檔名稱。 如果未指定此旗標，則如果存在，則會使用名為 DEFAULT 的配置檔。
--progress-format 格式
顯示進度記錄的格式：default、、appendinplace、 或json
-t, --target 字串
如果適用，要使用的套件組合目標