serving-endpoints parancscsoport

Note

Ezek az információk a Databricks CLI 0.205-ös és újabb verzióira vonatkoznak. A Databricks parancssori felülete nyilvános előzetes verzióban érhető el.

A Databricks CLI használatára a Databricks Licenc és a Databricks adatvédelmi nyilatkozata vonatkozik, beleértve a használati adatokra vonatkozó rendelkezéseket is.

A serving-endpointsDatabricks parancssori felületének parancscsoportja lehetővé teszi végpontokat kiszolgáló modell létrehozását, frissítését és törlését. Lásd: Végpontokat kiszolgáló modell kezelése.

databricks serving-endpoints build naplók

Kérje le a megadott kiszolgált modellhez társított buildnaplókat.

databricks serving-endpoints build-logs NAME SERVED_MODEL_NAME [flags]

Arguments

NAME

    Annak a kiszolgálóvégpontnak a neve, amelyhez a kiszolgált modell tartozik. Ez a mező kötelező.

SERVED_MODEL_NAME

    A rendszer lekéri annak a kiszolgált modellnek a nevét, amelyhez a rendszer létrehozza a naplókat. Ez a mező kötelező.

Beállítások

Globális jelzők

Databricks szolgáltatási végpontok létrehozása

Hozzon létre egy új kiszolgálóvégpontot.

databricks serving-endpoints create NAME [flags]

Arguments

NAME

    A kiszolgáló végpont neve. Ez a mező kötelező, és egyedinek kell lennie egy Databricks-munkaterületen. A végpontnevek alfanumerikus karakterekből, kötőjelekből és aláhúzásjelekből állhatnak.

Beállítások

--budget-policy-id string

    A kiszolgáló végpontra alkalmazandó költségvetési szabályzat.

--json JSON

    A beágyazott JSON-sztring vagy a @path JSON-fájl a kérelem törzsével.

--no-wait

    ne várjon NOT_UPDATING állapot elérésére

--route-optimized

    A kiszolgáló végpont útvonaloptimalizálásának engedélyezése.

--timeout duration

    NOT_UPDATING állapot elérésének maximális időtartama (alapértelmezett 20m0s)

Globális jelzők

databricks serving-endpoints create-provisioned-throughput-endpoint

Hozzon létre egy új kiosztott átviteli sebességet kiszolgáló végpontot.

databricks serving-endpoints create-provisioned-throughput-endpoint [flags]

Beállítások

--budget-policy-id string

    A végponthoz társított költségvetési szabályzat.

--json JSON

    A beágyazott JSON-sztring vagy a @path JSON-fájl a kérelem törzsével.

--no-wait

    Ne várjon NOT_UPDATING állapot elérésére.

--timeout duration

    Az NOT_UPDATING állapot elérésének maximális időtartama (alapértelmezett 20m0s).

Globális jelzők

Examples

Az alábbi példa egy kiépített átviteli sebességű végpontot hoz létre:

databricks serving-endpoints create-provisioned-throughput-endpoint --json @endpoint-config.json

Databricks kiszolgáló végpontok törlése

Kiszolgálóvégpont törlése.

databricks serving-endpoints delete NAME [flags]

Arguments

NAME

    A törölni kívánt kiszolgálóvégpont neve.

Beállítások

Globális jelzők

databricks-kiszolgálóvégpontok exportálási metrikái

Kérje le a megadott kiszolgálóvégponthoz társított metrikákat Prometheus vagy OpenMetrics expozíciós formátumban.

databricks serving-endpoints export-metrics NAME [flags]

Arguments

NAME

    A mérőszámok lekéréséhez használt kiszolgálóvégpont neve. Ez a mező kötelező.

Beállítások

Globális jelzők

A Databricks kiszolgálási végpontok lekérése

Egyetlen kiszolgálóvégpont adatainak lekérése.

databricks serving-endpoints get NAME [flags]

Arguments

NAME

    A kiszolgáló végpont neve. Ez a mező kötelező.

Beállítások

Globális jelzők

databricks serving-endpoints get-open-api

Kérje le a kiszolgáló végpont lekérdezési sémáját OpenAPI formátumban. A séma információkat tartalmaz a támogatott elérési utakról, a bemeneti és kimeneti formátumról és az adattípusokról.

databricks serving-endpoints get-open-api NAME [flags]

Arguments

NAME

    Annak a kiszolgálóvégpontnak a neve, amelyhez a kiszolgált modell tartozik. Ez a mező kötelező.

Beállítások

Globális jelzők

databricks kiszolgáló végpontok listázása

Szerezze be az összes kiszolgáló végpontot.

databricks serving-endpoints list [flags]

Arguments

None

Beállítások

Globális jelzők

databricks szolgáltatóvégpontok naplói

Kérje le a megadott kiszolgált modellhez társított szolgáltatásnaplókat.

databricks serving-endpoints logs NAME SERVED_MODEL_NAME [flags]

Arguments

NAME

    Annak a kiszolgálóvégpontnak a neve, amelyhez a kiszolgált modell tartozik. Ez a mező kötelező.

SERVED_MODEL_NAME

    Annak a kiszolgált modellnek a neve, amelyről a rendszer naplókat kér le. Ez a mező kötelező.

Beállítások

Globális jelzők

databricks-kiszolgálóvégpontok javítása

Egy kiszolgálóvégpont címkéinek hozzáadása vagy törlése.

databricks serving-endpoints patch NAME [flags]

Arguments

NAME

    Annak a kiszolgáló végpontnak a neve, amelynek címkéi javítandók. Ez a mező kötelező.

Beállítások

--json JSON

    A beágyazott JSON-sztring vagy a @path JSON-fájl a kérelem törzsével.

Globális jelzők

databricks-kiszolgálóvégpontok elhelyezése

Warning

Deprecated. Ehelyett az AI Gateway használatával kezelheti a sebességkorlátokat.

A kiszolgáló végpont sebességkorlátainak frissítése.

databricks serving-endpoints put NAME [flags]

Arguments

NAME

    Annak a kiszolgáló végpontnak a neve, amelynek sebességkorlátjai frissülnek. Ez a mező kötelező.

Beállítások

--json JSON

    A beágyazott JSON-sztring vagy a @path JSON-fájl a kérelem törzsével.

Globális jelzők

databricks kiszolgálási végpontok put-ai-gateway

Frissítse a kiszolgáló végpont AI-átjáróját. A külső modell, a kiosztott átviteli sebesség és a tokenenkénti fizetés végpontok teljes mértékben támogatottak; az ügynökvégpontok jelenleg csak következtetési táblákat támogatnak.

databricks serving-endpoints put-ai-gateway NAME [flags]

Arguments

NAME

    Annak a kiszolgáló végpontnak a neve, amelynek AI-átjárója frissül. Ez a mező kötelező.

Beállítások

--json JSON

    A beágyazott JSON-sztring vagy a @path JSON-fájl a kérelem törzsével.

Globális jelzők

Databricks szolgáltatási végpontok lekérdezése

Kiszolgálóvégpont lekérdezése.

databricks serving-endpoints query NAME [flags]

Arguments

NAME

    A kiszolgáló végpont neve. Ez a mező kötelező.

Beállítások

--json JSON

    A beágyazott JSON-sztring vagy a @path JSON-fájl a kérelem törzsével.

--max-tokens int

    A végpontok kiszolgálására a maximális tokenek mező CSAK a befejezésekhez és a csevegés külső és alapmodelljeihez használatos.

--n int

    A n (jelöltek száma) mező CSAK a befejezésekhez és a chat külső és alapvető modell végpontok kiszolgálásához használatos.

--stream

    A streammező csak a kiegészítésekhez és a külső & alapmodell chat végpontok kiszolgálásához van használva.

--temperature float

    Kizárólag befejezésekhez és a csevegési külső és alapmodelleket kiszolgáló végpontokhoz használt hőmérsékletmező.

Globális jelzők

Databricks kiszolgálási végpontok frissítési konfigurációja

Frissítse a kiszolgált végpont kiszolgált entitásainak bármely kombinációját, a kiszolgált entitások számítási konfigurációját és a végpont forgalmi konfigurációját. A már folyamatban lévő frissítéssel rendelkező végpontok csak akkor frissíthetők, ha az aktuális frissítés befejeződik vagy meghiúsul.

databricks serving-endpoints update-config NAME [flags]

Arguments

NAME

    A frissíteni kívánt kiszolgáló végpont neve. Ez a mező kötelező.

Beállítások

--json JSON

    A beágyazott JSON-sztring vagy a @path JSON-fájl a kérelem törzsével.

--no-wait

    ne várjon NOT_UPDATING állapot elérésére

--timeout duration

    NOT_UPDATING állapot elérésének maximális időtartama (alapértelmezett 20m0s)

Globális jelzők

databricks serving-endpoints update-notifications

Frissítse a kiszolgáló végpont e-mail- és webhook-értesítési beállításait.

databricks serving-endpoints update-notifications NAME [flags]

Arguments

NAME

    Annak a kiszolgáló végpontnak a neve, amelynek értesítései frissülnek.

Beállítások

--json JSON

    A beágyazott JSON-sztring vagy a @path JSON-fájl a kérelem törzsével.

Globális jelzők

Examples

Az alábbi példa frissíti egy végpont értesítési beállításait:

databricks serving-endpoints update-notifications my-endpoint --json '{"email_notifications": {"on_failure": ["user@example.com"]}}'

databricks serving-endpoints update-provisioned-throughput-endpoint-config

Frissítse a végpontot kiszolgáló kiépített átviteli sebesség konfigurációját. A frissítések azonnaliak.

databricks serving-endpoints update-provisioned-throughput-endpoint-config NAME [flags]

Arguments

NAME

    A frissítendő kiosztott átviteli sebesség végpontjának neve.

Beállítások

--json JSON

    A beágyazott JSON-sztring vagy a @path JSON-fájl a kérelem törzsével.

--no-wait

    Ne várjon NOT_UPDATING állapot elérésére.

--timeout duration

    Az NOT_UPDATING állapot elérésének maximális időtartama (alapértelmezett 20m0s).

Globális jelzők

Examples

Az alábbi példa frissíti a kiépített átviteli sebesség végpontjának konfigurációját:

databricks serving-endpoints update-provisioned-throughput-endpoint-config my-pt-endpoint --json @updated-config.json

databricks-kiszolgálóvégpontok jogosultsági szintek lekérése

Az szolgáltató végpont jogosultsági szintjeinek lekérése.

databricks serving-endpoints get-permission-levels SERVING_ENDPOINT_ID [flags]

Arguments

SERVING_ENDPOINT_ID

    Az a kiszolgáló végpont, amelyhez engedélyeket kell beszerezni vagy kezelni.

Beállítások

Globális jelzők

databricks-kiszolgálóvégpontok lekérési engedélyei

Kiszolgálói végpontengedélyek lekérése.

Lekéri egy kiszolgálóvégpont engedélyeit. A végpontok kiszolgálása örökölheti a gyökérobjektum engedélyeit.

databricks serving-endpoints get-permissions SERVING_ENDPOINT_ID [flags]

Arguments

SERVING_ENDPOINT_ID

    Az a kiszolgáló végpont, amelyhez engedélyeket kell beszerezni vagy kezelni.

Beállítások

Globális jelzők

databricks kiszolgáló-végpontok engedélyeinek beállítása

Kiszolgálói végpontengedélyek beállítása.

databricks serving-endpoints set-permissions SERVING_ENDPOINT_ID [flags]

Arguments

SERVING_ENDPOINT_ID

    Az a kiszolgáló végpont, amelyhez engedélyeket kell beszerezni vagy kezelni.

Beállítások

--json JSON

    A beágyazott JSON-sztring vagy a @path JSON-fájl a kérelem törzsével.

Globális jelzők

databricks-kiszolgálóvégpontok frissítési engedélyei

Frissítse a kiszolgáló végpont engedélyeit. A végpontok kiszolgálása örökölheti a gyökérobjektum engedélyeit.

databricks serving-endpoints update-permissions SERVING_ENDPOINT_ID [flags]

Arguments

SERVING_ENDPOINT_ID

    Az a kiszolgáló végpont, amelyhez engedélyeket kell beszerezni vagy kezelni.

Beállítások

--json JSON

    A beágyazott JSON-sztring vagy a @path JSON-fájl a kérelem törzsével.

Globális jelzők

Globális jelzők

--debug

  Engedélyezze-e a hibakeresési naplózást.

-h vagy --help

    Súgó megjelenítése a Databricks parancssori felületéhez, a kapcsolódó parancscsoporthoz vagy a kapcsolódó parancshoz.

--log-file karakterlánc

    A karakterlánc, amely megadja, melyik fájlba írja az kimeneti naplókat. Ha ez a jelző nincs megadva, akkor az alapértelmezett beállítás a kimeneti naplók stderrbe írása.

--log-format formátum

    A naplóformátum típusa, amely lehet text vagy json. Az alapértelmezett érték a text.

--log-level karakterlánc

    A naplóformátum szintjét képviselő karakterlánc. Ha nincs megadva, a naplóformátum szintje le van tiltva.

-o, --output típus

    A parancs kimenettípusa: text vagy json. Az alapértelmezett érték a text.

-p, --profile karakterlánc

    A parancs futtatásához használni kívánt fájl profiljának ~/.databrickscfg neve. Ha ez a jelző nincs megadva, akkor ha létezik, a rendszer a névvel ellátott DEFAULT profilt használja.

--progress-format formátum

    A folyamatnaplók megjelenítésének formátuma: default, append, inplacevagy json

-t, --target karakterlánc

    Ha alkalmazható, a használni kívánt célcsomag