serving-endpoints skupina příkazů

Note

Tyto informace platí pro Databricks CLI verze 0.205 a vyšší. Rozhraní příkazového řádku Databricks je ve veřejné ukázce.

Použití rozhraní příkazového řádku Databricks podléhá licenci Databricks a oznámení o ochraně osobních údajů Databricks, včetně všech ustanovení o využití.

Skupina serving-endpoints příkazů v rozhraní příkazového řádku Databricks umožňuje vytvářet, aktualizovat a odstraňovat koncové body obsluhy modelu. Viz Správa modelů obsluhujících koncové body.

Aktivační body Databricks pro sestavení - protokoly

Načtěte protokoly sestavení přidružené k poskytnutému obsluhovanému modelu.

databricks serving-endpoints build-logs NAME SERVED_MODEL_NAME [flags]

Arguments

NAME

    Název koncového bodu poskytování, ke kterému náleží nasazený model. Toto pole je povinné.

SERVED_MODEL_NAME

    Název obsluhovaného modelu, pro který se načtou protokoly sestavení. Toto pole je povinné.

Možnosti

Globální příznaky

Vytvoření koncových bodů obsluhy databricks

Vytvořte nový koncový bod obsluhy.

databricks serving-endpoints create NAME [flags]

Arguments

NAME

    Název obslužného koncového bodu. Toto pole je povinné a musí být jedinečné v rámci pracovního prostoru Databricks. Název koncového bodu se může skládat z alfanumerických znaků, pomlček a podtržítka.

Možnosti

--budget-policy-id string

    Rozpočtová politika, která se použije na služební koncový bod.

--json JSON

    Vložený řetězec JSON nebo @path do souboru JSON s textem požadavku.

--no-wait

    nečekejte na dosažení stavu NOT_UPDATING

--route-optimized

    Povolte optimalizaci trasy pro koncový bod služby.

--timeout duration

    maximální doba dosažení NOT_UPDATING stavu (výchozí 20m0s)

Globální příznaky

Odstranění koncových bodů služby databricks

Odstranit obslužný koncový bod

databricks serving-endpoints delete NAME [flags]

Arguments

NAME

    Název obslužného koncového bodu, který se má odstranit.

Možnosti

Globální příznaky

Databricks obsluhující koncové body – metriky exportu

Načtěte metriky spojené se zadaným koncovým bodem obsluhy ve formátu zobrazování Prometheus nebo OpenMetrics.

databricks serving-endpoints export-metrics NAME [flags]

Arguments

NAME

    Název obslužného koncového bodu pro načtení metrik. Toto pole je povinné.

Možnosti

Globální příznaky

Získání koncových bodů obsluhy databricks

Načtěte podrobnosti pro jeden obslužný koncový bod.

databricks serving-endpoints get NAME [flags]

Arguments

NAME

    Název obslužného koncového bodu. Toto pole je povinné.

Možnosti

Globální příznaky

Databricks serving-endpoints get-open-api (Získání otevřeného API z koncového bodu pro poskytování ve službě Databricks)

Získejte schéma dotazu koncového bodu obsluhy ve formátu OpenAPI. Schéma obsahuje informace o podporovaných cestách, vstupním a výstupním formátu a datových typech.

databricks serving-endpoints get-open-api NAME [flags]

Arguments

NAME

    Název koncového bodu poskytování, ke kterému náleží nasazený model. Toto pole je povinné.

Možnosti

Globální příznaky

Seznam koncových bodů obsluhy databricks

Získejte všechny koncové body služeb.

databricks serving-endpoints list [flags]

Arguments

None

Možnosti

Globální příznaky

Protokoly obslužných koncových bodů Databricks

Načtěte protokoly služby přidružené k poskytnutému obsluhovanému modelu.

databricks serving-endpoints logs NAME SERVED_MODEL_NAME [flags]

Arguments

NAME

    Název koncového bodu poskytování, ke kterému náleží nasazený model. Toto pole je povinné.

SERVED_MODEL_NAME

    Název obsluhovaného modelu, pro který se načtou protokoly. Toto pole je povinné.

Možnosti

Globální příznaky

Oprava koncových bodů služeb databricks

Přidejte nebo odeberte tagy u koncového bodu obsluhy.

databricks serving-endpoints patch NAME [flags]

Arguments

NAME

    Název obslužného koncového bodu, jehož značky se mají opravit. Toto pole je povinné.

Možnosti

--json JSON

    Vložený řetězec JSON nebo @path do souboru JSON s textem požadavku.

Globální příznaky

Umístění koncových bodů obsluhy databricks

Aktualizujte limity rychlosti obsluhujícího koncového bodu.

Note

Zastaralé: Ke správě limitů rychlosti použijte bránu AI.

databricks serving-endpoints put NAME [flags]

Arguments

NAME

    Název koncového bodu obsluhy, jehož limity rychlosti jsou aktualizovány. Toto pole je povinné.

Možnosti

--json JSON

    Vložený řetězec JSON nebo @path do souboru JSON s textem požadavku.

Globální příznaky

Databricks servisní koncové body put-ai-gateway

Aktualizujte bránu AI pro obsluhující koncový bod. Plně se podporují externí modely, rezervovaná propustnost a koncové body s platbou za token; koncové body agenta v současné době podporují pouze tabulky pro odvozování.

databricks serving-endpoints put-ai-gateway NAME [flags]

Arguments

NAME

    Název obslužného koncového bodu, jehož brána AI se aktualizuje. Toto pole je povinné.

Možnosti

--json JSON

    Vložený řetězec JSON nebo @path do souboru JSON s textem požadavku.

Globální příznaky

Dotaz na obslužné koncové body Databricks

Zadejte dotaz na koncový bod obsluhy.

databricks serving-endpoints query NAME [flags]

Arguments

NAME

    Název obslužného koncového bodu. Toto pole je povinné.

Možnosti

--json JSON

    Vložený řetězec JSON nebo @path do souboru JSON s textem požadavku.

--max-tokens int

    Pole maximálního počtu tokenů, které slouží pouze k dokončení a chatu s externím a základním modelem obsluhující koncové body.

--n int

    Pole n (počet kandidátů) se používá pouze pro dokončení a chat externí model a základní model pro obsluhu koncových bodů.

--stream

    Pole streamu používané pouze pro dokončení úloh a externí modely chatu a základní modely umělé inteligence obsluhující koncové body.

--temperature float

    Pole teploty , které slouží pouze k dokončení a chatování externího a základního modelu obsluhující koncové body.

Globální příznaky

Konfigurace aktualizace koncových bodů služby Databricks

Aktualizujte libovolnou kombinaci obsluhovaných entit koncového bodu, výpočetní konfiguraci těchto obsluhovaných entit a konfiguraci provozu koncového bodu. Koncový bod, který již má probíhající aktualizaci, nelze aktualizovat, dokud se aktuální aktualizace nedokonjí nebo se nezdaří.

databricks serving-endpoints update-config NAME [flags]

Arguments

NAME

    Název obslužného koncového bodu, který se má aktualizovat. Toto pole je povinné.

Možnosti

--json JSON

    Vložený řetězec JSON nebo @path do souboru JSON s textem požadavku.

--no-wait

    nečekejte na dosažení stavu NOT_UPDATING

--timeout duration

    maximální doba dosažení NOT_UPDATING stavu (výchozí 20m0s)

Globální příznaky

Databricks obslužné koncové body - získat úrovně oprávnění

Získejte úrovně oprávnění pro obsluhu koncového bodu.

databricks serving-endpoints get-permission-levels SERVING_ENDPOINT_ID [flags]

Arguments

SERVING_ENDPOINT_ID

    Obsluhující koncový bod, pro který se mají získat nebo spravovat oprávnění.

Možnosti

Globální příznaky

Oprávnění get-permissions pro databricks obsluhující koncové body

Získejte oprávnění obslužného koncového bodu.

Získá oprávnění obsluhujícího koncového bodu. Obsluha koncových bodů může dědit oprávnění z kořenového objektu.

databricks serving-endpoints get-permissions SERVING_ENDPOINT_ID [flags]

Arguments

SERVING_ENDPOINT_ID

    Obsluhující koncový bod, pro který se mají získat nebo spravovat oprávnění.

Možnosti

Globální příznaky

Nastavení oprávnění obslužných koncových bodů Databricks

Nastavte oprávnění služebního koncového bodu.

databricks serving-endpoints set-permissions SERVING_ENDPOINT_ID [flags]

Arguments

SERVING_ENDPOINT_ID

    Obsluhující koncový bod, pro který se mají získat nebo spravovat oprávnění.

Možnosti

--json JSON

    Vložený řetězec JSON nebo @path do souboru JSON s textem požadavku.

Globální příznaky

Databricks obsluhující koncové body – oprávnění k aktualizaci

Aktualizujte oprávnění pro obsluhující koncový bod. Obsluha koncových bodů může dědit oprávnění z kořenového objektu.

databricks serving-endpoints update-permissions SERVING_ENDPOINT_ID [flags]

Arguments

SERVING_ENDPOINT_ID

    Obsluhující koncový bod, pro který se mají získat nebo spravovat oprávnění.

Možnosti

--json JSON

    Vložený řetězec JSON nebo @path do souboru JSON s textem požadavku.

Globální příznaky

Globální příznaky

--debug

  Zda povolit protokolování ladění.

-h nebo --help

    Zobrazení nápovědy k rozhraní příkazového řádku Databricks nebo související skupině příkazů nebo souvisejícímu příkazu

--log-file řetězec

    Řetězec představující soubor, do kterého se zapisují výstupní protokoly. Pokud tento příznak není zadaný, výchozí hodnota je zápis výstupních protokolů do stderru.

--log-format formát

    Typ formátu protokolu, text nebo json. Výchozí hodnota je text.

--log-level řetězec

    Řetězec představující úroveň formátu protokolu. Pokud není zadána, je úroveň formátu protokolu zakázaná.

-o, --output typ

    Typ výstupu příkazu, text nebo json. Výchozí hodnota je text.

-p, --profile řetězec

    Název profilu v ~/.databrickscfg souboru, který se má použít ke spuštění příkazu. Pokud tento příznak není zadán, použije se profil s názvem DEFAULT, pokud existuje.

--progress-format formát

    Formát pro zobrazení protokolů průběhu: default, append, inplacenebo json

-t, --target řetězec

    Pokud je to relevantní, cílový balíček, který se má použít