Udostępnij przez


serving-endpoints grupa poleceń

Note

Te informacje dotyczą interfejsu wiersza polecenia usługi Databricks w wersji 0.205 lub nowszej. Interfejs CLI Databricks jest w publicznej wersji testowej.

Korzystanie z interfejsu wiersza polecenia usługi Databricks podlega licencjom usługi Databricks i powiadomieniom o ochronie prywatności usługi Databricks, w tym wszelkim przepisom dotyczącym danych użycia.

Grupa serving-endpoints poleceń w interfejsie wiersza polecenia usługi Databricks umożliwia tworzenie, aktualizowanie i usuwanie punktów końcowych obsługujących model. Zobacz Zarządzanie modelami obsługującymi punkty końcowe.

dzienniki kompilacji usługi databricks obsługujące punkty końcowe

Pobierz dzienniki kompilacji skojarzone z podanym obsługiwanym modelem.

databricks serving-endpoints build-logs NAME SERVED_MODEL_NAME [flags]

Arguments

NAME

    Nazwa obsługiwanego punktu końcowego, do którego należy obsługiwany model. To pole jest wymagane.

SERVED_MODEL_NAME

    Nazwa obsługiwanego modelu, dla którego zostaną pobrane dzienniki kompilacji. To pole jest wymagane.

Opcje

Flagi globalne

tworzenie punktów końcowych obsługujących usługę databricks

Utwórz nowy punkt końcowy usługi.

databricks serving-endpoints create NAME [flags]

Arguments

NAME

    Nazwa obsługującego punktu końcowego. To pole jest wymagane i musi być unikatowe w obszarze roboczym usługi Databricks. Nazwa punktu końcowego może zawierać znaki alfanumeryczne, kreski i podkreślenia.

Opcje

--budget-policy-id string

    Polityka budżetowa, która ma zostać zastosowana do punktu końcowego usługi.

--json JSON

    Wbudowany ciąg JSON lub @path do pliku JSON z treścią żądania.

--no-wait

    nie czekaj na osiągnięcie stanu NOT_UPDATING

--route-optimized

    Włącz optymalizację tras dla punktu końcowego obsługi.

--timeout duration

    maksymalny czas osiągnięcia NOT_UPDATING stanu (domyślnie 20 ms)

Flagi globalne

usuwanie punktów końcowych usługi databricks

Usuń punkt końcowy usługi.

databricks serving-endpoints delete NAME [flags]

Arguments

NAME

    Nazwa punktu końcowego obsługującego do usunięcia.

Opcje

Flagi globalne

databricks punkty końcowe serwisu eksportuj metryki

Pobierz metryki skojarzone z podanym serwerowym punktem końcowym w formacie reprezentacji Prometheus lub OpenMetrics.

databricks serving-endpoints export-metrics NAME [flags]

Arguments

NAME

    Nazwa punktu końcowego obsługującego do pobrania metryk. To pole jest wymagane.

Opcje

Flagi globalne

pobierz końcowe punkty usługi databricks

Pobierz szczegóły pojedynczego punktu końcowego do obsługi.

databricks serving-endpoints get NAME [flags]

Arguments

NAME

    Nazwa obsługującego punktu końcowego. To pole jest wymagane.

Opcje

Flagi globalne

databricks punkty-serwerów uzyskaj-open-api

Pobierz schemat zapytania obsługującego punkt końcowy w formacie OpenAPI. Schemat zawiera informacje dotyczące obsługiwanych ścieżek, formatu wejściowego i wyjściowego oraz typów danych.

databricks serving-endpoints get-open-api NAME [flags]

Arguments

NAME

    Nazwa obsługiwanego punktu końcowego, do którego należy obsługiwany model. To pole jest wymagane.

Opcje

Flagi globalne

lista punktów końcowych obsługujących usługę databricks

Pobierz wszystkie obsługujące punkty końcowe.

databricks serving-endpoints list [flags]

Arguments

None

Opcje

Flagi globalne

dzienniki końcówek obsługiwanych przez Databricks

Pobierz dzienniki usługi skojarzone z podanym modelem obsługiwanym.

databricks serving-endpoints logs NAME SERVED_MODEL_NAME [flags]

Arguments

NAME

    Nazwa obsługiwanego punktu końcowego, do którego należy obsługiwany model. To pole jest wymagane.

SERVED_MODEL_NAME

    Nazwa obsługiwanego modelu, dla którego będą pobierane dzienniki. To pole jest wymagane.

Opcje

Flagi globalne

poprawka usługi databricks obsługujących punkty końcowe

Dodawanie lub usuwanie tagów punktu końcowego obsługującego.

databricks serving-endpoints patch NAME [flags]

Arguments

NAME

    Nazwa obsługującego punktu końcowego, którego tagi mają być poprawione. To pole jest wymagane.

Opcje

--json JSON

    Wbudowany ciąg JSON lub @path do pliku JSON z treścią żądania.

Flagi globalne

Umieszczanie punktów końcowych obsługi Databricks

Aktualizowanie limitów szybkości punktu końcowego obsługującego.

Note

Przestarzałe: Zamiast tego użyj bramy AI, aby zarządzać limitami przepustowości.

databricks serving-endpoints put NAME [flags]

Arguments

NAME

    Nazwa punktu końcowego obsługującego, którego limity szybkości są aktualizowane. To pole jest wymagane.

Opcje

--json JSON

    Wbudowany ciąg JSON lub @path do pliku JSON z treścią żądania.

Flagi globalne

databricks punkty końcowe obsługiwania put-ai-gateway

Zaktualizuj bramę sztucznej inteligencji punktu końcowego obsługującego. Model zewnętrzny, aprowizowana przepustowość i punkty końcowe z płatnością za token są w pełni obsługiwane; punkty końcowe agenta obecnie obsługują tylko tabele wnioskowań.

databricks serving-endpoints put-ai-gateway NAME [flags]

Arguments

NAME

    Nazwa punktu końcowego obsługującego, którego brama sztucznej inteligencji jest aktualizowana. To pole jest wymagane.

Opcje

--json JSON

    Wbudowany ciąg JSON lub @path do pliku JSON z treścią żądania.

Flagi globalne

zapytanie do punktów końcowych usługi Databricks

Wykonywanie zapytań względem punktu końcowego obsługującego.

databricks serving-endpoints query NAME [flags]

Arguments

NAME

    Nazwa obsługującego punktu końcowego. To pole jest wymagane.

Opcje

--json JSON

    Wbudowany ciąg JSON lub @path do pliku JSON z treścią żądania.

--max-tokens int

    Pole maksymalna liczba tokenów używane tylko do uzupełnień i czatu w punkcie końcowym modelu zewnętrznego i podstawowego.

--n int

    N (liczba kandydatów) pole używane tylko do uzupełniania i czatu zewnętrznego i podstawowego modelu obsługującego punkty końcowe.

--stream

    Pole strumienia używane tylko do uzupełnień i modelu zewnętrznego czatu i bazowego obsługiwania punktów końcowych.

--temperature float

    Pole temperatury używane tylko do ukończeń oraz obsługi punktów końcowych zewnętrznego czatu i modelu bazowego.

Flagi globalne

databricks serving-endpoints update-config

Zaktualizuj dowolną kombinację obsługiwanych jednostek punktu końcowego, konfigurację obliczeniową tych obsługiwanych jednostek i konfigurację ruchu punktu końcowego. Punkt końcowy, który ma już w toku aktualizację, nie może zostać zaktualizowany, dopóki bieżąca aktualizacja nie zostanie ukończona lub nie powiedzie się.

databricks serving-endpoints update-config NAME [flags]

Arguments

NAME

    Nazwa punktu końcowego obsługującego do zaktualizowania. To pole jest wymagane.

Opcje

--json JSON

    Wbudowany ciąg JSON lub @path do pliku JSON z treścią żądania.

--no-wait

    nie czekaj na osiągnięcie stanu NOT_UPDATING

--timeout duration

    maksymalny czas osiągnięcia NOT_UPDATING stanu (domyślnie 20 ms)

Flagi globalne

databricks punkty-serwowania poziomy-uprawnień

Uzyskiwanie poziomów uprawnień punktu końcowego obsługi.

databricks serving-endpoints get-permission-levels SERVING_ENDPOINT_ID [flags]

Arguments

SERVING_ENDPOINT_ID

    Punkt końcowy obsługujący, dla którego chcesz uzyskać uprawnienia lub zarządzać nimi.

Opcje

Flagi globalne

databricks punkty końcowe serwisu uzyskaj uprawnienia

Uzyskiwanie uprawnień punktu końcowego do obsługi.

Pobiera uprawnienia punktu końcowego obsługującego. Obsługa punktów końcowych może dziedziczyć uprawnienia po ich obiekcie głównym.

databricks serving-endpoints get-permissions SERVING_ENDPOINT_ID [flags]

Arguments

SERVING_ENDPOINT_ID

    Punkt końcowy obsługujący, dla którego chcesz uzyskać uprawnienia lub zarządzać nimi.

Opcje

Flagi globalne

ustawienia uprawnień punktów końcowych usługi Databricks

Ustaw uprawnienia punktu końcowego usługowego.

databricks serving-endpoints set-permissions SERVING_ENDPOINT_ID [flags]

Arguments

SERVING_ENDPOINT_ID

    Punkt końcowy obsługujący, dla którego chcesz uzyskać uprawnienia lub zarządzać nimi.

Opcje

--json JSON

    Wbudowany ciąg JSON lub @path do pliku JSON z treścią żądania.

Flagi globalne

databricks serving-endpoints aktualizuj-uprawnienia

Zaktualizuj uprawnienia w punkcie końcowym obsługującym. Obsługa punktów końcowych może dziedziczyć uprawnienia po ich obiekcie głównym.

databricks serving-endpoints update-permissions SERVING_ENDPOINT_ID [flags]

Arguments

SERVING_ENDPOINT_ID

    Punkt końcowy obsługujący, dla którego chcesz uzyskać uprawnienia lub zarządzać nimi.

Opcje

--json JSON

    Wbudowany ciąg JSON lub @path do pliku JSON z treścią żądania.

Flagi globalne

Flagi globalne

--debug

  Czy włączyć logowanie debugowe.

-h lub --help

    Wyświetl pomoc dla Databricks CLI lub dla powiązanej grupy poleceń czy pojedynczego polecenia.

--log-file struna

    Ciąg reprezentujący plik do zapisywania dzienników wyjściowych. Jeśli ta flaga nie zostanie określona, wartością domyślną jest zapisywanie dzienników wyjściowych w programie stderr.

--log-format formatowanie

    Format typu logu text lub json. Wartość domyślna to text.

--log-level struna

    Ciąg reprezentujący poziom formatu zapisu dziennika. Jeśli nie zostanie określony, poziom formatu dziennika jest wyłączony.

-o, --output typ

    Typ danych wyjściowych polecenia: text lub json. Wartość domyślna to text.

-p, --profile struna

    Nazwa profilu pliku ~/.databrickscfg, którego użyć do uruchomienia polecenia. Jeśli ta flaga nie zostanie określona, zostanie użyty profil o nazwie DEFAULT .

--progress-format formatowanie

    Format wyświetlania dzienników postępu: default, , appendinplacelubjson

-t, --target struna

    Jeśli ma to zastosowanie, docelowy obiekt pakietu do użycia