Wdrażanie modeli na potrzeby wnioskowania wsadowego i przewidywania

Artykuł opisuje, co Databricks zaleca dla wnioskowania wsadowego.

Dla obsługi modeli w czasie rzeczywistym na Azure Databricks, zobacz Wdrażanie modeli z użyciem Mosaic AI Model Serving.

Funkcje sztucznej inteligencji do wnioskowania wsadowego

Ważne

Ta funkcja jest dostępna w publicznej wersji zapoznawczej.

Funkcje sztucznej inteligencji to wbudowane funkcje, których można użyć do zastosowania sztucznej inteligencji na danych przechowywanych w usłudze Databricks. Wnioskowanie wsadowe można uruchamiać przy użyciu funkcji sztucznej inteligencji specyficznych dla zadania lub funkcji ogólnego przeznaczenia, ai_query.

Poniżej przedstawiono przykład wnioskowania wsadowego przy użyciu funkcji sztucznej inteligencji specyficznej dla zadania . ai_translate Jeśli chcesz wykonać wnioskowanie wsadowe w całej tabeli, możesz usunąć element limit 500 z zapytania.

SELECT
writer_summary,
  ai_translate(writer_summary, "cn") as cn_translation
from user.batch.news_summaries
limit 500
;

Alternatywnie można użyć funkcji ogólnego przeznaczenia, ai_query aby przeprowadzić wnioskowanie wsadowe.

• Zobacz, które typy modeli i skojarzone modele obsługuje ai_query.
• Zobacz Wdrażanie potoków wnioskowania wsadowego.