Použijte ai_query

ai_query je univerzální funkce AI, která umožňuje dotazovat libovolný podporovaný model AI přímo z SQL nebo Python. Na rozdíl od funkcí AI specifických pro úlohy, které jsou účelově vytvořené a optimalizované pro jeden úkol, ai_query vám poskytuje úplnou kontrolu nad modelem, výzvou a parametry.

Úplné odkazy na syntaxi a parametry najdete ve funkci ai_query.

Tip

Pokud má váš účet povolený beta náhled funkce Unity AI Gateway, ai_query požadavky na koncové body poskytované službou Azure Databricks jsou automaticky směrovány přes Unity AI Gateway. To umožňuje sledování využití pro úlohy dávkového odvozování. Podrobnosti najdete v části Koncové body dotazů s ai_query.

Požadavky

  • Tato funkce není k dispozici ve skladech SQL Pro nebo Classic.
  • Poznámkové bloky a pracovní postupy: Vyžaduje se bezserverové výpočetní prostředí . ai_query v klasických výpočetních clusterech se nepodporuje.
  • Vyžaduje se Databricks Runtime 18.2 nebo novější.

Kdy použít ai_query

Databricks doporučuje začít s funkcí AI specifickou pro úlohu , pokud odpovídá vašemu cíli. Použijte ai_query , když funkce specifická pro úkol nevyhovuje vašim potřebám. Například v případě, že potřebujete:

  • Přesnější řízení příkazového řádku, parametrů modelu nebo výstupního formátu
  • Dotaz na vlastní, jemně vyladěný nebo externí model
  • Potřebujete flexibilitu pro další optimalizaci propustnosti nebo kvality.

Rozhodovací strom pro úkolově specifické funkce umělé inteligence a ai_query

Osvědčené postupy

  • Použijte modely hostované službou Databricks. Místo předpřipravených koncových bodů propustnosti používejte koncové body základního modelu, které jsou hostované službou Databricks (s předponou databricks-). Tyto koncové body se plně spravují a škálují automaticky bez zřizování nebo konfigurace.
  • Vyberte model optimalizovaný pro batch inference. Databricks optimalizuje konkrétní modely pro dávkové úlohy s vysokou propustností. Použití neoptimalizovatého modelu může vést ke snížení propustnosti a delší době dokončení úlohy. Úplný seznam modelů optimalizovaných pro dávky najdete v části Podporované modely .
  • Odešlete úplnou datovou sadu v jednom dotazu. Funkce AI automaticky zpracovávají paralelizaci, opakování a škálování. Ruční rozdělení dat do malých dávek může snížit propustnost.
  • Nastavte failOnError na false pro velké úlohy. To umožňuje úloze dokončit a vrátit chybové zprávy pro neúspěšné řádky, takže úspěšné výsledky se zachovají bez opětovného zpracování celé datové sady.

Podporované modely

ai_query podporuje modely hostované službou Databricks, zřízené modely propustnosti, vlastní modely a externí modely.

Následující tabulka shrnuje podporované typy modelů, přidružené modely a model obsluhující požadavky na konfiguraci koncových bodů pro každý z nich.

Typ Description Podporované modely Požadavky
Modely hostované v Databricks Azure Databricks hostuje tyto základní modely a nabízí předem nakonfigurované koncové body, které můžete dotazovat pomocí ai_query. Podívejte se na podporované základní modely pro obsluhu modelů , pro které jsou modely podporované pro každou funkci obsluhy modelů a jejich dostupnost v oblasti. Úplný seznam podporovaných základních modelů pro obsluhu modelů najdete v části Podporované základní modely pro obsluhu modelů. Tyto modely jsou podporované a optimalizované pro zahájení práce s dávkovými odvozováním a provozními pracovními postupy:
  • databricks-qwen35-122b-a10b
  • databricks-qwen3-next-80b-a3b-instruct
  • databricks-claude-opus-4-8
  • databricks-claude-opus-4-7
  • databricks-claude-opus-4-6
  • databricks-claude-sonnet-4-6
  • databricks-claude-sonnet-4
  • databricks-gpt-oss-20b
  • databricks-gpt-oss-120b
  • databricks-gemma-3-12b
  • databricks-llama-4-maverick
  • databricks-meta-llama-3-3-70b-instruct
  • databricks-meta-llama-3-1-8b-instruct
  • databricks-qwen3-embedding-0-6b
  • databricks-gte-large-en

Modely OpenAI a Google Gemini jsou dostupné pouze prostřednictvím služeb ADI, které poskytuje Databricks. Přístup k těmto modelům v prostředí Azure Databricks najdete v tématu ADI Services.
Tyto modely hostované na Azure Databricks jsou k dispozici pro použití s funkcemi AI, ale nedoporučují se pro produkční pracovní postupy dávkové inference ve velkém měřítku. Tyto další modely jsou dostupné pro odvozování v reálném čase pomocí rozhraní API základních modelů s platbami za token.		 K použití této funkce se vyžaduje Databricks Runtime 15.4 LTS nebo vyšší. Nevyžaduje zřizování ani konfiguraci koncového bodu. Vaše použití těchto modelů podléhá platným podmínkám modelu a dostupnosti oblastí AI Functions.
Modely vyhrazené propustnosti Funkce AI fungují s modely zřízené propustnosti nasazené ve službě Model Serving.
  • Jemně vyladěné základní modely nasazené ve službě Model Serving
  • Zřízené modely propustnosti nasazené ve službě Model Serving
Vlastní modely a externí modely Můžete použít vlastní nebo externí modely a dotazovat se na ně pomocí funkcí AI. AI Functions nabízí flexibilitu, takže můžete dotazovat modely pro scénáře odvozování v reálném čase nebo dávkové odvozování.

Použijte ai_query se základními modely

Následující příklad ukazuje použití ai_query se základním modelem hostovaným Azure Databricks.

SQL

SELECT text, ai_query(
    "databricks-gpt-oss-120b",
    "Summarize the given text comprehensively, covering key points and main ideas concisely while retaining relevant details and examples. Ensure clarity and accuracy without unnecessary repetition or omissions: " || text
) AS summary
FROM uc_catalog.schema.table;

Python

df_out = df.selectExpr(
  "ai_query('databricks-gpt-oss-120b', CONCAT('Please provide a summary of the following text: ', text), modelParameters => named_struct('max_tokens', 100, 'temperature', 0.7)) as summary"
)
df_out.write.mode("overwrite").saveAsTable('output_table')

Ukázkový poznámkový blok: Dávkové odvozování a extrakce strukturovaných dat

Následující ukázkový poznámkový blok ukazuje, jak provádět základní extrakci strukturovaných dat pomocí ai_query transformace nezpracovaných, nestrukturovaných dat do uspořádaných a použitelných informací prostřednictvím automatizovaných technik extrakce. Tento poznámkový blok také ukazuje, jak využít vyhodnocení agenta k vyhodnocení přesnosti pomocí podkladových pravdivých dat.

Poznámkový blok pro hromadné inferenční zpracování a extrakci strukturovaných dat

Pořiďte si notebook

Použijte ai_query s tradičními modely ML

ai_query podporuje tradiční modely ML, včetně plně vlastních modelů. Tyto modely musí být nasazené v koncových bodech obsluhy modelů. Podrobnosti o syntaxi a parametrech najdete u funkceai_query.

SELECT text, ai_query(
  endpoint => "spam-classification",
  request => named_struct(
    "timestamp", timestamp,
    "sender", from_number,
    "text", text),
  returnType => "BOOLEAN") AS is_spam
FROM catalog.schema.inbox_messages
LIMIT 10

Ukázkový poznámkový blok: Dávkové odvozování pomocí BERT pro rozpoznávání pojmenovaných entit

Následující poznámkový blok ukazuje příklad dávkového odvozování tradičního modelu ML pomocí BERT.

Dávkové odvozování pomocí BERT pro poznámkový blok pro rozpoznávání pojmenovaných entit

Pořiďte si notebook

  • Last updated on