使用查詢服務模型 ai_query()

重要

這項功能處於公開預覽狀態。

本文說明如何使用 查詢從 SQL ai_query()提供端點的模型。

什麼是 ai_query()？

函ai_query()式是內建的 Azure Databricks SQL 函式，這是 AI 函式的一部分。 它可讓這些類型的模型可從 SQL 查詢存取：

• 服務端點的模型所裝載的自定義模型。
• Databricks Foundation 模型 API 所裝載的模型。
• 外部模型（裝載於 Databricks 外部的第三方模型）。

如需語法和設計模式，請參閱 ai_query函式。

當此函式用來查詢服務端點的模型時，它只能在可用並啟用模型服務的工作區和區域中使用。

需求

• Azure Databricks SQL 傳統無法使用此函式。
• 若要查詢提供自定義模型或外部模型的端點，您必須在公開預覽版中註冊。 請填入並提交 AI Functions 公開預覽註冊表單。
• 已載入模型，提供端點的現有模型。 請參閱 建立提供端點的自定義模型。
• 您必須啟用 Azure Private Link ，才能在 Pro SQL 倉儲上使用這項功能。

使用查詢端點 ai_query()

您可以在無伺服器或 Pro SQL 倉儲上使用 來查詢端點 ai_query() 背後的模型。 如需評分要求和回應格式，請參閱 查詢基礎模型。

注意

• 針對 Databricks Runtime 14.2 和更新版本，在筆記本環境中支援此函式，包括 Databricks 筆記本和工作流程。
• 針對 Databricks Runtime 14.1 和以下版本，筆記本環境中不支援此函式，包括 Databricks 筆記本。

範例：查詢大型語言模型

下列範例會使用text數據集查詢端點背後的sentiment-analysis模型，並指定要求的傳回類型。

SELECT text, ai_query(
    "sentiment-analysis",
    text,
    returnType => "STRUCT<label:STRING, score:DOUBLE>"
  ) AS predict
FROM
  catalog.schema.customer_reviews

範例：查詢預測模型

下列範例會查詢端點後面的spam-classification分類模型，以批次預測 數據表中inbox_messages是否text為垃圾郵件。 此模型採用 3 個輸入功能：時間戳、寄件者、文字。 模型會傳回布爾值陣列。

SELECT text, ai_query(
  endpoint => "spam-classification",
  request => named_struct(
    "timestamp", timestamp,
    "sender", from_number,
    "text", text),
  returnType => "BOOLEAN") AS is_spam
FROM catalog.schema.inbox_messages