分享方式：

使用查詢服務模型 ai_query()

  • 文章

重要

這項功能處於公開預覽狀態。

本文說明如何使用 查詢從 SQL ai_query()提供端點的模型。

什麼是 ai_query()？

函ai_query()式是內建的 Azure Databricks SQL 函式，這是 AI 函式的一部分。 它可讓這些類型的模型可從 SQL 查詢存取：

  • 服務端點的模型所裝載的自定義模型。
  • Databricks Foundation 模型 API 所裝載的模型。
  • 外部模型（裝載於 Databricks 外部的第三方模型）。

如需語法和設計模式，請參閱 ai_query函式。

當此函式用來查詢服務端點的模型時，它只能在可用並啟用模型服務的工作區和區域中使用。

需求

使用查詢端點 ai_query()

您可以在無伺服器或 Pro SQL 倉儲上使用 來查詢端點 ai_query() 背後的模型。 如需評分要求和回應格式，請參閱 查詢產生 AI 模型。

注意

  • 針對 Databricks Runtime 14.2 和更新版本，在筆記本環境中支援此函式，包括 Databricks 筆記本和作業。
  • 針對 Databricks Runtime 14.1 和以下版本，筆記本環境中不支援此函式，包括 Databricks 筆記本。

範例：查詢大型語言模型

下列範例使用 sentiment-analysis 資料集查詢 text 端點後面的模型，並指定要求的傳回類型。

SELECT text, ai_query(
    "sentiment-analysis",
    text,
    returnType => "STRUCT<label:STRING, score:DOUBLE>"
  ) AS predict
FROM
  catalog.schema.customer_reviews

範例：查詢預測模型

下列範例會查詢端點後面的spam-classification分類模型，以批次預測 數據表中inbox_messages是否text為垃圾郵件。 此模型採用 3 個輸入功能：時間戳、寄件者、文字。 模型會傳回布爾值陣列。

SELECT text, ai_query(
  endpoint => "spam-classification",
  request => named_struct(
    "timestamp", timestamp,
    "sender", from_number,
    "text", text),
  returnType => "BOOLEAN") AS is_spam
FROM catalog.schema.inbox_messages