從 Unity Catalog 存取 AI 和 LLM 模型

Important

這項功能目前處於 公開預覽版

Azure Databricks 在 Unity Catalog 中提供一系列精選的高品質 AI 和 LLM 基礎模型。 本文說明如何使用這些模型,並將其併入推斷工作流程中。 這些模型可讓您存取最先進的 AI 功能,以節省建置您自己的自定義模型的時間和費用。

如需搭配 Unity 目錄使用您自己的自定義模型的詳細資訊,請參閱 在 Unity 目錄中管理模型生命週期

在 Unity 目錄中尋找基礎模型

在啟用模型服務的區域,Azure Databricks 已預先安裝一系列最先進的基礎模型。 這些模型具有開放的授權,並已針對預配置的輸送量基礎模型 API 進行服務優化。 請參見 適用模型術語

Databricks 建議使用這些模型的 基底 版本來進行微調工作,並使用 指示 版本進行部署和模型服務。

這些模型可以直接從 Catalog Explorer 取得,在架構 system 中的目錄 aisystem.ai)下。

你可以一鍵提供這些模型,然後直接將模型服務端點整合到你的批次推論工作流程中。 若要提供模型,請按兩下 [目錄] 中的模型名稱,以開啟模型頁面,然後按兩下 [ 提供此模型]。 欲了解更多關於模型服務的資訊,請參閱 「使用模型服務部署模型」。 如需模型服務支援的區域清單,請參閱 區域可用性

中的 system.ai 模型預設適用於所有帳戶使用者。 Metastore 管理員可以在沒有帳號管理員的情況下管理對結構及其模型的存取 system.ai 。請參閱 Foundation 模型 Unity 目錄權限

在 Unity 目錄中找出並服務基礎模型。