AI 執行時範例

AI 執行環境提供無伺服器的 GPU 運算,用於推論、訓練與微調 AI 與深度學習模型。 以下頁面依任務分類筆記本教學與 Databricks CLI 配方:經典機器學習、推薦系統、電腦視覺、經過後訓練的開源 LLM、批次推論及多 GPU 分散式訓練。

Notebook 範例包含在文件中。 Databricks CLI 範例連結到 GitHub 上的 AI Runtime Cookbook,你可以複製該倉庫並執行其工作負載設定與原始碼。

任務 說明
經典機器學習 傳統機器學習任務範例,包括 XGBoost 訓練、零樣本表格預測及時間序列預測。
推薦系統 使用現代深度學習方法(例如雙塔模型)建立推薦系統的範例。
電腦視覺 電腦視覺任務的範例,包括物件偵測和影像分類。
訓練後的開源模型(LLM) 開源大型語言模型的微調與後訓練範例,包括參數效率高的方法。
批次推論 跨多GPU進行大規模批次推論的Ray Data與vLLM範例。
多GPU分散式訓練 利用無伺服器 GPU API 在多個 GPU 和節點上擴展訓練的範例。