AI 執行環境提供無伺服器的 GPU 運算,用於推論、訓練與微調 AI 與深度學習模型。 以下頁面依任務分類筆記本教學與 Databricks CLI 配方:經典機器學習、推薦系統、電腦視覺、經過後訓練的開源 LLM、批次推論及多 GPU 分散式訓練。
Notebook 範例包含在文件中。 Databricks CLI 範例連結到 GitHub 上的 AI Runtime Cookbook,你可以複製該倉庫並執行其工作負載設定與原始碼。
| 任務 | 說明 |
|---|---|
| 經典機器學習 | 傳統機器學習任務範例,包括 XGBoost 訓練、零樣本表格預測及時間序列預測。 |
| 推薦系統 | 使用現代深度學習方法(例如雙塔模型)建立推薦系統的範例。 |
| 電腦視覺 | 電腦視覺任務的範例,包括物件偵測和影像分類。 |
| 訓練後的開源模型(LLM) | 開源大型語言模型的微調與後訓練範例,包括參數效率高的方法。 |
| 批次推論 | 跨多GPU進行大規模批次推論的Ray Data與vLLM範例。 |
| 多GPU分散式訓練 | 利用無伺服器 GPU API 在多個 GPU 和節點上擴展訓練的範例。 |