代理狀態與記憶體

代理需要持久儲存以維持跨回合與會話的上下文。 Lakebase Autoscaling 提供完全託管的 Postgres 後端,用於儲存代理狀態與記憶體,原生整合 Databricks 認證,並能隨工作負載自動擴展。

短期記憶與長期記憶

短期記憶 長期記憶
利用執行緒 ID 與檢查點在單一對話會話中擷取上下文。
讓代理人在了解先前回合的同時回答後續問題。
擷取並儲存多次對話中的關鍵洞察。
根據過去的互動,能提供個人化的回應。
建立一個隨時間不斷進步的使用者知識庫。

你可以在同一代理程式中實作其中一種或兩種記憶體類型。

部署選項

Lakebase 支援的代理記憶體支援於兩個 Databricks 部署目標:

Databricks 應用程式:將代理部署為具有短期或長期記憶的互動應用程式,使用 LangGraph 檢查點或 OpenAI 代理 SDK。 Databricks 會自動處理應用程式與 Lakebase 之間的認證。

參見自管理代理記憶體(Lakebase)。

模型服務:將代理部署至使用 Lakebase 作為後端檢查點的模型服務端點。 支援 LangGraph 時間旅行,可從任何檢查點繼續或分支對話。 參見代理記憶體(模型服務)。

實施

完整設定說明、應用程式範本及筆記本範例,請參見:

其他資源