État et mémoire de l’agent

Les agents ont besoin d’un stockage persistant pour maintenir le contexte entre les tours et les sessions. La mise à l’échelle automatique Lakebase fournit un back-end Postgres entièrement géré pour stocker l’état et la mémoire de l’agent, s'intégrant nativement à l'authentification Databricks et se met automatiquement à l'échelle en fonction de votre charge de travail.

Mémoire à court terme et à long terme

Mémoire à court terme Mémoire à long terme
Capture le contexte au sein d'une session de conversation unique en utilisant des identifiants de thread et des points de contrôle.
Permet aux agents de répondre aux questions de suivi avec connaissance des tours précédents.		 Extrait et stocke les informations clés sur plusieurs conversations.
Active les réponses personnalisées en fonction des interactions passées.
Crée une base de connaissances utilisateur qui s’améliore au fil du temps.

Vous pouvez implémenter soit les deux types de mémoire dans le même agent.

Options de déploiement

La mémoire de l'agent, associée à Lakebase, est prise en charge sur deux cibles de déploiement Databricks :

Databricks Apps : déployez des agents en tant qu’applications interactives avec de la mémoire à court terme ou à long terme, à l’aide de points de contrôle LangGraph ou du Kit de développement logiciel (SDK) Des agents OpenAI. Databricks gère automatiquement l’authentification entre l’application et Lakebase.

Consultez la mémoire de l’agent auto-managé (Lakebase).

Model Serving : déployez des agents sur des endpoints Model Serving avec des points de contrôle adossés à Lakebase. Prend en charge le voyage dans le temps LangGraph pour reprendre ou dupliquer des conversations à partir de n'importe quel point de contrôle. Consultez la mémoire de l’agent (Service du modèle).

Mise en œuvre

Pour obtenir des instructions d’installation complètes, des modèles d’application et des exemples de notebooks, consultez :

Ressources supplémentaires

  • Last updated on