Status agen dan memori

Penting

Lakebase Autoscaling adalah versi terbaru Lakebase, dengan komputasi penskalaan otomatis, skala-ke-nol, percabangan, dan pemulihan instan. Untuk wilayah yang didukung, lihat Ketersediaan wilayah. Jika Anda adalah pengguna Lakebase Provisioned, lihat Lakebase Provisioned.

Agen AI memerlukan penyimpanan persisten untuk mempertahankan konteks di seluruh belokan dan sesi. Lakebase Autoscaling menyediakan backend Postgres yang dikelola sepenuhnya untuk menyimpan status dan memori agen, mengintegrasikan secara asli dengan autentikasi dan penskalaan Databricks secara otomatis dengan beban kerja Anda.

Memori jangka pendek vs. jangka panjang

Memori jangka pendek Memori jangka panjang
Menangkap konteks dalam satu sesi percakapan menggunakan ID utas dan titik pemeriksaan.
Memungkinkan agen menjawab pertanyaan tindak lanjut dengan memahami konteks percakapan sebelumnya.		 Mengekstrak dan menyimpan wawasan utama di beberapa percakapan.
Mengaktifkan respons yang dipersonalisasi berdasarkan interaksi sebelumnya.
Membangun pangkalan pengetahuan pengguna yang meningkat dari waktu ke waktu.

Anda dapat menerapkan salah satu atau kedua jenis memori di agen yang sama.

Opsi penempatan

Memori agen yang didukung Lakebase didukung pada dua target penyebaran Databricks:

Aplikasi Databricks: Memperluas agen sebagai aplikasi interaktif dengan memori jangka pendek atau jangka panjang, menggunakan penanda jalan LangGraph atau OpenAI Agents SDK. Databricks menangani autentikasi antara aplikasi dan Lakebase secara otomatis. Lihat memori agen AI.

Mosaic AI Model Serving: Menyebarkan agen ke titik akhir Model Serving dengan titik pemeriksaan yang didukung Lakebase. Mendukung perjalanan waktu LangGraph untuk mengulangi atau memulai percakapan baru dari titik pencapaian mana pun. Lihat Memori agen AI (Model Melayani).

Implementation

Untuk instruksi penyiapan lengkap, templat aplikasi, dan contoh buku catatan, lihat:

Langkah berikutnya

  • Last updated on