Ajan bellek iş hatları

Important

Bu özellik Beta sürümündedir.

Bir bellek işlem hattı, ajanınızın geçmiş konuşmalarından uzun vadeli hafıza oluşturur. Bir oturum deposundan konuşma geçmişini okur ve gerçekler, tercihler ve prosedürler gibi uzun vadeli anıları bir hafıza deposuna çıkarır. Ajanınız sonra, sonraki konuşmalarda da kendisinin kaydettiği anıları hatırladığı gibi bu anıları hatırlar.

Bir konuşma sırasında anıları kaydeden bir ajan, onları her seferinde bir konuşma için yazar, yalnızca o konuşmanın bağlamıyla. Birçok konuşma boyunca, hafızasında örtüşen ve çelişen girdiler birikir ve ajanın kaydetmeyi düşünmediği gerçekler hafızaya ulaşmaz. Bir bellek pipeline, bir aktörün tüm konuşmalarını ve mevcut belleği göz önünde bulundurarak sonradan çalışır, böylece ajanın kaçırdığı şeyi yakalayabilir ve hafızayı konsolide tutabilir.

Şunları yapmak istediğinizde bir bellek işlem hattı kullanın:

  • Konuşmalardan uzun vadeli hafıza oluşturun, ajanınıza hafıza yazma araçları eklemeden.
  • Bir oturum mağazasının zaten sakladığı konuşma geçmişinden belleği geri doldurun.
  • Örtüşen girişleri birleştirip büyük olanları bölerek belleği zamanla düzenli tutun.

Bir hafıza pipeline'ı tek başına veya konuşma sırasında ajanınızın çağırdığı hafıza araçlarıyla birlikte kullanabilirsiniz.

Note

Bellek işlem hattı çalıştırmaları, iş için sunucusuz genel hesaplama fiyatlandırmasını ve model çağrıları için Foundation Model Serving fiyatlandırmasını kullanır.

Requirements

  • Ajanınızın konuşmalarını tutan bir oturum deposu ve anıları yazmak için bir hafıza deposu .
  • Pipeline'ı oluşturan kimlik için her iki depoya erişim, bellek depolama veritabanında tablo oluşturma izni de dahil. İşlem hattı çalıştırmaları bu kimliği kullanır.
  • Pipeline'ın distilasyon için kullandığı modeli sorgulama izni.
  • CLI'yı kullanmak için 0.5.0 ve üzerini yükleyin databricks-agentbricks . REST API'sini doğrudan herhangi bir dilden çağırabilirsiniz.

Bellek boru hatları nasıl çalışır

Bellek pipeline, bir oturum deposunu bir bellek deposuna bağlayan bir ajan bellek kaynağıdır. Lakeflow pipeline'larıyla ilgili değil. Bir oturum deposu, birden fazla bellek deposunu besleyebilir, ancak her oturum deposu ve bellek deposu çifti yalnızca bir pipeline’a sahip olabilir.

  • Unity Gateway üzerinden model çağrıları: Boru hattı, damıtma modelini Unity Gateway üzerinden çağırır.
  • Model seçiminiz: Bir boru hattı oluşturduğunuzda modeli seçiyorsunuz ve daha sonra değiştirebilirsiniz. Birini seçmezseniz, pipeline varsayılan bir model kullanır.
  • Sunucusuz hesaplamada manuel veya planlı çalıştırmalar: Çalıştırmaları kendiniz başlatırsınız veya işlem hattını yaklaşık her 24 saatte bir zamanlanmış olarak çalışacak şekilde yapılandırırsınız. Her iki durumda da, her çalıştırma sunucusuz hesaplamada bir iş olarak yürütülür ve işlem hattını oluşturan kimlik kullanılır.

Pipeline'ın her çalışması, oturum deposundaki her aktörü ayrı ayrı işler:

  1. Damıt: İş hattı, oyuncunun yeni konuşmalarını okur ve onlardan kalıcı gerçekleri çıkarmak için bir LLM kullanır.
  2. Birleştirme: Pipeline, yeni gerçekleri deduplicate eder ve bunları bellek deposunda aynı actor_id altındaki konu tabanlı bellek girişlerine birleştirir.
  3. Sürdür: Boru hattı aktörün hafızasını yeniden düzenler. Örtüşen girişleri birleştirir ve çok büyüyen girişleri böler.

Bellek iş hattı çalıştırmaları her aktör kimliği için bir kontrol noktası tutar. Bir çalıştırma, bir aktörün son başarılı çalıştırmasından bu yana tüm oturumlarını işler; yani ilk çalıştırma aktörün tüm geçmişini işler. Bir aktör için bir çalışma başarısız olursa, diğer aktörlerle devam eder ve sonraki çalışma başarısız aktörü kontrol noktasından tekrar dener.

actor_id iki mağazayı birbirine bağlar. Bir pipeline, yalnızca oturum deposunda oturumları olan aktörleri işler ve her aktörün belleklerini, aktörün oturumlarının kullandığı aynı actor_id altında yazar. Varsayılan olarak, bir işlem hattı sadece bir çalıştırma başlattığınızda çalışır. Ayrıca zamanlanmış olarak çalıştırabilirsiniz.

Note

Bakım, bir varlığın tüm bellek girdileri için geçerlidir; buna ajanınızın doğrudan kaydettiği girdiler de dahildir. Bir boru hattı, işlediği actor_id altındaki herhangi bir girişi yeniden yazabilir, birleştirebilir, bölebilir veya silebilir.

Bir iş hattının sakladıkları

Bir iş hattı, sohbetlerden bireysel ve kalıcı gerçekleri çıkarır. Şunları korumak için tasarlanmıştır:

  • Kullanıcının açıkça belirttiği olgular ve konuşmada söylenenlerin ötesinde çıkarım yapmadan ifade ettiği tercihler.
  • Düzeltmeler ve gelir rakamları için hangi kaynağın kullanılacağı gibi açık geri bildirimler.
  • Yetkili kaynaklar, metrik tanımlar, terminoloji ve ekip kuralları gibi kalıcı alan bilgisi, ayrıca iş akışları ve devam eden projeler.

Şunları atlayacak şekilde tasarlanmıştır:

  • Zamanla değişen canlı kaynaklardan alınan değerler, örneğin bir tablonun mevcut satır sayısı. Bunun yerine değerin nasıl bulunacağını veya hesaplanacağını kaydeder.
  • Ajanın araçlarıyla bulabileceği detaylar, örneğin bir tablonun şeması.
  • Şifreler, API anahtarları ve tokenlar gibi sırlar.

Get started

Bu örnekler, bir destek ajanının oturumu ve bellek depoları için bir bellek iş hattı oluşturur, bir çalışma başlatır ve sonucunu kontrol eder. Her mağazayı kimliği, mağazayı oluşturduğunuzda seçtiğiniz tanımlayıcı veya kaynak adıyla tanımlayın, örneğin memory-stores/support-agent-memory. Projenize uygun müşteriyi seçin.

Ajan Tuğlalar

Agent Bricks CLI, kaydettiğiniz Databricks CLI profilinizi kullanarak kimlik doğrulaması yapar.

  1. Agent Bricks CLI'sini kurun veya 0.5.0 ve üzeri sürümlere yükseltin:

    pip install --upgrade databricks-agentbricks

  2. support-agent-sessions oturum deposunu support-agent-memory bellek deposuna aktaracak bir ardışık düzen oluşturun. --model isteğe bağlıdır. Eğer bunu çıkarırsanız, pipeline varsayılan bir model kullanır:

    agentbricks memory pipeline create \
  --session-store support-agent-sessions \
  --memory-store support-agent-memory \
  --model system.ai.claude-sonnet-5

    Komut, boru hattının kaynak adını memory-pipelines/<pipeline-id> biçiminde döndürür.

  3. Pipeline çalıştırmasını başlatın:

    agentbricks memory pipeline run <pipeline-id>

    Komut, memory-pipelines/<pipeline-id>/runs/<run-id> biçimindeki çalıştırmanın kaynak adını ve RUNNING durumunu döndürür.

  4. CLI bir koşunun sonucunu bildirmiyor. Bunu kontrol etmek için DATABRICKS_HOST öğesini çalışma alanı ana makine adınıza ayarlayın, bir OAuth token oluşturun ve REST API’yi çağırın:

    export DATABRICKS_TOKEN=$(databricks auth token --profile <profile> | jq -r .access_token)
curl "https://${DATABRICKS_HOST}/api/2.0/agents/memory-pipelines/<pipeline-id>/runs/<run-id>" \
  -H "Authorization: Bearer ${DATABRICKS_TOKEN}"

REST API

CLI, REST API'sini /api/2.0/agents/memory-pipelines altında çağırır. Doğrudan herhangi bir dilden çağırabilirsiniz.

  1. Databricks CLI ile bir OAuth tokenı oluşturun:

    databricks auth login --host ${DATABRICKS_HOST}
export DATABRICKS_TOKEN=$(databricks auth token | jq -r .access_token)

  2. Anıları support-agent-sessions konumundan damıtıp support-agent-memory konumuna kaydeden bir boru hattı oluşturun. model isteğe bağlıdır. Eğer bunu çıkarırsanız, pipeline varsayılan bir model kullanır:

    curl -X POST "https://${DATABRICKS_HOST}/api/2.0/agents/memory-pipelines" \
  -H "Authorization: Bearer ${DATABRICKS_TOKEN}" -H "Content-Type: application/json" \
  -d '{"session_store": "support-agent-sessions", "memory_store": "support-agent-memory", "model": "system.ai.claude-sonnet-5"}'

    Yanıtın name alanı, boru hattının kaynak adını içerir; biçimi memory-pipelines/<pipeline-id> şeklindedir.

  3. Pipeline çalıştırmasını başlatın:

    curl -X POST "https://${DATABRICKS_HOST}/api/2.0/agents/memory-pipelines/<pipeline-id>/run" \
  -H "Authorization: Bearer ${DATABRICKS_TOKEN}" -H "Content-Type: application/json" \
  -d '{}'

    Yanıtın name alanı, çalıştırmanın kaynak adını memory-pipelines/<pipeline-id>/runs/<run-id> biçiminde içerir.

  4. Çalıştırmanın sonucuna bakın:

    curl "https://${DATABRICKS_HOST}/api/2.0/agents/memory-pipelines/<pipeline-id>/runs/<run-id>" \
  -H "Authorization: Bearer ${DATABRICKS_TOKEN}"

Bir çalıştırma başarılı olduktan sonra, aracınız bellek deposunun listeleme ve arama işlemleriyle yeni anıları geri çağırabilir. Bkz. Agent memory.

İşlem hattı çalıştırmalarını izleme

Bir koşunun state aşağıdakilerden biridir:

State Meaning
RUNNING Çalıştırma beklemede veya devam ediyor.
SUCCEEDED Çalıştırma her oyuncuyu başarıyla işledi.
FAILED Çalıştırma, bir veya daha fazla aktörde bir hata ile sona erdi. error alanı hatayı tanımlar.
CANCELLED Yarış tamamlanmadan iptal edildi.

Damıtmayı talimatlarla yönlendirin

Talimatlar, ardışık düzene nelerin tutulacağını ve bunların nasıl düzenleneceğini söyler. İşlem hattı bunları her aşamada uygular. Bunları üst düzey rehberlik için kullanın, örneğin:

  • Müşteri tercihleri ve hesap detayları gibi odaklanılması gereken konular.
  • Atlanacak içerik, örneğin tek seferlik sorun giderme adımları.
  • Girişlerin altında düzenleneceği yollar.

Düzen talimatları olmadan, pipeline mağazanın mevcut girişlerinin düzenini takip eder veya mağaza boşken konu tabanlı bir düzen oluşturur. Mevcut girişlerin adını yeni bir düzene uyacak şekilde yeniden adlandırmıyor. Belirli bir kaydı değiştirmek için, komutlarla değil, bellek deposunun güncelleme işlemiyle düzenleyin.

Bir pipeline oluşturduğunuzda talimatları ayarlayabilir ve sonra değiştirebilirsiniz. Bir sonraki çalıştırma yeni talimatları kullanır.

Ajan Tuğlalar

Bir pipeline oluştururken talimatları ayarlamak için şunları verin --instructions:

agentbricks memory pipeline create \
  --session-store support-agent-sessions \
  --memory-store support-agent-memory \
  --instructions "Focus on durable customer preferences and account details. Ignore one-off troubleshooting steps. Organize entries under /preferences/ and /account/."

UTF-8 dosyasından daha uzun komutları yüklemek için bunun yerine --instructions @<path-to-file> iletin.

Mevcut bir pipeline'ın talimatlarını değiştirmek için aşağıdakileri çalıştırın:

agentbricks memory pipeline update <pipeline-id> \
  --instructions "Keep only durable customer preferences."

REST API

REST API'de, bir pipeline'ın dreamer_policy nesnesi distillation ayarlarını tutar: instructions ve trigger. Bir pipeline oluştururken talimatları ayarlamak için bunları dreamer_policy.instructions içine dahil edin:

curl -X POST "https://${DATABRICKS_HOST}/api/2.0/agents/memory-pipelines" \
  -H "Authorization: Bearer ${DATABRICKS_TOKEN}" -H "Content-Type: application/json" \
  -d '{"session_store": "support-agent-sessions", "memory_store": "support-agent-memory", "dreamer_policy": {"instructions": "Focus on durable customer preferences and account details. Ignore one-off troubleshooting steps. Organize entries under /preferences/ and /account/."}}'

Mevcut bir işlem hattının talimatlarını değiştirmek için dreamer_policy.instructions öğesini güncelleyin:

curl -X PATCH "https://${DATABRICKS_HOST}/api/2.0/agents/memory-pipelines/<pipeline-id>?update_mask=dreamer_policy.instructions" \
  -H "Authorization: Bearer ${DATABRICKS_TOKEN}" -H "Content-Type: application/json" \
  -d '{"dreamer_policy": {"instructions": "Keep only durable customer preferences."}}'

Bir zamanlamaya göre bir ardışık düzen çalıştırın

Planlanmış bir iş hattı yaklaşık her 24 saatte bir otomatik olarak çalışır. Bir pipeline oluşturduğunuzda tetikleyiciyi ayarlayabilir veya daha sonra değiştirebilirsiniz. Zamanlayıcı, ilk planlanan çalıştırmanın ne zaman başlayacağını seçer. Mevcut konuşmaları hemen özetlemek için manuel olarak bir çalıştırma başlatın.

Ajan Tuğlalar

Planlı bir boru hattı oluşturmak için --trigger scheduled iletin. Varsayılan değer:--trigger manual

agentbricks memory pipeline create \
  --session-store support-agent-sessions \
  --memory-store support-agent-memory \
  --trigger scheduled

Mevcut bir boru hattının tetikleyicisini değiştirmek için aşağıdakileri çalıştırın:

agentbricks memory pipeline update <pipeline-id> --trigger scheduled

REST API

Planlı bir işlem hattı oluşturmak için dreamer_policy.trigger öğesini SCHEDULED olarak ayarlayın:

curl -X POST "https://${DATABRICKS_HOST}/api/2.0/agents/memory-pipelines" \
  -H "Authorization: Bearer ${DATABRICKS_TOKEN}" -H "Content-Type: application/json" \
  -d '{"session_store": "support-agent-sessions", "memory_store": "support-agent-memory", "dreamer_policy": {"trigger": "SCHEDULED"}}'

Mevcut bir işlem hattının tetikleyicisini değiştirmek için dreamer_policy.trigger öğesini SCHEDULED veya MANUAL_ONLY olarak güncelleyin:

curl -X PATCH "https://${DATABRICKS_HOST}/api/2.0/agents/memory-pipelines/<pipeline-id>?update_mask=dreamer_policy.trigger" \
  -H "Authorization: Bearer ${DATABRICKS_TOKEN}" -H "Content-Type: application/json" \
  -d '{"dreamer_policy": {"trigger": "SCHEDULED"}}'

Ayrıca, başka bir çalıştırma devam etmediği sürece zamanlanmış bir pipeline çalıştırmasını manuel olarak başlatabilirsiniz.

İşlem hatlarını yönetme

Aşağıdaki komutlar boru hatlarını listeler, inceler, günceller ve siler. Her CLI komutu ya ardışık düzen kimliğini ya da tam memory-pipelines/<pipeline-id> kaynak adını kabul eder.

Görev Agent Bricks CLI REST API
Boru hatlarını listele agentbricks memory pipeline list GET /api/2.0/agents/memory-pipelines
Pipeline edinin agentbricks memory pipeline get <pipeline-id> GET /api/2.0/agents/memory-pipelines/<pipeline-id>
İşlem hattını güncelleme agentbricks memory pipeline update <pipeline-id> ile --display-name, --model, --trigger, veya --instructions PATCH /api/2.0/agents/memory-pipelines/<pipeline-id>, bir update_mask ile model, display_name, dreamer_policy.trigger veya dreamer_policy.instructions
Bir işlem hattını sil agentbricks memory pipeline delete <pipeline-id> DELETE /api/2.0/agents/memory-pipelines/<pipeline-id>

Eğer bir görünen ad belirlemezseniz, pipeline’a oturum deposu ve bellek deposu adlarına göre bir ad verilir. Bir boru hattını varsayılan modele geri döndürmek için, modelini boş bir değere güncelleyin, örneğin --model "". Model ve komut değişiklikleri bir sonraki çalışmaya uygulanır.

Bir boru hattını silmek, arkasındaki işi siler ve gelecekteki çalışmaları durdurur. Zaten devam eden bir çalıştırma tamamlanana kadar devam eder. Ardışık düzenin zaten yazdığı bellek girişleri bellek deposunda kalır.

Limitations

  • Oturum deposu ve bellek deposu, bir pipeline oluşturduğunuzda sabitlenir. Bunlardan herhangi birini değiştirmek için boru hattını silip yenisini oluşturun.
  • Eğer bir boru hattı zaten aynı oturum deposu ve bellek deposunu bağlıyorsa, başka bir hattın oluşturulması ALREADY_EXISTS ile başarısız olur.
  • Bir işlem hattında aynı anda yalnızca bir çalıştırma yürütülebilir. Başka bir koşu sürerken yeni bir koşu başlatma, ABORTED hatasıyla başarısız olur.
  • Planlı iş hatları yaklaşık her 24 saatte bir çalışır. Farklı bir aralık veya cron programı belirleyemezsiniz.
  • Bir pipeline yalnızca oturum mağazasında oturumları olan aktörleri işler. Oturumları olmayan oyuncular için hafıza kayıtları değişmeden bırakılır.
  • Oturum deposunda yaklaşık 1.200'den fazla aktör UUID aktör kimliği varsa, çalışma başarısız olur. Serileştirilmiş aktör kimlikleri sınırı 48 KiB'dir, bu yüzden daha kısa ID'ler daha fazla aktöre izin verir.

Ek kaynaklar

  • Son güncelleştirme: