Aracılığıyla paylaş

Aracı çalışma zamanı bileşenleri

Aracı çalışma zamanı bileşenleri, Microsoft Foundry Agent Service'te durum bilgisi olan, çok aşamalı etkileşimleri destekleyen temel nesnelerdir(aracılar, konuşmalar ve yanıtlar). Bu bileşenler, birlikte çıkışlar üretmenize, durumları adımlar arasında sürdürülebilir hale getirmenize ve konuşma uygulamaları oluşturmanıza olanak tanır.

Bu makalede bir aracı, konuşma ve yanıtın rolleri ve yanıt oluşturma sırasında nasıl birlikte çalıştıkları açıklanmaktadır.

Önkoşullar

Çalışma zamanı bileşenleri birlikte nasıl çalışır?

Bir aracıyla çalışırken tutarlı bir desen izlersiniz:

  • Aracı oluşturma: İleti göndermeye ve yanıt almaya başlamak için bir aracı tanımlayın.
  • Konuşma oluşturma (isteğe bağlı): Konuşma, sıralı geçmişi korumak için kullanılır. Konuşma kullanmıyorsanız, önceki yanıtın çıktısını kullanarak bağlamı ileriye taşıyın.
  • Yanıt oluşturma: Aracı, konuşmadaki giriş öğelerini ve istekte sağlanan yönergeleri işler. Ajan konuşmaya öğeler ekleyebilir.
  • Yanıt durumunu denetleyin: Bitene kadar yanıtı izleyin (özellikle akış veya arka plan modunda).
  • Yanıtı alma: Kullanıcıya oluşturulan yanıtı görüntüleyin.

Aşağıdaki diyagramda bu bileşenlerin tipik bir aracı döngüsünde nasıl etkileşimde olduğu gösterilmektedir.

Aracı çalışma zamanı döngüsünü gösteren diyagram: aracı tanımı ve isteğe bağlı konuşma geçmişi akışı yanıt oluşturma, araçları çağırabilir, öğeleri konuşmaya geri ekleyebilir ve kullanıcıya görüntülediğiniz çıkış öğelerini üretebilir.

Kullanıcı girişi (ve isteğe bağlı olarak konuşma geçmişi) sağlarsınız, hizmet bir yanıt oluşturur (yapılandırıldığında araç çağrıları dahil) ve sonuçta elde edilen öğeler bir sonraki dönüş için bağlam olarak yeniden kullanılabilir.

Temsilci nedir?

Aracı, yapay zeka modellerini, yönergeleri, kodu, araçları, parametreleri ve isteğe bağlı güvenlik veya idare denetimlerini birleştiren kalıcı bir düzenleme tanımıdır.

Aracıları Microsoft Foundry'de adlandırılmış ve sürümlenmiş öğeler olarak depolayın. Yanıt oluşturma sırasında aracı tanımı, kullanıcı girişini işlemek ve yanıtlamak için etkileşim geçmişiyle (konuşma veya önceki yanıt) çalışır.

Konuşma nedir?

Konuşma durumu otomatik olarak yönetilir, bu nedenle her dönüş için girişleri elle geçirmeniz gerekmez.

Konuşmalar, benzersiz tanımlayıcılara sahip dayanıklı nesnelerdir. Oluşturma işleminden sonra bunları oturumlar arasında yeniden kullanabilirsiniz.

Konuşmalar, iletileri, araç çağrılarını, araç çıkışlarını ve diğer verileri içerebilen öğeleri depolar.

Konuşma ne zaman kullanılmalı?

İstediğiniz zaman konuşma kullanın:

  • Çok dönüşlü devamlılık: Bağlamı kendiniz yeniden oluşturmadan, dönüşler arasında kararlı bir geçmiş tutun.
  • Oturumlar arası süreklilik: Daha sonra geri dönen bir kullanıcı için aynı konuşmayı yeniden kullanma.
  • Daha kolay hata ayıklama: Zaman içinde ne olduğunu inceleyin (örneğin, araç çağrıları ve çıkışlar).

Konuşma oluşturmazsanız, önceki bir yanıttan alınan çıkışı sonraki isteğin başlangıç noktası olarak kullanarak çok dönüşlü akışlar oluşturmaya devam edebilirsiniz. Bu yaklaşım, durumun iş parçacığı nesneleriyle sıkı sıkıya bağlı olduğu eski iş parçacığı odaklı desene göre daha fazla esneklik sağlar. Geçiş kılavuzu için bkz. Aracılar SDK'sına geçiş.

Konuşma öğeleri

Konuşmalar yalnızca sohbet iletileri yerine öğeleri depolar. Elemanlar, yanıt üretme sırasında neler olduğunu kaydeder, böylece sonraki tur bu bağlamı yeniden kullanabilir.

Yaygın öğe türleri şunlardır:

  • İleti öğeleri: Kullanıcı veya yardımcı iletileri.
  • Araç çağrı öğeleri: Ajanın denemiş olduğu araç çağrılarının kayıtları.
  • Araç çıkış öğeleri: Araçlar tarafından döndürülen çıkışlar (örneğin, alma sonuçları).
  • Çıkış öğeleri: Kullanıcıya geri görüntülediğiniz yanıt içeriği.

Konuşmaların ve yanıtların kodda birlikte nasıl çalıştığını gösteren örnekler için bkz . Foundry Agent Service'te bellek oluşturma ve kullanma.

Yanıtlar nasıl çalışır?

Yanıt üretimi aracıyı tetikler. Aracı, modelleri ve araçları çağırarak görevleri gerçekleştirmek için yapılandırmasını ve sağlanan herhangi bir geçmişi (konuşma veya önceki yanıt) kullanır. Yanıt oluşturma işleminin bir parçası olarak aracı konuşmaya öğe ekler.

Ayrıca bir aracı tanımlamadan da yanıt oluşturabilirsiniz. Bu durumda, tüm yapılandırmaları doğrudan istekte sağlar ve bunları yalnızca bu yanıt için kullanırsınız. Bu yaklaşım, en az araç içeren basit senaryolar için kullanışlıdır.

Akış ve arka plan yanıtları

Bazı yanıt oluşturma modları sonuçları artımlı olarak döndürür (akış) veya zaman uyumsuz olarak tamamlar (arka plan). Bu gibi durumlarda, genellikle bitene kadar yanıtı izler ve ardından son çıkış öğelerini tüketirsiniz.

Yanıt modları ve çıkışları kullanma hakkında ayrıntılı bilgi için bkz. Yanıtlar API'si.

Güvenlik ve veri işleme

Konuşmalar ve yanıtlar kullanıcı tarafından sağlanan içeriği ve araç çıkışlarını kalıcı hale geldiği için çalışma zamanı verilerini uygulama verileri gibi değerlendirin:

  • Gizli bilgileri istemlerde veya konuşma geçmişinde depolamaktan kaçının. Bunun yerine bağlantıları ve yönetilen gizli depo kullanın (örneğin, Key Vault bağlantısı ayarlama).
  • Araç erişimi için en az ayrıcalık kullanın. Bir araç dış sistemlere eriştiğinde, ajan bu araç aracılığıyla verileri okuyabilir veya gönderebilir.
  • Microsoft dışı hizmetlere dikkat edin. Aracınız Microsoft dışı hizmetler tarafından yedeklenen araçları çağırırsa bazı veriler bu hizmetlere akabilir. İlgili konular için bkz Döküm Araçları'ndaki Araçları Keşfetme .

Sınırlar ve kısıtlamalar

Sınırlar modele, bölgeye ve eklediğiniz araçlara (örneğin, akış kullanılabilirliği ve araç desteği) bağlı olabilir. Geçerli kullanılabilirlik ve yanıt kısıtlamaları için bkz. Yanıtlar API'si.

İlgili içerik

  • Last updated on