İngilizce dilinde oku

Aracılığıyla paylaş


Aracılar ve yardımcı pilotlar LLM'lerle nasıl çalışır?

Hem aracılar hem de yardımcı pilotlar, e-posta gönderme gibi dış işlevleri akıllı bir şekilde çağırarak LLM'nin özelliklerini genişletir.

  • Aracı, sorulara yanıt verebilen ve kullanıcılar için süreçleri otomatikleştirebilen bir yapay zekadır. Aracılar, hangi işlevlerin kullanıcının hedefine uyacağını belirleyebilir ve sonra bu işlevleri kullanıcı adına çağırabilir.
  • Yardımcı pilot, bir kullanıcıyla yan yana çalışan bir aracı türüdür. Bir aracıdan farklı olarak, bir yardımcı pilot tamamen otomatik değildir; kullanıcı etkileşimlerine dayanır. Yardımcı pilot, bir kullanıcının öneriler ve öneriler sağlayarak bir görevi tamamlamalarına yardımcı olabilir.

Örneğin, e-posta sohbeti yardımcı uygulaması oluşturduğunuzu varsayalım. LLM ile birlikte, e-postayla ilgili eylemleri gerçekleştirmek için bir eklentinin yanı sıra arama, özetleme, amacı belirleme ve benzeri eklentilere de ihtiyacınız olacaktır. Yerel işlevleri, kullanıma uygun eklentileri ve kendi özel eklentilerinizi kullanabilirsiniz.

Eklentileri oluşturmak savaşın yalnızca yarısıdır: Yine de doğru zamanda doğru işlevleri çağırmanız gerekir, hataya açık ve verimsiz olabilecek bir işlemdir. Bir aracı bunu daha iyi halledebilir.

Bir aracı, LLM'nin kullanıcı hedefine ulaşmak için hangi işlev dizisini kullanabileceğine otomatik olarak karar verir. Örneğin, yeni gelen kutusu öğelerini inceleyen ve her öğenin hangi eylemi gerektirdiğini belirleyen bir sohbet uygulamanız olduğunu varsayalım. Bir aracı ayarlarsanız, gerekli eklenti işlevlerini düzenleyebilir ve adımları otomatik olarak gerçekleştirebilir.

Bir aracının bileşenleri

Her aracının üç temel yapı taşları vardır: bir kişilik, eklentiler ve planlayıcılar.

  • Kişilikler, aracıların kullanıcılara nasıl yanıt vereceğini veya eylem gerçekleştireceğini belirler.
  • Eklentiler, aracıların kullanıcıdan veya diğer sistemlerden bilgi almasını sağlar. Önceden oluşturulmuş eklentileri ve kendi özel eklentilerinizi kullanabilirsiniz.
  • Planlayıcılar, aracıların kullanılabilir eklentilerin nasıl kullanılacağını planlamalarına olanak sağlar.

Kişilikler

Bir aracının kişisi onun kimliğidir: aracının kullandığı tüm eklentiler ve planlayıcılar araçlardır, ancak kişi bu araçları nasıl kullandığını belirler. Bir aracının kişisini oluşturmak için istemdeki yönergeleri kullanırsınız.

Örneğin, bir aracıya kişilerin e-postaları yönetmesine yardımcı olduğunu söylemek ve kararlarını verdiği gibi açıklamak için yönergeleri kullanabilirsiniz. İsteminiz şuna benzer olabilir:

prompt = $"""
    <message role="system">
    You are a friendly assistant helping people with emails.
    When you decide to perform an action, explain your decision and then perform the action.
    </message>
"""

Eklentiler

Bir LLM'nin tek başına gerçekleştiremeyen, dış veri kaynaklarından veri alma veya gerçek dünyadaki görevleri tamamlama gibi işlemleri yapmak için eklentileri kullanırsınız.

Örneğin, LLM e-posta gönderemez, bu nedenle bu işlevi bir sohbet uygulamasına eklemek için bir eklenti oluşturmanız gerekir. E-postalardan gelen metinleri işlemek için gibi ConversationSummaryPlugintemel eklentileri kullanabilirsiniz.

Eklentilerinizdeki işlevleri açıkça belgelediğinizden emin olun; planlayıcılar hangi işlevlerin kullanılabilir olduğunu belirlemek için bu bilgileri kullanır.

Planlamacıları

Planlayıcı kullanılabilir işlevleri analiz edebilir ve hedefe ulaşmak için alternatif yollar oluşturabilir.

Eklenti işlevlerini çağırmak her zaman verimli değildir. Örneğin, 1 ile 100 arasındaki sayıları toplamak istediğinizi varsayalım. Matematik eklentisini çağırabilirsiniz, ancak LLM'nin her numara için ayrı bir çağrı yapması gerekir.

Ayrıca, bir hedefe ulaşmak için en iyi dizi ve işlevlerin birleşimi ayrıntılara bağlıdır. Örneğin, e-posta göndermeyi etkinleştirmek için bir eklenti eklemek için bir e-posta sohbeti yardımcı uygulaması oluşturduğunuzu varsayalım. Ancak, bazı e-postaların YANıTsız toplantı isteği gibi farklı bir eyleme ihtiyacı olabilir; yanıt göndermek gerekli değildir, ancak takvim öğesi eklemek gerekir. Planlayıcı tüm kullanılabilir işlevleri inceler ve hedeflere ulaşmanın verimli yollarını ortaya çıkar.

Copilots kullanıcı etkileşimi ekleme

Süreç otomasyonunun birçok avantajı vardır, ancak bazen kullanıcının bu süreçte karar alması gerekir. Aracı kullanıcı eylemlerini otomatikleştiremez. İşte burada yardımcı pilotlar devreye girer.

E-posta sohbet uygulamanızdaki bir aracı, e-posta göndermek için aşağıdaki planı üretebilir:

  1. Kullanıcının e-posta adresini ve adını alma
  2. Alıcının e-posta adresini alma
  3. E-postanın konusunu alma
  4. E-postanın konusunu ve gövdesini oluşturma
  5. E-postayı gönderme

Çok kullanışlı, ancak kullanıcı e-posta gövdesini beğenmezse ne olur? Yardımcı pilot plana bir kullanıcı etkileşimi adımı ekler:

  1. Kullanıcının e-posta adresini ve adını alma
  2. Alıcının e-posta adresini alma
  3. E-postanın konusunu alma
  4. E-postanın konusunu ve gövdesini oluşturma
  5. Kullanıcıyla e-postayı gözden geçirin ve ayarlamalar yapın
  6. E-postayı gönderme

Semantik Çekirdek Sohbeti Copilot uygulaması

Yardımcı pilotları kullanmaya başlamak için yapay zeka aracısı ile sohbet deneyimi oluşturmaya yönelik bir başvuru uygulaması olan Semantic Kernel Chat Copilot'ı deneyin.