LangChain.js kullanarak RAG ile Sunucusuz Yapay Zeka Sohbeti kullanmaya başlama

Yapay zeka uygulamaları oluşturmak karmaşık olabilir. LangChain.js, Azure İşlevleri ve Sunucusuz teknolojilerle bu işlemi basitleştirebilirsiniz. Bu araçlar altyapıyı yönetir ve otomatik olarak ölçeklendirilir ve sohbet botu işlevlerine odaklanmanızı sağlar. Sohbet botu, yapay zeka yanıtları oluşturmak için kurumsal belgeleri kullanır.

Kod, Contoso Real Estate adlı kurgusal bir şirket için örnek veriler içerir. Müşteriler şirketin ürünleri hakkında destek soruları sorabilir. Veriler, şirketin hizmet koşulları, gizlilik ilkesi ve destek kılavuzu hakkındaki belgeleri içerir.

Not

Bu makalede, makaledeki örnekler ve kılavuzlar için temel olarak bir veya daha fazla yapay zeka uygulaması şablonu kullanılır. Yapay zeka uygulama şablonları, yapay zeka uygulamalarınız için yüksek kaliteli bir başlangıç noktası sağlamaya yardımcı olan, bakımlı, kolay dağıtılan başvuru uygulamaları sağlar.

Mimariye genel bakış

Sohbet uygulaması

Kullanıcı uygulamayla etkileşim kurar:

• İstemci web uygulamasında sohbet arabirimi ile.
• İstemci web uygulaması, kullanıcının sorgusunu HTTP çağrıları aracılığıyla Sunucusuz API'ye gönderir.
• Sunucusuz API, bir yanıt oluşturmak için Azure AI ile Azure AI Search arasındaki etkileşimleri koordine etmek için bir zincir oluşturur.
• Belgelere başvurmanız gerekiyorsa PDF belgelerini almak için Azure Blob Depolama kullanılır.
• Oluşturulan yanıt daha sonra web uygulamasına geri gönderilir ve kullanıcıya görüntülenir.

Aşağıdaki diyagramda sohbet uygulamasının basit bir mimarisi gösterilmiştir:

LangChainjs, hizmetler arasındaki karmaşıklığı basitleştirir

API akışı, etkileşimleri soyutlayarak LangChainJS'nin bu senaryoda nasıl yardımcı olduğunu anlamak için yararlıdır. Sunucusuz API uç noktası:

• Soruyu kullanıcıdan alır.
• İstemci nesneleri oluşturur:
  • Eklemeler ve sohbet için Azure OpenAI
  • Vektör deposu için Azure AI Araması
• LLM modeli, sohbet iletisi (sistem ve kullanıcı istemleri) ve belge kaynağı ile bir belge zinciri oluşturur.
• Belge zincirinden ve vektör deposundan bir alma zinciri oluşturur.
• Alma zincirinden yanıtların akışını sağlar.

Geliştiricinin çalışması, Azure OpenAI ve Azure AI Search gibi bağımlılık hizmetlerini doğru yapılandırmak ve zincirleri doğru şekilde oluşturmaktır. Temel alınan zincir mantığı sorgunun nasıl çözümleneceğini bilir. Bu, LangChain gereksinimleriyle çalıştıkları sürece birçok farklı hizmet ve yapılandırmadan zincirler oluşturmanıza olanak tanır.

Azure bu mimaride nerededir?

Bu uygulama birden çok bileşenden yapılır:

• Lit ile oluşturulmuş ve Azure Static Web Apps üzerinde barındırılan tek bir sohbet web bileşeniyle oluşturulan bir web uygulaması. Kod klasöründe bulunur packages/webapp .

• Azure İşlevleri ile oluşturulmuş ve belgeleri almak ve kullanıcı sohbeti sorgularına yanıt oluşturmak için LangChain.js kullanan sunucusuz bir API. Kod klasöründe bulunur packages/api .

• Eklemeler oluşturmak ve bir yanıt oluşturmak için bir Azure OpenAI hizmeti.

• Azure AI Search kullanarak belgelerden ayıklanan metinleri ve LangChain.js tarafından oluşturulan vektörleri depolamak için bir veritabanı.

• Azure Blob Depolama kullanarak kaynak belgeleri depolamak için bir dosya depolama alanı.

Önkoşullar

Bu makaleyi tamamlamak için gereken tüm bağımlılıklarla birlikte bir geliştirme kapsayıcısı ortamı sağlanır. Geliştirme kapsayıcısını GitHub Codespaces'ta (tarayıcıda) veya Visual Studio Code'u kullanarak yerel olarak çalıştırabilirsiniz.

Bu makaleyi kullanmak için aşağıdaki önkoşullara ihtiyacınız vardır:

Codespaces (önerilen)

• Azure aboneliği - Ücretsiz bir abonelik oluşturun
• Azure hesabı izinleri - Azure Hesabınızın Kullanıcı Erişimi Yöneticisi veya Sahip gibi Microsoft.Authorization/roleAssignments/write izinlerine sahip olması gerekir.
• İstenen Azure aboneliğinde Azure OpenAI'ya erişim verilir. Şu anda bu hizmete erişim yalnızca uygulama tarafından sağlanmaktadır. adresinden formu https://aka.ms/oai/accesstamamlayarak Azure OpenAI'ye erişim için başvurabilirsiniz. Sorun yaşıyorsanız bizimle iletişime geçmek için bu depoda bir sorun açın.
• GitHub hesabı

Visual Studio Code

• Azure aboneliği - Ücretsiz bir abonelik oluşturun
• Azure hesabı izinleri - Azure Hesabınızın Kullanıcı Erişimi Yöneticisi veya Sahip gibi Microsoft.Authorization/roleAssignments/write izinlerine sahip olması gerekir.
• İstenen Azure aboneliğinde Azure OpenAI'ya erişim verilir. Şu anda bu hizmete erişim yalnızca uygulama tarafından sağlanmaktadır. adresinden formu https://aka.ms/oai/accesstamamlayarak Azure OpenAI'ye erişim için başvurabilirsiniz. Sorun yaşıyorsanız bizimle iletişime geçmek için bu depoda bir sorun açın.
• Azure Geliştirici CLI'sı
• Docker Desktop - Henüz çalışmıyorsa Docker Desktop'ı başlatın
• Visual Studio Code
• Dev Kapsayıcı Uzantısı

Açık geliştirme ortamı

Bu makaleyi tamamlamak için tüm bağımlılıkların yüklü olduğu bir geliştirme ortamıyla hemen başlayın.

GitHub Codespaces (önerilen)

GitHub Codespaces, Kullanıcı arabirimi olarak Web için Visual Studio Code ile GitHub tarafından yönetilen bir geliştirme kapsayıcısı çalıştırır. En basit geliştirme ortamı için GitHub Codespaces'ı kullanarak bu makaleyi tamamlamak için doğru geliştirici araçlarını ve bağımlılıklarını önceden yüklemiş olursunuz.

Önemli

Tüm GitHub hesapları Codespaces'ı her ay 2 çekirdek örneğiyle 60 saate kadar ücretsiz olarak kullanabilir. Daha fazla bilgi için bkz . GitHub Codespaces aylık dahil depolama ve çekirdek saatler.

1. Codespace'ta açın.

   

2. Kod alanının başlamasını bekleyin. Bu başlatma işlemi birkaç dakika sürebilir.

3. Ekranın alt kısmındaki terminalde Azure Geliştirici CLI'sı ile Azure'da oturum açın.

   azd auth login
   

   Kimlik doğrulama işlemini tamamlayın.

4. Bu makaledeki kalan görevler bu geliştirme kapsayıcısı bağlamında gerçekleşir.

Visual Studio Code

Visual Studio Code için Geliştirme Kapsayıcıları uzantısı docker'ın yerel makinenize yüklenmesini gerektirir. Uzantı, bu makaleyi tamamlamak için doğru geliştirici araçları ve bağımlılıkları önceden yüklenmiş docker ana bilgisayarını kullanarak geliştirme kapsayıcısını yerel olarak barındırır.

1. Proje için bilgisayarınızda yeni bir yerel dizin oluşturun.

   mkdir my-intelligent-app && cd my-intelligent-app
   

2. Visual Studio Code'yu bu dizinde açın:

   code .
   

3. Visual Studio Code'da yeni bir terminal açın.

4. GitHub deposunu yerel bilgisayarınıza getirmek için aşağıdaki AZD komutunu çalıştırın.

   azd init -t serverless-chat-langchainjs
   

5. Projeyi geliştirme kapsayıcısında açmak için Komut Paleti'ni açın, Geliştirme Kapsayıcıları: Kapsayıcıda Klasör Aç'ı arayın ve seçin. Devam etmeden önce geliştirme kapsayıcısı açılana kadar bekleyin.

6. Azure Geliştirici CLI'sı ile Azure'da oturum açın.

   azd auth login
   

   Kodu terminalden kopyalayın ve bir tarayıcıya yapıştırın. Azure hesabınızla kimlik doğrulaması yapmak için yönergeleri izleyin.

7. Bu projedeki kalan alıştırmalar bu geliştirme kapsayıcısı bağlamında gerçekleşir.

Dağıtma ve çalıştırma

Örnek depo, sunucusuz sohbet uygulamasını Azure'a dağıtmak için ihtiyacınız olan tüm kod ve yapılandırma dosyalarını içerir. Aşağıdaki adımlar, örneği Azure'a dağıtma işleminde size yol gösterir.

Sohbet uygulamasını Azure'a dağıtma

Önemli

Bu bölümde oluşturulan Azure kaynakları, öncelikli olarak Azure AI Search kaynağından anlık maliyetler doğurabilir. Bu kaynaklar, komutu tam olarak yürütülmeden önce kesintiye uğratsanız bile maliyetleri tahakkuk ettirebilir.

1. Azure kaynaklarını sağlamak ve kaynak kodu dağıtmak için aşağıdaki Azure Geliştirici CLI komutunu çalıştırın:

   azd up
   

2. istemleri yanıtlamak için aşağıdaki tabloyu kullanın:

   İstem	Yanıt
   Ortam adı	Kısa ve küçük tutun. Adınızı veya diğer adınızı ekleyin. Örneğin, john-chat. Kaynak grubu adının bir parçası olarak kullanılır.
   Abonelik	Kaynakları oluşturmak için aboneliği seçin.
   Konum (barındırma için)	Listeden size yakın bir konum seçin.
   OpenAI modelinin konumu	Listeden size yakın bir konum seçin. İlk konumunuzla aynı konum kullanılabiliyorsa bunu seçin.

3. Uygulama dağıtılana kadar bekleyin. Dağıtımın tamamlanması 5-10 dakika sürebilir.

4. Uygulama başarıyla dağıtıldıktan sonra terminalde iki URL'nin görüntülendiğini görürsünüz.

5. Sohbet uygulamasını tarayıcıda açmak için etiketli Deploying service webapp URL'yi seçin.

PDF dosyalarından yanıt almak için sohbet uygulamasını kullanma

Sohbet uygulaması, PDF dosya kataloğundan kiralama bilgileriyle önceden yüklenir. Kiralama işlemiyle ilgili sorular sormak için sohbet uygulamasını kullanabilirsiniz. Aşağıdaki adımlar, sohbet uygulamasını kullanma işleminde size yol gösterir.

1. Tarayıcıda Para iadesi ilkesi nedir?'i seçin veya girin.

   

2. Bir takip sorusu seçin.

   

3. Yanıttan alıntıyı seçerek yanıtı oluşturmak için kullanılan belgeyi görüntüleyin. Bu, belgeyi Azure Depolama'dan istemciye teslim eder. Yeni tarayıcı sekmesini tamamladığınızda sunucusuz sohbet uygulamasına dönmek için bu sekmeyi kapatın.

   

Kaynakları temizleme

Azure kaynaklarını temizleme

Bu makalede oluşturulan Azure kaynakları Azure aboneliğinize faturalandırılır. Gelecekte bu kaynaklara ihtiyaç duymayı beklemiyorsanız, daha fazla ücret ödememek için bunları silin.

Azure kaynaklarını silmek ve kaynak kodu kaldırmak için aşağıdaki Azure Geliştirici CLI komutunu çalıştırın:

azd down --purge

GitHub Codespaces'i temizleme

GitHub Codespaces

GitHub Codespaces ortamını silmek, hesabınız için elde ettiğiniz ücretsiz çekirdek başına saat yetkilendirmesi miktarını en üst düzeye çıkarmanızı sağlar.

Önemli

GitHub hesabınızın yetkilendirmeleri hakkında daha fazla bilgi için bkz . GitHub Codespaces aylık dahil depolama ve çekirdek saatler.

1. GitHub Codespaces panosunda (https://github.com/codespaces ) oturum açın.

2. GitHub deposundan Azure-Samples/serverless-chat-langchainjs alınan şu anda çalışan Codespaces'ınızı bulun.

   

3. codespace için bağlam menüsünü ...açın ve Sil'i seçin.

Visual Studio Code

Yerel ortamınızı temizlemek için gerekli olmayabilir, ancak çalışan geliştirme kapsayıcısını durdurabilir ve yerel çalışma alanı bağlamında çalışan Visual Studio Code'a dönebilirsiniz.

1. Komut Paleti'ni açın, Geliştirme Kapsayıcıları komutlarını arayın ve Geliştirici Kapsayıcıları: Klasörü Yerel Olarak Yeniden Aç'ı seçin.

   

İpucu

Visual Studio Code, çalışan geliştirme kapsayıcısını durdurur, ancak kapsayıcı hala Docker'da durdurulmuş durumdadır. Yerel makinenizde daha fazla alan açmak için her zaman kapsayıcı örneğini, kapsayıcı görüntüsünü ve birimleri Docker'dan silme seçeneğiniz vardır.

Yardım alın

Bu örnek depo sorun giderme bilgileri sunar.

Sorununuz giderildiyse sorununuzu deponun Sorunları'na kaydedin.

İlgili içerik

• JavaScript'te sohbet uygulamasında yanıtları değerlendirmeye başlama