RAG kullanarak Java kurumsal sohbet örneğini kullanmaya başlama
Bu makalede Java için Kurumsal sohbet uygulaması örneğinin nasıl dağıtılacağı ve çalıştırılacağı gösterilmektedir. Bu örnek, kurgusal bir şirkette çalışan avantajları hakkında yanıtlar almak için Azure AI Search'te Java, Azure OpenAI Hizmeti ve Alma Artırılmış Nesli (RAG) kullanan bir sohbet uygulaması uygular. Uygulama, çalışan el kitabı, avantajlar belgesi ve şirket rollerinin ve beklentilerinin listesi de dahil olmak üzere PDF dosyalarıyla birlikte dağıtılır.
Bu makaledeki yönergeleri izleyerek şunları yapacaksınız:
- Azure'a bir sohbet uygulaması dağıtma.
- Çalışan avantajları hakkında yanıtlar alın.
- Yanıtların davranışını değiştirmek için ayarları değiştirin.
Bu makaleyi tamamladıktan sonra, özel kodunuzla yeni projeyi değiştirmeye başlayabilirsiniz.
Bu makale, Azure OpenAI Hizmeti ve Azure AI Search kullanarak nasıl sohbet uygulaması oluşturabileceğinizi gösteren makale koleksiyonunun bir parçasıdır. Koleksiyondaki diğer makaleler şunlardır:
Mimariye genel bakış
Aşağıdaki diyagramda sohbet uygulamasının basit bir mimarisi gösterilmiştir:
Mimarinin temel bileşenleri şunlardır:
- Etkileşimli sohbet deneyimini barındırmak için bir web uygulaması.
- Kendi verilerinizden yanıt almak için bir Azure AI Search kaynağı.
- Sağlayabilecek bir Azure OpenAI Hizmeti:
- Kendi verileriniz üzerinde aramayı geliştirmek için anahtar sözcükler.
- OpenAI modelinden gelen yanıtlar.
- Ada modelinden eklemeler
Maliyet
Bu mimarideki kaynakların çoğu temel veya tüketim fiyatlandırma katmanını kullanır. Tüketim fiyatlandırması kullanımı temel alır ve bu da yalnızca kullandığınız kadar ödeme yaptığınız anlamına gelir. Bu makaleyi tamamlamak için ücret tahsil edilecektir ancak çok az olacaktır. Makaleyle işiniz bittiğinde, ücretlendirmeyi durdurmak için kaynakları silebilirsiniz.
Örnek depoda maliyet hakkında daha fazla bilgi edinin.
Önkoşullar
Bu makaleyi tamamlamak için gereken tüm bağımlılıklarla birlikte bir geliştirme kapsayıcısı ortamı sağlanır. Geliştirme kapsayıcısını GitHub Codespaces'ta (tarayıcıda) veya Visual Studio Code'u kullanarak yerel olarak çalıştırabilirsiniz.
Bu makaleyi kullanmak için aşağıdaki önkoşullara ihtiyacınız vardır:
- Azure aboneliği - Ücretsiz bir abonelik oluşturun
- Azure hesabı izinleri - Azure Hesabınızın Kullanıcı Erişimi Yönetici istrator veya Sahip gibi Microsoft.Authorization/roleAssignments/write izinlerine sahip olması gerekir.
- İstenen Azure aboneliğinde Azure OpenAI'ya erişim verilir. Şu anda bu hizmete erişim yalnızca uygulama tarafından sağlanmaktadır. adresinden formu https://aka.ms/oai/accesstamamlayarak Azure OpenAI'ye erişim için başvurabilirsiniz. Sorun yaşıyorsanız bizimle iletişime geçmek için bu depoda bir sorun açın.
- GitHub hesabı
Açık geliştirme ortamı
Bu makaleyi tamamlamak için tüm bağımlılıkların yüklü olduğu bir geliştirme ortamıyla hemen başlayın.
GitHub Codespaces, Kullanıcı arabirimi olarak Web için Visual Studio Code ile GitHub tarafından yönetilen bir geliştirme kapsayıcısı çalıştırır. En basit geliştirme ortamı için GitHub Codespaces'ı kullanarak bu makaleyi tamamlamak için doğru geliştirici araçlarını ve bağımlılıklarını önceden yüklemiş olursunuz.
Önemli
Tüm GitHub hesapları Codespaces'ı her ay 2 çekirdek örneğiyle 60 saate kadar ücretsiz olarak kullanabilir. Daha fazla bilgi için bkz . GitHub Codespaces aylık dahil depolama ve çekirdek saatler.
GitHub deposunun dalında
Azure-Samples/azure-search-openai-demo-java
yeni bir GitHub Codespacemain
oluşturmak için işlemi başlatın.Hem geliştirme ortamının hem de belgelerin aynı anda kullanılabilir olması için aşağıdaki düğmeye sağ tıklayın ve Bağlantıyı yeni pencerelerde aç'ı seçin.
Codespace oluştur sayfasında codespace yapılandırma ayarlarını gözden geçirin ve ardından Yeni kod alanı oluştur'u seçin
Kod alanının başlamasını bekleyin. Bu başlatma işlemi birkaç dakika sürebilir.
Ekranın alt kısmındaki terminalde Azure Geliştirici CLI'sı ile Azure'da oturum açın.
azd auth login
Kodu terminalden kopyalayın ve bir tarayıcıya yapıştırın. Azure hesabınızla kimlik doğrulaması yapmak için yönergeleri izleyin.
Bu makaledeki kalan görevler bu geliştirme kapsayıcısı bağlamında gerçekleşir.
Dağıtma ve çalıştırma
Örnek depo, Bir sohbet uygulamasını Azure'a dağıtmak için ihtiyacınız olan tüm kod ve yapılandırma dosyalarını içerir. Aşağıdaki adımlar, örneği Azure'a dağıtma işleminde size yol gösterir.
Sohbet uygulamasını Azure'a dağıtma
Önemli
Bu bölümde oluşturulan Azure kaynakları, öncelikli olarak Azure AI Search kaynağından anlık maliyetler doğurabilir. Bu kaynaklar, komutu tam olarak yürütülmeden önce kesintiye uğratsanız bile maliyetleri tahakkuk ettirebilir.
Azure kaynaklarını sağlamak ve kaynak kodu dağıtmak için aşağıdaki Azure Geliştirici CLI komutunu çalıştırın:
azd up
Bir ortam adı girmeniz istendiğinde kısa ve küçük harfle tutun. Örneğin,
myenv
. Kaynak grubu adının bir parçası olarak kullanılır.İstendiğinde, içinde kaynakları oluşturmak için bir abonelik seçin.
İlk kez bir konum seçmeniz istendiğinde, size yakın bir konum seçin. Bu konum, barındırma dahil olmak üzere kaynakların çoğu için kullanılır.
OpenAI modeli için bir konum istenirse size yakın bir konum seçin. İlk konumunuzla aynı konum kullanılabiliyorsa bunu seçin.
Uygulama dağıtılana kadar bekleyin. Dağıtımın tamamlanması 5-10 dakika sürebilir.
Uygulama başarıyla dağıtıldıktan sonra terminalde bir URL görüntülenir.
Sohbet uygulamasını tarayıcıda açmak için etiketli
Deploying service web
URL'yi seçin.
PDF dosyalarından yanıt almak için sohbet uygulamasını kullanma
Sohbet uygulaması, PDF dosyalarından çalışan avantajları bilgileriyle önceden yüklenir. Avantajları hakkında sorular sormak için sohbet uygulamasını kullanabilirsiniz. Aşağıdaki adımlar, sohbet uygulamasını kullanma işleminde size yol gösterir.
Tarayıcıda sohbet metin kutusuna "Standart olmayan Northwind Health Plus planıma neler dahildir?" öğesini seçin veya girin.
Yanıttan alıntılardan birini seçin.
Sağ bölmede, yanıtın nasıl oluşturulduğunu anlamak için sekmeleri kullanın.
Sekme Açıklama Düşünce süreci Bu, sohbetteki etkileşimlerin betiğidir. Destekleyici içerik Bu, sorunuzu ve kaynak malzemeyi yanıtlamaya yönelik bilgileri içerir. Alıntı Bu, alıntıyı içeren PDF sayfasını görüntüler. İşiniz bittiğinde, bölmeyi kapatmak için seçili sekmeyi yeniden seçin.
Yanıtların davranışını değiştirmek için sohbet uygulaması ayarlarını kullanma
Sohbet uygulamasının zekası, OpenAI modeline ve modelle etkileşime geçmek için kullanılan ayarlara göre belirlenir.
Ayar | Açıklama |
---|---|
Geçersiz kılma istemi şablonu | Bu, yanıtı oluşturmak için kullanılan istemdir. |
Bu kadar çok arama sonucunu alın | Bu, yanıtı oluşturmak için kullanılan arama sonuçlarının sayısıdır. Bu kaynakların alıntının Düşünce süreci ve Destekleyici içerik sekmelerinde döndürülmüş olduğunu görebilirsiniz. |
Kategoriyi dışla | Bu, arama sonuçlarından dışlanan belgelerin kategorisidir. |
Alma için semantik dereceleyici kullanma | Bu, arama sonuçlarının ilgi düzeyini artırmak için makine öğrenmesini kullanan bir Azure AI Search özelliğidir. |
Tüm belgeler yerine sorgu bağlamsal özetleri kullanma | Hem hem de Use semantic ranker Use query-contextual summaries işaretlendiğinde, LLM en yüksek dereceli belgelerde tüm pasajlar yerine anahtar geçitlerden ayıklanan başlık kullanır. |
İzleme soruları önerin | Sohbet uygulamasının yanıta göre takip soruları önermesini sağlayın. |
Alma modu | Vektörler + Metin , arama sonuçlarının belgelerin metnine ve belgelerin eklemelerine dayandığı anlamına gelir. Vektörler , arama sonuçlarının belgelerin eklemelerine dayandığı anlamına gelir. Metin , arama sonuçlarının belgelerin metnine dayalı olduğu anlamına gelir. |
Sohbet tamamlama yanıtlarını akışla aktarın | Yanıt için tam yanıt kullanılabilir olana kadar beklemek yerine yanıt akışı yapın. |
Aşağıdaki adımlar, ayarları değiştirme işleminde size yol gösterir.
Tarayıcıda Geliştirici Ayarlar sekmesini seçin.
İzleme soruları öner onay kutusunu işaretleyin ve aynı soruyu yeniden sorun.
What is my deductible?
Sohbet aşağıdakiler gibi önerilen izleme sorularını döndürdü:
1. What is the cost sharing for out-of-network services? 2. Are preventive care services subject to the deductible? 3. How does the prescription drug deductible work?
Ayarlar sekmesinde Alma için anlam derecesini kullan'ın seçimini kaldırın.
Aynı soruyu tekrar mı sorayım?
What is my deductible?
Yanıtlardaki fark nedir?
Örneğin Anlam derecesini kullanan yanıt tek bir yanıt sağladı:
The deductible for the Northwind Health Plus plan is $2,000 per year
.Semantik derecelendirmesi olmayan reponse, yanıtı almak için daha fazla çalışma gerektiren bir yanıt döndürdü:
Based on the information provided, it is unclear what your specific deductible is. The Northwind Health Plus plan has different deductible amounts for in-network and out-of-network services, and there is also a separate prescription drug deductible. I would recommend checking with your provider or referring to the specific benefits details for your plan to determine your deductible amount
.
Kaynakları temizleme
Azure kaynaklarını temizleme
Bu makalede oluşturulan Azure kaynakları Azure aboneliğinize faturalandırılır. Gelecekte bu kaynaklara ihtiyaç duymayı beklemiyorsanız, daha fazla ücret ödememek için bunları silin.
Azure kaynaklarını silmek ve kaynak kodu kaldırmak için aşağıdaki Azure Geliştirici CLI komutunu çalıştırın:
azd down --purge
GitHub Codespaces'i temizleme
GitHub Codespaces ortamını silmek, hesabınız için elde ettiğiniz ücretsiz çekirdek başına saat yetkilendirmesi miktarını en üst düzeye çıkarmanızı sağlar.
Önemli
GitHub hesabınızın yetkilendirmeleri hakkında daha fazla bilgi için bkz . GitHub Codespaces aylık dahil depolama ve çekirdek saatler.
- GitHub Codespaces panosunda (https://github.com/codespaces ) oturum açın.
- GitHub deposundan
Azure-Samples/azure-search-openai-demo-java
alınan şu anda çalışan kod alanlarınızı bulun. - Codespace bağlam menüsünü açın ve sil'i seçin.
Soru nasıl yanıtlandı?
Uygulama 2 uygulamaya ayrılmıştır:
- Vite derleme aracıyla React çerçevesini kullanan bir ön uç JavaScript uygulaması.
- Soruyu bir arka uç Java uygulaması yanıtlar.
Arka uç /chat
API'si, yanıtı alma işleminde adım adım ilerler:
- RAG seçenekleri oluşturma: Yanıt oluşturmak için kullanılacak bir dizi seçenek oluşturun.
- RAG seçeneklerini kullanarak yaklaşım oluşturma: Doğru ve doğal bir yanıt oluşturmaya yönelik bir yaklaşım oluşturmak için alma tabanlı ve üretken tabanlı modellerin birleşimini kullanın.
- RAG seçenekleri ve önceki konuşma ile yaklaşımı çalıştırın: Önceki konuşmaya dayalı bir yanıt oluşturmak için yaklaşımı ve RAG seçeneklerini kullanın. Yanıt, yanıtı oluşturmak için hangi belgelerin kullanıldığına ilişkin bilgileri içerir.
Yardım alın
Bu örnek depo sorun giderme bilgileri sunar.
Verilen sorununuz giderildiyse sorununuzu deponun Sorunları'na kaydedin.
Sonraki adımlar
- Kurumsal sohbet uygulaması GitHub deposu
- Azure OpenAI en iyi yöntem çözüm mimarisiyle sohbet uygulaması oluşturma
- Azure AI Search ile Oluşturucu Yapay Zeka Uygulamaları'nda erişim denetimi
- Azure API Management ile Kurumsal kullanıma hazır openAI çözümü oluşturma
- Karma alma ve derecelendirme özellikleriyle vektör aramasını daha iyi performansla gerçekleştirme
Geri Bildirim
https://aka.ms/ContentUserFeedback.
Çok yakında: 2024 boyunca, içerik için geri bildirim mekanizması olarak GitHub Sorunları’nı kullanımdan kaldıracak ve yeni bir geri bildirim sistemiyle değiştireceğiz. Daha fazla bilgi için bkz.Gönderin ve geri bildirimi görüntüleyin