Databricks Uygulamaları ile sohbet kullanıcı arabirimi oluşturma ve paylaşma

Ajanınıza yönelik sohbet kullanıcı arabirimi oluşturmak ve dağıtmak için Databricks Uygulamaları'nı kullanın. Aracı uygulaması şablonları , ek kurulum olmadan bu sohbet kullanıcı arabirimini içerir. Şablon kullanıcı arabirimini özelleştirmek veya şablon olmadan dağıtılan bir aracıya sohbet kullanıcı arabirimi eklemek için bu sayfayı kullanın.

Gereksinimler

Bu sohbet kullanıcı arabirimi, aşağıdakiler dahil olmak üzere eski şemalar dışında tüm Azure Databricks aracılarıyla çalışır:

• Uygulamalarda devreye alınan Ajanlar
• Model Sunucu üzerinde Sohbet veya Yanıtlar görev türüyle dağıtılan aracılar

• Bilgi Yardımcısı
• Gözetmen Aracısı

• Sohbet görev türüne sahip temel model uç noktaları

Aşağıdaki geliştirme araçlarına sahip olmanız gerekir:

• NPM CLI: Yerel geliştirme için gereklidir. Bkz . GitHub - NPM CLI

• Databricks CLI: Kimlik doğrulaması için gereklidir, yükleme kılavuzuna bakın.

  1. Databricks CLI'yi yükleyin.
  2. Profil adınızı ayarlayın:

     export DATABRICKS_CONFIG_PROFILE='your_profile_name'
     

  3. Kimlik doğrulamayı yapılandırma:

     databricks auth login --profile "$DATABRICKS_CONFIG_PROFILE"
     
     

Örnek sohbet uygulaması

e2e-chatbot-app-next örnek uygulaması, üretime hazır bir sohbet arabirimi oluşturmak için NextJS, React ve AI SDK'sını kullanır.

Şablonu kullanma hakkında ayrıntılı yönergeler için proje README.md bakın.

Örnek uygulama aşağıdakileri gösterir:

• Akış çıkışı: Akış dışı moda otomatik geri dönüş ile aracı yanıtlarını oluştururken görüntüler
• Araç çağrıları: Özel Aracılar için en iyi uygulamalara göre oluşturulan aracılar için araç çağrılarını görüntüler

• Databricks Aracısı ve Temel Model tümleştirmesi: Temel Modellere doğrudan bağlantı, uç noktalara hizmet veren Databricks Aracısı, Bilgi Yardımcısı ve Gözetmen Aracısı.

• Databricks kimlik doğrulaması: Sohbet uygulamasının son kullanıcılarını tanımlamak ve konuşmalarını güvenli bir şekilde yönetmek için Databricks kimlik doğrulamasını kullanır.
• Kalıcı sohbet geçmişi: Tam idare ile konuşmaları Databricks Lakebase'de (Postgres) depolar

İsteğe bağlı özellikleri etkinleştirmek için aşağıdaki bölümleri açın:

Sohbet geçmişini etkinleştirme

Sohbet geçmişini etkinleştirme

Varsayılan olarak, konuşmalar yalnızca bellekte depolanır ve oturum sona erdiğinde kaybolur. PostgreSQL'de geçmişi kalıcı hale getirmek için şablon README.md açıklanan hızlı başlangıç betiğini çalıştırın.

Kullanıcı geri bildirimini etkinleştirme

Kullanıcı geri bildirimini etkinleştirme

Kullanıcılar, MLflow denemesinde kaydedilen yanıtlara başparmak yukarı/aşağı geri bildirim sağlayabilir.

Agent-openai-agents-sdk veya agent-langgraph gibi bir aracı şablonu kullanıyorsanız paket, MLflow denemesine kullanıcı geri bildirimi yazmak üzere uygulama için kimlik doğrulamasını otomatik olarak yapılandırıyor. Geri bildirim, databricks bundle deploy sonrasında ek bir adım olmadan çalışır.

Var olan bir aracı uç birimine işaret eden bağımsız çalışan e2e-chatbot-app-next kullanıyorsanız, MLflow denemesi için kimlik doğrulamayı yapılandırmak amacıyla şablon README.md'de açıklanan hızlı başlangıç betiğini çalıştırın.

Note

Ayrıca sayfa yeniden yüklemelerinde başparmak yukarı/aşağı durumunu kalıcı hale getirmek için bir Lakebase veritabanı bağlayın. Bkz . Sohbet geçmişini etkinleştirme.

Aynı veritabanı örneğinde birden çok uygulama barındırma

Aynı veritabanı örneğinde birden çok uygulama barındırma

Bu örnek, uygulama kodu veritabanı örneğinde sabit ai_chatbot bir şemayı hedeflediğinden uygulama başına yalnızca bir veritabanı oluşturur. Aynı örneğin dışında birden çok uygulama barındırmak için aşağıdakileri yapmanız gerekir:

1. içindeki databricks.ymlveritabanı örneği adını güncelleştirin.
2. Mevcut veritabanı örneği içinde kod tabanındaki ai_chatbot başvurularını, istediğiniz yeni şema adıyla güncelleyin.
3. Veritabanı geçişlerini yeniden oluşturmak için komutunu çalıştırın npm run db:generate .
4. Uygulamayı dağıtın.

Kullanıcı yetkilendirmesini etkinleştirme (Genel Önizleme)

Kullanıcı yetkilendirmesini etkinleştirme

Important

Kullanıcı yetkilendirmesi Genel Önizleme aşamasındadır. Uygulamanız için kullanıcı yetkilendirmesini yapılandırabilmeniz için önce çalışma alanı yöneticinizin etkinleştirmesi gerekir.

Bazı hizmet uç noktaları, uygulamanın hizmet sorumlusu belirteci yerine kullanıcının erişim belirtecini iletmesini gerektirir. Buna kullanıcı yetkilendirmesi denir ve bazen kullanıcı adına yetkilendirme olarak da adlandırılır.

Gözetmen Aracısı uç noktaları her zaman kullanıcı yetkilendirmesi gerektirir. Uç noktaları sunan özel model, uç nokta kimlik doğrulama ilkesinde yapılandırılmış API kapsamlarına sahip olduğunda da kullanıcı yetkilendirmesi gerektirir.

e2e-chatbot-app-next şablonu, yapılandırılan sunum uç noktasının kullanıcı yetkilendirmesi gerekip gerekmediğini otomatik olarak algılar. Uygulamada gerekli kapsamlar eksikse, eksik kapsamları listeleyen bir uyarı başlığı görüntüler.

Kullanıcı yetkilendirmesini yapılandırmak için, Azure Databricks kullanıcı arabiriminde bir uygulama oluştururken veya düzenlerken gerekli kapsamları ekleyin:

1. Kaynakları yapılandır adımında, Kullanıcı yetkilendirmesi'nin altında +Kapsam ekle'ye tıklayın.
2. model-serving Kapsamı ekleyin. Bu kapsam, kullanıcı yetkilendirmesi kullanan tüm uç noktalar için gereklidir.
3. Uç noktanın kimlik doğrulama ilkesinde listelenen tüm ek kapsamları ekleyin.

Ayrıntılı yönergeler için bkz. Uygulamaya kapsam ekleme.

Kapsam ekledikten veya değiştirdikten sonra, uygulama URL’sine ait tanımlama bilgilerini temizlemeniz gerekir. Aksi takdirde oturum önceki kapsamları kullanmaya devam eder:

1. Uygulama URL'sine gidin.
2. Chrome'da DevTools'ı (macOS'ta F12 veya Cmd+Option+I veya Windows veya Linux'ta Ctrl+Shift+I) açın.
3. Uygulama sekmesini açın, Depolama>Tanımlama Bilgileri'nin altında uygulamanızın URL'sini seçin, ardından her tanımlama bilgisine sağ tıklayın ve aşağıda gösterildiği gibi Sil'i seçin.

Kapsamları değiştirdikten sonra tarayıcı çerezlerini temizleyin

Kapsamları ekledikten veya değiştirdikten sonra, değişiklik hemen geçerli olur ve uygulamanın yeniden başlatılması gerekmez. Ancak, tarayıcı oturumunuz değişiklik öncesinde verilen belirteçleri yeniden kullanır, bu nedenle test etmeden önce uygulama URL'si için tanımlama bilgilerinizi temizleyin. Aksi takdirde oturum önceki kapsamları kullanmaya devam eder.

Uygulamayı paylaşma

Kullanıcılara uygulamayı görüntüleme izni verin (bkz. Databricks uygulaması için izinleri yapılandırma), ardından uygulama URL'sini paylaşma.

Bilinen sınırlamalar

• Görüntü veya diğer çoklu modal girişler için destek yok
• Bu uygulama yalnızca Databricks CLI kimlik doğrulamasını (yerel geliştirme) ve hizmet sorumlusu kimlik doğrulamasını (dağıtılan uygulamalar) destekler. PAT, Azure'in yönetilen kimlikleri ve diğer mekanizmalar desteklenmemektedir.
• Unity Kataloğu işlev kapsamları kullanıcı yetkilendirmesi için desteklenmez.

Streamlit aracı sohbet uygulaması

Önceki Streamlit şablonu olan e2e-chatbot-app hala kullanılabilir ancak e2e-chatbot-app-next'in üretim özelliklerinden yoksun.