Creare e condividere un'interfaccia utente di chat con Databricks Apps

Usare Databricks Apps per compilare e distribuire un'interfaccia utente di chat per l'agente. I modelli di app agent includono questa interfaccia utente di chat senza alcuna configurazione aggiuntiva. Usare questa pagina per personalizzare l'interfaccia utente del modello o per aggiungere un'interfaccia utente di chat a un agente distribuito senza un modello.

Requisiti

Questa interfaccia utente della chat funziona con qualsiasi agente di Azure Databricks, ad eccezione degli schemi legacy, tra cui:

• Agenti distribuiti nelle app
• Agenti distribuiti in Model Serving con il tipo di attività Chat o Responses

• Assistente conoscenze
• Agente supervisore

• Endpoint del modello di base con tipo di attività Chat

È necessario disporre degli strumenti di sviluppo seguenti:

• NPM CLI: obbligatoria per lo sviluppo locale. Vedere GitHub - NPM CLI

• Interfaccia della riga di comando di Databricks: necessaria per l'autenticazione, vedere la guida all'installazione.

  1. Installare il CLI di Databricks.
  2. Impostare il nome del profilo:

     export DATABRICKS_CONFIG_PROFILE='your_profile_name'
     

  3. Configurare l'autenticazione:

     databricks auth login --profile "$DATABRICKS_CONFIG_PROFILE"
     
     

Applicazione chat di esempio

L'app di esempio, e2e-chatbot-app-next usa NextJS, React e AI SDK per creare un'interfaccia di chat pronta per la produzione.

Per istruzioni dettagliate su come usare il modello, vedere il README.md del progetto.

L'app di esempio illustra quanto segue:

• Output streaming: visualizza le risposte dell'agente durante la generazione con un fallback automatico alla modalità non streaming
• Chiamate agli strumenti: esegue il rendering delle chiamate degli strumenti per gli agenti creati usando procedure consigliate dell'Agent Framework

• Integrazione dell'agente Databricks e dei Foundation Model: connessione diretta ai Foundation Model, agli endpoint serviti dall'agente Databricks e agli Agent Bricks

• Autenticazione di Databricks: usa l'autenticazione di Databricks per identificare gli utenti finali dell'app di chat e gestire in modo sicuro le conversazioni.
• Cronologia chat persistente: archivia le conversazioni in Databricks Lakebase (Postgres) con governance completa

Aprire le sezioni seguenti per abilitare le funzionalità facoltative:

Abilitare la cronologia delle chat

Abilitare la cronologia delle chat

Per impostazione predefinita, le conversazioni vengono archiviate solo in memoria e vengono perse al termine della sessione. Per rendere persistente la cronologia in PostgreSQL, eseguire lo script di avvio rapido descritto nel modello README.md.

Abilitare il feedback degli utenti

Abilitare il feedback degli utenti

Gli utenti possono fornire voti positivi o negativi sulle risposte, che sono registrati in un esperimento MLflow.

Se si usa un modello di agente, ad esempio agent-openai-agents-sdk o agent-langgraph, il bundle configura automaticamente l'autenticazione per l'app per scrivere commenti e suggerimenti degli utenti nell'esperimento MLflow. Il feedback funziona dopo databricks bundle deploy senza passaggi aggiuntivi.

Se si utilizza l'applicazione autonoma e2e-chatbot-app-next puntata a un endpoint di agente esistente, eseguire lo script di avvio rapido descritto nel README.md del modello per configurare l'autenticazione per l'esperimento MLflow.

Annotazioni

Associare anche un database Lakebase per rendere persistenti lo stato di avanzamento/arresto dei pollici tra i ricaricamenti delle pagine. Vedere Abilitare la cronologia delle chat.

Ospitare più app nella stessa istanza del database

Ospitare più app nella stessa istanza del database

Questo esempio crea un solo database per app, perché il codice dell'app è destinato a uno schema fisso ai_chatbot nell'istanza del database. Per ospitare più app dalla stessa istanza, è necessario eseguire le operazioni seguenti:

1. Aggiornare il nome dell'istanza del database in databricks.yml.
2. Aggiornare i riferimenti a ai_chatbot nella codebase al nuovo nome dello schema desiderato all'interno dell'istanza del database esistente.
3. Eseguire npm run db:generate per rigenerare le migrazioni di database.
4. Distribuire l'app.

Abilitare l'autorizzazione utente (anteprima pubblica)

Abilitare l'autorizzazione utente

Importante

L'autorizzazione utente è in anteprima pubblica. L'amministratore dell'area di lavoro deve abilitarlo prima di poter configurare l'autorizzazione utente per l'app.

Alcuni endpoint di servizio richiedono all'app di inoltrare il token di accesso dell'utente anziché il token del principale di servizio dell'app. Questa operazione è detta autorizzazione utente, talvolta definita autorizzazione per conto dell'utente.

Gli endpoint supervisori multi-agente richiedono sempre l'autorizzazione utente. I modelli personalizzati che servono gli endpoint richiedono anche l'autorizzazione dell'utente quando l'endpoint ha ambiti API configurati nei criteri di autenticazione.

Per configurare l'autorizzazione utente, aggiungere gli ambiti necessari quando si crea o si modifica un'app nell'interfaccia utente di Azure Databricks:

1. Nel passaggio Configura risorse , in Autorizzazione utente, fare clic su +Aggiungi ambito.
2. Aggiungere l'ambito serving.serving-endpoints . Questo ambito è obbligatorio per tutti gli endpoint che usano l'autorizzazione utente.
3. Aggiungere eventuali ambiti aggiuntivi elencati nei criteri di autenticazione dell'endpoint.

Per istruzioni dettagliate, vedere Aggiungere ambiti a un'app.

Il modello e2e-chatbot-app-next rileva automaticamente se l'endpoint di gestione configurato richiede l'autorizzazione dell'utente. Se l'app non contiene ambiti obbligatori, viene visualizzato un banner di avviso che elenca gli ambiti mancanti.

Condividere l'app

Concedere agli utenti l'autorizzazione per visualizzare l'app (vedere Configurare le autorizzazioni per un'app Databricks), quindi condividere l'URL dell'app.

Limitazioni note

• Nessun supporto per l'immagine o altri input multi modali
• Questa app supporta esclusivamente l'autenticazione CLI di Databricks (sviluppo locale) e l'autenticazione tramite entità servizio (app distribuite). Pat, identità gestite di Azure e altri meccanismi non sono supportati.
• Gli ambiti delle funzioni del catalogo Unity non sono supportati per l'autorizzazione dell'utente.

App di chat dell'agente Streamlit

Il modello Streamlit precedente, e2e-chatbot-app, è ancora disponibile ma non dispone delle funzionalità di produzione di e2e-chatbot-app-next.