Creación y uso compartido de una interfaz de usuario de chat con Databricks Apps

Utilice las Aplicaciones de Databricks para desarrollar e implementar una interfaz de usuario de chat para su agente. Las plantillas de aplicación del agente incluyen esta interfaz de usuario de chat sin configuración adicional. Use esta página para personalizar la interfaz de usuario de plantilla o para agregar una interfaz de usuario de chat a un agente implementado sin una plantilla.

Requisitos

Esta interfaz de usuario de chat funciona con cualquier agente de Azure Databricks, excepto los esquemas heredados, incluidos:

• Agentes implementados en aplicaciones
• Agentes implementados en Servidores de modelos con el tipo de tarea Chat o Respuestas

• Asistente de conocimiento
• Supervisor Agent

• Puntos de conexión del modelo foundation con el tipo de tarea Chat

Debe tener las siguientes herramientas de desarrollo:

• CLI de NPM: necesaria para el desarrollo local. Consulte GitHub: CLI de NPM.

• CLI de Databricks: necesaria para la autenticación, consulte la guía de instalación.

  1. Instale la CLI de Databricks.
  2. Establezca el nombre del perfil:

     export DATABRICKS_CONFIG_PROFILE='your_profile_name'
     

  3. Configuración de la autenticación:

     databricks auth login --profile "$DATABRICKS_CONFIG_PROFILE"
     
     

Aplicación de chat de ejemplo

La aplicación de ejemplo e2e-chatbot-app-next usa NextJS, React y el SDK de IA para crear una interfaz de chat lista para producción.

Consulte el README.md del proyecto para obtener instrucciones detalladas sobre cómo usar la plantilla.

La aplicación de ejemplo muestra lo siguiente:

• Salida de streaming: muestra las respuestas del agente a medida que se generan con cambio automático al modo no streaming.
• Llamadas de herramientas: presenta llamadas de herramientas para agentes creados mediante las mejores prácticas del Agent Framework

• Integración del Agente de Databricks y Modelos Fundamentales: conexión directa con Modelos Fundamentales, puntos de servicio del Agente de Databricks y Bricks del Agente.

• Autenticación de Databricks: usa la autenticación de Databricks para identificar a los usuarios finales de la aplicación de chat y administrar de forma segura sus conversaciones.
• Historial de chat persistente: almacena conversaciones en Databricks Lakebase (Postgres) con gobernanza completa

Abra las secciones siguientes para habilitar características opcionales:

Habilitación del historial de chat

Habilitación del historial de chat

De forma predeterminada, las conversaciones solo se almacenan en memoria y se pierden cuando finaliza la sesión. Para conservar el historial en PostgreSQL, ejecute el script de inicio rápido descrito en la plantilla README.md.

Habilitación de los comentarios de los usuarios

Habilitación de los comentarios de los usuarios

Los usuarios pueden proporcionar comentarios ascendentes o descendentes sobre las respuestas, que se registran en un experimento de MLflow.

Si usa una plantilla de agente como agent-openai-agents-sdk o agent-langgraph, la agrupación configura automáticamente la autenticación para que la aplicación escriba comentarios de usuario en el experimento de MLflow. Los comentarios funcionan después databricks bundle deploy sin pasos adicionales.

Si está utilizando la aplicación independiente e2e-chatbot-app-next que apunta a un punto de enlace de un agente existente, ejecute el script de inicio rápido descrito en el archivo de plantilla README.md para configurar la autenticación del experimento de MLflow.

Nota:

Asocie también una base de datos de Lakebase para conservar el estado de aprobación/desaprobación en las recargas de página. Consulte Habilitación del historial de chats.

Hospedar varias aplicaciones en la misma instancia de base de datos

Hospedar varias aplicaciones en la misma instancia de base de datos

En este ejemplo solo se crea una base de datos por aplicación, ya que el código de la aplicación tiene como destino un esquema fijo ai_chatbot en la instancia de base de datos. Para hospedar varias aplicaciones fuera de la misma instancia, debe hacer lo siguiente:

1. Actualice el nombre de la instancia de base de datos en databricks.yml.
2. Actualice las referencias a ai_chatbot en el código base al nuevo nombre de esquema deseado dentro de la instancia de base de datos existente.
3. Ejecute npm run db:generate para volver a generar migraciones de base de datos.
4. Implemente la aplicación.

Compartir la aplicación

Conceda permiso a los usuarios para ver la aplicación (consulte Configurar permisos para una aplicación de Databricks) y, a continuación, comparta la dirección URL de la aplicación.

Limitaciones conocidas

• No hay compatibilidad con imágenes ni otras entradas multimodales.
• Esta aplicación admite únicamente la autenticación mediante la CLI de Databricks (desarrollo local) y la autenticación de entidad de servicio (aplicaciones implementadas). No se admiten PAT, identidades administradas de Azure y otros mecanismos.

Aplicación de chat del agente de Streamlit

La plantilla anterior streamlit, e2e-bot-bot-app, sigue estando disponible, pero carece de las características de producción de e2e-bot-bot-app-next.