Usa Agent Bricks: Knowledge Assistant para crear un chatbot de gran calidad sobre tus documentos

Importante

Esta característica se encuentra en su versión beta.

En esta página se describe cómo usar Agent Bricks: Knowledge Assistant para crear un bot de chat de preguntas y respuestas sobre sus documentos y mejorar su calidad en función de los comentarios del lenguaje natural de sus expertos en la materia.

Agent Bricks proporciona un enfoque sencillo y sin código para crear y optimizar sistemas de agentes de inteligencia artificial comunes específicos de un dominio y de alta calidad para casos de uso comunes de inteligencia artificial.

¿Qué es Agent Bricks: Knowledge Assistant?

Use Agent Bricks: Knowledge Assistant para crear un bot de chat con el que puede formular preguntas sobre sus documentos y recibir respuestas de alta calidad con citas. Knowledge Assistant usa inteligencia artificial avanzada y sigue un enfoque de generación aumentada de recuperación (RAG) para ofrecer respuestas precisas y confiables basadas en el conocimiento especializado en el dominio que proporcione.

Agent Bricks: Knowledge Assistant es ideal para apoyar los siguientes casos de uso.

• Responda a las preguntas del usuario en función de la documentación del producto.
• Responda a las preguntas de los empleados relacionadas con las directivas de RR. HH.
• Responda a las consultas de los clientes en función de las bases de conocimiento de soporte técnico.

Knowledge Assistant le permite mejorar la calidad del agente de chat y ajustar su comportamiento en función de los comentarios del lenguaje natural de sus expertos en la materia. Proporcione preguntas para una sesión de etiquetado y envíela a expertos para revisarla en la aplicación de revisión. Sus respuestas proporcionan datos etiquetados que ayudan a optimizar el rendimiento del agente.

Agent Bricks: Knowledge Assistant crea un punto de conexión del agente RAG de extremo a extremo que puede usar posteriormente para sus aplicaciones. Por ejemplo, la imagen siguiente muestra cómo puede interactuar con el endpoint a través de chatear con él en AI Playground. Haga preguntas al agente relacionadas con sus documentos y el agente responderá con citas.

Requisitos

• Área de trabajo que incluye lo siguiente:
  • La Vista previa de Mosaic AI Agent Bricks (Beta) está habilitada. Consulte Administración de versiones preliminares de Azure Databricks.
  • Computación sin servidor habilitada. Consulte Habilitar cómputo sin servidor.
  • Catálogo de Unity habilitado. Consulte Habilitar un área de trabajo para Unity Catalog.
  • Características de asistencia de IA de partners activadas en el área de trabajo.
  • Un área de trabajo de una de las regiones admitidas: eastus, eastus2, westus, centraluso northcentralus.
  • Acceso a Mosaic AI Model Serving.
  • Acceso a los modelos fundamentales en Unity Catalog a través del esquema system.ai.
  • Acceso a una directiva presupuestaria sin servidor con un presupuesto distinto de cero.
• Debe tener los datos de entrada listos para su uso. Puede optar por proporcionar:
  • Archivos en un volumen de Unity Catalog o en un directorio de volumen. Los tipos de archivo admitidos son txt, pdf, md, ppt/pptx y doc/docx.
  • Índice de búsqueda vectorial

Creación de un agente de Knowledge Assistant

Vaya al en el panel de navegación izquierdo de su área de trabajo y haga clic en Asistente de Conocimiento.

Paso 1: Configurar el agente

En la pestaña Configurar , configure el agente y proporcione orígenes de conocimiento para que se usen para responder a preguntas.

1. En el campo Nombre , escriba un nombre para el agente.

2. En el campo Descripción , describa lo que puede hacer el agente.

3. En el campo Esquema , seleccione el catálogo y el esquema de Unity Catalog para guardar los conjuntos de datos de evaluación.

4. En el panel Origen de conocimiento, agregue el origen de conocimiento. Puede elegir proporcionar archivos de catálogo de Unity o un índice de búsqueda vectorial.

   Archivos UC

   Para los archivos UC, se admiten los siguientes tipos de archivo: txt, pdf, md, ppt/pptx y doc/docx. Databricks recomienda usar archivos menores de 32 MB.

   

   1. En Tipo, seleccione Archivos UC.
   2. En el campo Origen , seleccione el volumen del catálogo de Unity o el directorio de volúmenes que contiene los archivos.
   3. En el campo Nombre , escriba un nombre para el origen de conocimiento.
   4. En Describir el contenido, describa qué contenido contiene el origen de conocimiento para ayudar al agente a comprender cuándo usar este origen de datos.

   Índice de búsqueda vectorial

   

   1. En Tipo, seleccione Índice de búsqueda vectorial.
   2. En el campo Origen , seleccione el índice de búsqueda vectorial que desea proporcionar al agente.
   3. En la columna URI de documento, seleccione la columna con un vínculo o una referencia a la ubicación de la información procedente. El agente lo usará en sus citas.
   4. En el campo Columna de texto, especifique la columna que contiene el texto sin formato que desea que recupere el agente.
   5. En el campo Nombre , escriba un nombre para el origen de conocimiento.
   6. En Describir el contenido, describa qué contenido contiene el origen de conocimiento para ayudar al agente a comprender cuándo usar este origen de datos.

5. (Opcional) Si desea agregar más orígenes de conocimiento, haga clic en Agregar origen de conocimiento. Puede proporcionar hasta 10 orígenes de conocimiento.

6. (Opcional) En el campo Instrucciones , especifique las directrices para cómo debe responder el agente.

   

7. Haga clic en Crear agente.

Puede tardar hasta unas horas en crear el agente y sincronizar los orígenes de conocimiento proporcionados. El panel lateral derecho se actualizará con vínculos al agente implementado, el experimento y los orígenes de conocimiento sincronizados.

Paso 2: Probar el agente

Una vez que el agente termine de crearse, puede probarlo haciendo pruebas en AI Playground. El agente debe responder con citas para preguntas relacionadas con sus orígenes de conocimiento.

1. En Agente implementado en el panel derecho, haga clic en Probar en Playground. Tras esto, se abrirá AI Playground con el punto de conexión del agente conectado. Aquí puede chatear con el agente y revisar sus respuestas.

   

2. Si tiene habilitadas las características de asistencia de IA, puede habilitar la generación de preguntas sintéticas y juez de IA para ayudarle a evaluar el agente.

3. Escriba una pregunta para el agente.

4. Evalúe su respuesta:

   

   1. Haga clic en Ver pensamientos para ver cómo su agente ha abordado responder a la pregunta.
   2. Haga clic en el cuadro debajo de Orígenes para ver qué archivos está invocando el agente. Esto abre el archivo en un panel lateral para que lo revise.
   3. El juez de inteligencia artificial puede ayudar a evaluar rápidamente la respuesta para determinar la base, la seguridad y la relevancia.
   4. Revise Preguntas sugeridas para preguntas adicionales que le hagan al agente.

Si está satisfecho con el rendimiento del agente, siga usando el agente as-is.

Paso 3: Mejorar la calidad

Agent Bricks: Knowledge Assistant puede ajustar el comportamiento del agente en función de los comentarios del lenguaje natural. Recoge comentarios de humanos a través de una sesión de etiquetado para mejorar la calidad de tu agente. Si se recopilan datos etiquetados para el agente, esto puede mejorar su calidad. El agente Bricks re-entrenará y optimizará el agente a partir de los nuevos datos.

En la pestaña Mejorar calidad , agregue preguntas e inicie una sesión de etiquetado.

1. Agregue preguntas para incluirlas en la sesión de etiquetado:

   1. Haga clic en + Agregar para agregar una pregunta.
   2. En el modal Agregar una pregunta , escriba su pregunta.
   3. Haga clic en Agregar. La pregunta debe aparecer en la interfaz de usuario.
   4. Repita hasta que haya agregado todas las preguntas que desea evaluar.
   5. Para eliminar una pregunta, haga clic en el menú kebab y, a continuación, en Eliminar.

   Databricks recomienda agregar al menos 20 preguntas para una sesión de etiquetado para asegurarse de que se recopilan suficientes datos etiquetados.

   

2. Una vez que haya terminado de agregar sus preguntas, envíe las preguntas a los expertos para su revisión para ayudarle a crear un conjunto de datos etiquetado de alta calidad. A la derecha, haga clic en Iniciar sesión de etiquetado.

   Cuando la sesión de etiquetado esté lista, la interfaz de usuario se actualizará como se muestra a continuación.

   

3. Comparta la aplicación de revisión con expertos para recopilar comentarios.

   Para obtener más información sobre las sesiones de etiquetado y la aplicación de revisión, consulte Uso de la aplicación de revisión para evaluaciones realizadas por humanos de una aplicación de IA generativa (MLflow 2).

   Nota:

   Para que los expertos accedan a la sesión de etiquetado, debe concederles los permisos siguientes:

   • Permiso CAN QUERY para el punto de conexión
   • Permiso de edición para el experimento
   • USE CATALOG, USE SCHEMA y SELECT permisos para el esquema

4. Para etiquetar los datos usted mismo, haga clic en Abrir sesión de etiquetado.

   Se abrirá la aplicación de revisión en una nueva pestaña. Como revisor:

   1. Haga clic en Iniciar revisión. Para cada pregunta, el revisor verá la pregunta y la respuesta del agente.

   2. En el lado izquierdo, revise la pregunta y la respuesta. Puede hacer clic en Ver pensamientos para ver cómo el agente está pensando en la pregunta.

   3. En el lado derecho, en Expectativas, revise las directrices existentes y agregue más a medida que se ajuste.

      1. Para agregar una guía, haga clic en + Agregar entrada.
      2. Escriba la directriz en el cuadro de texto que aparece.
      3. Haz clic en Guardar.

   4. En Comentarios, escriba sus comentarios y haga clic en Guardar.

   5. Cuando haya terminado de revisar una pregunta, haga clic en Siguiente sin ver > en la parte superior derecha para pasar a la siguiente.

   6. Cuando haya terminado de revisar todas las preguntas, simplemente salga de la aplicación de revisión.

      

5. Cuando los revisores terminen sus sesiones de etiquetado, vuelva a la pestaña Mejorar calidad del agente.

6. Haga clic en Combinar para combinar los comentarios de los expertos en el conjunto de datos etiquetado. La tabla de preguntas del lado derecho se actualizará con los comentarios combinados.

   

7. Revise los registros de comentarios.

8. Vuelva a probar el agente en AI Playground para ver su rendimiento mejorado. Si es necesario, inicie otra sesión de etiquetado para recopilar más datos etiquetados.

Limitaciones

• Databricks recomienda usar archivos menores de 32 MB para los documentos de origen.
• No se admiten las áreas de trabajo que usan Azure Private Link, incluido el almacenamiento detrás de PrivateLink.
• No se admiten tablas de Catálogo de Unity.