Tutorial: implementación de una aplicación web de chat empresarial

Importante

Algunas de las características descritas en este artículo solo pueden estar disponibles en versión preliminar. Esta versión preliminar se ofrece sin acuerdo de nivel de servicio y no se recomienda para las cargas de trabajo de producción. Es posible que algunas características no sean compatibles o que tengan sus funcionalidades limitadas. Para más información, consulte Términos de uso complementarios de las Versiones Preliminares de Microsoft Azure.

En este artículo, implementará una aplicación web de chat empresarial que usa sus propios datos con un modelo de lenguaje grande en AI Studio.

El origen de datos se usa para ayudar a crear la base del modelo con datos específicos. Crear la base significa que el modelo usa los datos para ayudarle a comprender el contexto de la pregunta. No va a cambiar el propio modelo implementado. Los datos se almacenan de forma independiente y segura en el origen de datos original

A continuación se muestran los pasos de este tutorial:

1. Implementación y prueba de un modelo de chat sin los datos
2. Adición de los datos
3. Prueba del modelo con los datos
4. Implementación de la aplicación web

Requisitos previos

• Una suscripción a Azure (cree una cuenta gratuita).

• Acceso concedido a Azure OpenAI en la suscripción de Azure que quiera.

  Actualmente, solo la aplicación concede acceso a este servicio. Para solicitar acceso a Azure OpenAI, rellene el formulario en https://aka.ms/oai/access. Si tiene algún problema, abra una incidencia en este repositorio para ponerse en contacto con nosotros.

• Un Centro de AI Studio, un proyecto, y un modelo de chat Azure OpenAI implementado. Complete el inicio rápido de Área de juegos de AI Studio para crear estos recursos si aún no lo ha hecho.

• Una conexión de Búsqueda de Azure AI para indizar los datos del producto y del cliente de ejemplo.

• Necesita cargar al menos un archivo que contenga datos de ejemplo. Para realizar este tutorial, use los ejemplos de información del producto del repositorio Azure-Samples/aistudio-python-quickstart-sample en GitHub. En concreto, product_info_11.md contiene información del producto sobre los zapatos de montaña TrailWalker pertinentes para este ejemplo del tutorial. Puede descargar el archivo o copiar su contenido en un archivo denominado product_info_11.md en el equipo local.

Adición de los datos y reintento del modelo de chat

En el inicio rápido del área de juegos de AI Studio (es un requisito previo para este tutorial), puede observar cómo responde el modelo sin los datos. Ahora agregue los datos al modelo para ayudarle a responder preguntas sobre sus productos.

Para completar esta sección, necesita una copia local de los datos del producto. El repositorio Azure-Samples/aistudio-python-quickstart-sample en GitHub contiene información de productos y clientes minoristas de ejemplo que son relevantes para este escenario del tutorial. Clone el repositorio o copie los archivos de 3-product-info.

Importante

La característica Añada sus datos en el área de juego de Azure AI Studio no admite el uso de una red virtual o un punto de conexión privado en los siguientes recursos:

• Azure AI Search
• Azure OpenAI
• Recurso de almacenamiento

Siga estos pasos para agregar los datos en el área de juegos de chat para ayudar al asistente a responder preguntas sobre sus productos. No va a cambiar el propio modelo implementado. Los datos se almacenan de forma independiente y segura en la suscripción de Azure.

1. Vaya al proyecto en Azure AI Studio.

2. Seleccione el Chat>del área de juegos en el panel izquierdo.

3. Seleccione el modelo de chat implementado en la lista desplegable Implementación.

   

4. En el lado izquierdo del área de juegos del chat, seleccione Agregar los datos>+ Agregar un nuevo origen de datos.

   

5. En la lista desplegable Origen de datos, seleccione Cargar archivos.

   

6. Seleccione Cargar>Carga de archivos para examinar los archivos locales.

7. Seleccione los archivos que quiere cargar. Seleccione los archivos de información del producto (3-product-info) que ha descargado o creado anteriormente. Agregue todos los archivos ahora. No lo podrá hacer más adelante en la misma sesión de área de juegos.

8. Seleccione Cargar para cargar el archivo en la cuenta de Azure Blob Storage. Luego, seleccione Siguiente.

   

9. Seleccione un servicio de Búsqueda de Azure AI. En este ejemplo seleccionamos Conectar otro recurso de Búsqueda de Azure AI en el menú desplegable Seleccionar servicio de Búsqueda AI de Azure. Si no tiene un recurso de búsqueda, puede crear uno seleccionando Crear un nuevo recurso de Búsqueda de Azure AI. A continuación, vuelva a este paso para conectarse y selecciónelo.

   

10. Busque el servicio Búsqueda de Azure AI, y seleccione Agregar conexión.

    

11. En Nombre de índice, escriba product-info y seleccione Siguiente.

12. En la página Configuración de búsqueda en Vector de búsqueda, desactive la casilla Agregar búsqueda vectorial a este recurso de búsqueda. Esta configuración ayuda a determinar cómo responde el modelo a las solicitudes. Luego, seleccione Siguiente.

    Nota:

    Si agrega vector de búsqueda, habrá más opciones disponibles aquí para un costo adicional.

13. Compruebe la configuración y seleccione Crear.

14. En el área de juegos, puede ver que la ingesta de datos está en curso. Esto proceso puede llevar varios minutos. Antes de continuar, espere hasta que vea el origen de datos y el nombre del índice en lugar del estado.

    

15. Escriba un nombre para la configuración del área de juegos y seleccione Guardar>configuración. Todos los elementos de configuración se guardan de manera predeterminada. Los elementos incluyen implementación, mensaje del sistema, mensaje de seguridad. parámetros, datos agregados, ejemplos y variables. Al guardar una configuración con el mismo nombre, se guardará la versión anterior.

    

16. Ahora puede chatear con el modelo y hacerle la misma pregunta que antes ("¿Cuánto valen los zapatos de montaña TrailWalker"?), pero esta vez usará la información de los datos para construir la respuesta. Puede expandir el botón Referencias para ver los datos que se usaron.

Implementación de la aplicación web

Una vez que esté satisfecho con la experiencia en Inteligencia artificial de Azure Studio, puede implementar el modelo como una aplicación web independiente.

Vaya a su grupo de recursos en Azure Portal.

En este tutorial, la aplicación web se implementa en el mismo grupo de recursos que el centro de AI Studio. Más adelante, configurará la autenticación para la aplicación web en Azure Portal.

Siga estos pasos para navegar desde Inteligencia artificial de Azure Studio al grupo de recursos de Azure Portal:

1. Vaya al proyecto en Azure AI Studio. En el panel de la izquierda, seleccione Configuración.

2. Seleccione el nombre del grupo de recursos para abrir el grupo de recursos en Azure Portal. En este ejemplo, el grupo de recursos se llama rg-contoso.

   

3. Ahora debería estar en Azure Portal y ver el contenido del grupo de recursos donde implementó el centro. Mantenga esta página abierta en una pestaña del explorador, ya que volverá a ella más adelante.

Implementación de la aplicación web

La publicación crea una instancia de Azure App Service en la suscripción. Puede suponer costes en función del plan de precios que elijas. Cuando haya terminado con la aplicación, podrá eliminarla de Azure Portal.

Para implementar la aplicación web:

1. Siga los pasos de la sección anterior para agregar los datos al área de juegos.

   Nota:

   Puede implementar una aplicación web con o sin sus propios datos, pero al menos necesita un modelo implementado como se describe en el Inicio rápido del área de juegos de AI Studio.

2. Seleccione Implementar en aplicación web.

   

3. En el panel Implementar en una aplicación web, escriba los detalles siguientes:

   • Nombre: un nombre único para la aplicación web.
   • Suscripción: Su suscripción de Azure.
   • Grupo de recursos: seleccione el grupo de recursos en el que va a implementar la aplicación web. Puede usar el mismo grupo de recursos que el centro.
   • Ubicación: seleccione la ubicación en la que va a implementar la aplicación web. Puede usar la misma ubicación que el centro.
   • Plan de precios: elija un plan de precios para la aplicación web.
   • Habilitar historial de chat en la aplicación web: para los fines del tutorial, el historial de chat no está seleccionado. Si habilita la característica, los usuarios tendrán acceso a sus consultas y respuestas anteriores individuales. Para más información, consulte los comentarios del historial de chat.

4. Seleccione Implementar.

5. Espere a que se implemente la aplicación (esta operación podría tardar unos minutos).

   

6. Cuando esté listo, el botón Iniciar estará habilitado en la barra de herramientas. Sin embargo, no inicie aún la aplicación y no cierre la página del área de juegos de chat, ya que volverá a ella más adelante.

Configuración de la autenticación de la aplicación web

De forma predeterminada, solo usted podrá a acceder a la aplicación. En este tutorial, agregará la autenticación para restringir el acceso a la aplicación a los miembros del inquilino de Azure. Se pedirá a los usuarios que inicien sesión con su cuenta de Microsoft Entra para poder acceder a su aplicación. Podría seguir un proceso similar para agregar otro proveedor de identidades si lo prefiriese. La aplicación no usa la información de inicio de sesión del usuario de ninguna otra manera que no sea para comprobar que sea miembro del inquilino.

1. Vuelva a la pestaña del explorador que contiene Azure Portal (o vuelva a abrir Azure Portal en una nueva pestaña del explorador) y vea el contenido del grupo de recursos en el que implementó el centro y la aplicación web (es posible que tenga que actualizar la vista en la que ve la aplicación web).

2. Seleccione el recurso App Service en la lista de recursos del grupo de recursos.

3. En el menú izquierdo contraíble en Configuración, seleccione Autenticación.

   

4. Agregue un proveedor de identidades con la siguiente configuración:

   • Proveedor de identidades: seleccione Microsoft como proveedor de identidades. La configuración predeterminada de esta página restringe la aplicación al inquilino solamente, por lo que no será necesario cambiar nada más aquí.
   • Tipo de inquilino: Workforce.
   • Registro de aplicaciones: cree un nuevo registro de aplicaciones.
   • Nombre: nombre del servicio de aplicación web.
   • Tipos de cuenta admitidos: inquilino actual, un solo inquilino.
   • Restringir acceso: requiere autenticación.
   • Solicitudes no autenticadas: Redirección HTTP 302 encontrada (se recomienda para sitios web).

Usar la aplicación web

Casi ha terminado. Ahora puede probar la aplicación web.

1. Espere 10 minutos o así para que la configuración de autenticación surta efecto.

2. Vuelva a la pestaña del explorador que contiene la página del área de juegos de chat en Azure AI Studio.

3. Seleccione Iniciar para iniciar la aplicación web implementada. Si se le pide, acepte la solicitud de permisos.

   Si la configuración de autenticación aún no se ha aplicado, cierre la pestaña del explorador de la aplicación web y vuelva a la página del área de juegos de chat de Azure AI Studio. A continuación, espere un poco más e inténtelo de nuevo.

4. En la aplicación web, puede hacer la misma pregunta que antes ("¿Cuánto valen los zapatos de montaña TrailWalker"?), pero esta vez usará la información de los datos para construir la respuesta. Puede expandir el botón Referencias para ver los datos que se usaron.

   

Limpieza de recursos

Para evitar incurrir en costes innecesarios de Azure, debe eliminar los recursos que creó en este inicio rápido si ya no son necesarios. Para administrar recursos, puede usar Azure Portal.

Comentarios

Historial de chat

Con la característica del historial de chat, los usuarios tendrán acceso a sus consultas y respuestas anteriores individuales.

Puede habilitar el historial de chat al implementar la aplicación web. Active la casilla Habilitar historial de chat en la aplicación web.

Importante

Al habilitar el historial de chat, se creará una instancia de Cosmos DB en el grupo de recursos y se incurrirán en cargos adicionales por el almacenamiento usado. La eliminación de la aplicación web no elimina automáticamente la instancia de Cosmos DB. Para eliminar la instancia de Cosmos DB, junto con todos los chats almacenados, debe ir al recurso asociado en el Azure Portal y eliminarlo.

Una vez que haya habilitado el historial de chats, los usuarios podrán mostrarlo y ocultarlo en la esquina superior derecha de la aplicación. Cuando se muestra el historial, pueden cambiar el nombre o eliminar conversaciones. A medida que han iniciado sesión en la aplicación, las conversaciones se ordenarán automáticamente de la más reciente a la más antigua y se denominarán en función de la primera consulta de la conversación.

Si elimina el recurso de Cosmos DB pero mantiene habilitada la opción de historial de chat en Studio, se notificará a los usuarios un error de conexión, pero puede seguir usando la aplicación web sin acceso al historial de chat.

Pasos siguientes

• Creación de un proyecto en Inteligencia artificial de Azure Studio.
• Obtenga más información sobre lo que puede hacer en Inteligencia artificial de Azure Studio.