Compartir a través de


Supervisión de las aplicaciones de IA generativas (versión preliminar)

Importante

Los elementos marcados (versión preliminar) en este artículo se encuentran actualmente en versión preliminar pública. Esta versión preliminar se ofrece sin acuerdo de nivel de servicio y no se recomienda para las cargas de trabajo de producción. Es posible que algunas características no sean compatibles o que tengan sus funcionalidades limitadas. Para más información, consulte Términos de uso complementarios para las versiones preliminares de Microsoft Azure.

La supervisión de las aplicaciones de IA generativas nunca ha sido más importante, debido a la complejidad y rápida evolución del sector de la inteligencia artificial. La observabilidad de Azure AI Foundry, integrada con Application Insights de Azure Monitor, le permite supervisar continuamente las aplicaciones de inteligencia artificial implementadas para asegurarse de que son eficaces, seguras y producen resultados de alta calidad en producción. Además de las funcionalidades de supervisión continua, también proporcionamos funcionalidades de evaluación continua para que los agentes agreguen más mejoras en el panel observabilidad de Foundry con visibilidad sobre métricas de seguridad y calidad críticas adicionales.

Nota:

Debe usar un proyecto de Fundición para esta característica. No se admite un proyecto basado en concentrador. Para obtener más información, vea Tipos de proyectos.

Habilitación de la supervisión

Para usar las funcionalidades de supervisión en Azure AI Foundry, debe conectar un recurso de Application Insights al proyecto de Azure AI Foundry.

  1. Vaya a Supervisión en el panel de navegación izquierdo del portal de Azure AI Foundry.
  2. Seleccione la pestaña Análisis de aplicaciones.
  3. Cree un nuevo recurso de Application Insights si aún no tiene uno.
  4. Conecte el recurso al proyecto de AI Foundry.

Recopilación de datos de producción para la supervisión

Desde aquí, quieres empezar a recopilar telemetría para tu aplicación que puedes supervisar en nuestras vistas integradas. Para ello, se recomienda:

  • La instrumentación de seguimientos permite capturar datos de telemetría detallados de la aplicación. Estos datos proporcionan información sobre el rendimiento, la latencia y el comportamiento de la aplicación en producción.

  • Las evaluaciones continuas ayudan a supervisar la calidad y la seguridad del agente en producción mediante la evaluación de sus salidas con respecto a las métricas y umbrales predefinidos.

Visualización de los resultados de la supervisión

En el portal Azure AI Foundry, la vista del panel de análisis de aplicaciones utiliza señales de Azure Monitor Application Insights, consultándolo a través de Azure Workbooks y creando visualizaciones.

Estas vistas están diseñadas para aportar métricas clave: consumo de tokens, latencia, excepciones, calidad de respuesta en un único panel de cristal que proporciona transparencia a los equipos para realizar un seguimiento del estado operativo y la calidad, comprender las tendencias y evaluar continuamente para mejorar su aplicación.

Siga estos pasos para acceder y usar la vista de supervisión integrada en el proyecto ai Foundry:

  1. Dirígete a tu proyecto de AI Foundry en el portal de Azure AI Foundry.
  2. Seleccione Supervisión en el panel de navegación izquierdo.
  3. En la pestaña Análisis de aplicaciones, revise la información general del estado de la aplicación.
  4. Use filtros para especificar un intervalo de tiempo, una aplicación o un modelo para extraer información detallada.
  5. Si observa problemas, como la disminución de métricas de calidad, vaya a Seguimiento para depurar problemas en la aplicación.
  6. Para personalizar aún más la experiencia de supervisión y usar funcionalidades avanzadas en Azure Monitor, desplácese hasta la parte inferior y seleccione Ver en Application Insights de Azure Monitor.

Nota:

Al compartir este libro con los miembros del equipo, deben tener al menos el rol "Lector" en el recurso de Application Insights conectado para ver la información mostrada.

Personalización y uso compartido del panel

Application Insights es una herramienta eficaz para la supervisión del rendimiento de las aplicaciones (APM) que proporciona información sobre el estado y el rendimiento de las aplicaciones.

Para abrir el panel de analítica de aplicaciones en la galería de libros de trabajo de Application Insights de Azure Monitor, puedes hacer clic en el enlace Ver en Application Insights de Azure Monitor al final de la página.

Este panel se abre como un libro de trabajo editable donde usted puede personalizar el libro de trabajo y guardarlo según sus necesidades.

  1. Selecciona Editar en la barra de comandos. Captura de pantalla de la pestaña libros en supervisión en la que se resalta el botón editar en Azure Portal.

  2. Modifique los elementos según sea necesario según el caso de uso. Seleccione ... en un elemento para editar, agregar, mover o cambiar el tamaño, clonar o quitar. Por ejemplo, puede agregar un icono mediante KQL para realizar un seguimiento de un atributo personalizado que está recopilando y no se muestra en nuestra vista integrada. Captura de pantalla de la pestaña libros en supervisión resaltando los botones modificar elementos en Azure Portal.

  3. Guarde los cambios más recientes y cree vistas diferentes según sea necesario seleccionando Guardar. Captura de pantalla de la pestaña de libros en supervisión, destacando el botón Guardar y la pestaña en el portal de Azure.

  4. Para compartir con el equipo, seleccione el icono "Compartir" en la barra de comandos. Captura de pantalla de la pestaña libros en supervisión resaltando el botón compartir libro y la pestaña en Azure Portal.

Exploración y análisis con el lenguaje de consulta kusto (KQL)

KQL (lenguaje de consulta kusto) es un lenguaje de consulta eficaz que se usa en Azure para explorar, analizar y visualizar grandes volúmenes de datos de registro y telemetría.

En la vista del panel de análisis de aplicaciones, puede abrir el vínculo de consulta seleccionando en el icono de la parte superior derecha de un azulejo o gráfico determinado.

Captura de pantalla de la vista del panel de análisis de aplicaciones en la que se resalta el botón abrir vínculo de consulta en Azure Portal.

Una vez que lo seleccione, puede ver y ejecutar las mismas consultas KQL que alimentan la vista de supervisión y analizar en detalle los datos relacionados.

Captura de pantalla de los registros que resaltan el modo KQL y los resultados en Azure Portal.

Configuración de alertas de Azure

Puede definir reglas de alertas de Azure basadas en las consultas KQL anteriores para detectar de forma proactiva problemas con las operaciones posteriores a la producción en el futuro. Seleccione ... para ver más opciones, como Nueva regla de alertas.

Captura de pantalla de los registros resaltando el botón nueva regla de alertas en Azure Portal.

Al seleccionar en el botón Nueva regla de alerta , se abre un asistente para crear una regla de alerta en la señal relacionada.

Captura de pantalla del asistente para crear una regla de alertas en Azure Portal.

Para más información sobre cómo configurar y administrar alertas de Azure para solucionar problemas de forma proactiva, consulte Alertas en Azure Monitor.