Nota:
El acceso a esta página requiere autorización. Puede intentar iniciar sesión o cambiar directorios.
El acceso a esta página requiere autorización. Puede intentar cambiar los directorios.
En este artículo se explica el principal recorrido del usuario al utilizar el flujo de avisos en Estudio de Azure Machine Learning. Aprenderá a habilitar el flujo de avisos en el área de trabajo de Azure Machine Learning, a crear y desarrollar un flujo de avisos, probar y evaluar el flujo y, a continuación, implementarlo en producción.
Prerequisites
- Un área de trabajo de Azure Machine Learning. El almacenamiento predeterminado para el área de trabajo debe ser de tipo de blob.
- Una cuenta de Azure OpenAI o una conexión de Azure OpenAI existente con una implementación. Para más información, consulte Creación de un recurso e implementación de un modelo mediante Azure OpenAI.
Note
Si desea proteger el flujo de solicitud con una red virtual, siga también las instrucciones que se indican en Flujo de mensajes seguro con la red virtual administrada por el área de trabajo.
Configuración de una conexión
Una conexión ayuda a almacenar y administrar de forma segura las claves secretas u otras credenciales confidenciales necesarias para interactuar con modelos de lenguaje grande (LLM) y otras herramientas externas, como Azure Content Safety. Los recursos de conexión se comparten con todos los miembros del área de trabajo.
Note
La herramienta LLM en el flujo de mensajes no admite modelos de razonamiento (como OpenAI o1 o o3). Para la integración del modelo de razonamiento, use la herramienta Python para llamar directamente a las API del modelo. Para obtener más información, consulte Llamada a un modelo de razonamiento desde la herramienta Python.
Para comprobar si ya tiene una conexión de Azure OpenAI, seleccione Flujo de solicitud en el menú izquierdo de Azure Machine Learning Studio y, a continuación, seleccione la pestaña Conexiones en la pantalla Flujo de solicitud.
Si ya ve una conexión cuyo proveedor es AzureOpenAI, puede omitir el resto de este proceso de configuración. Tenga en cuenta que esta conexión debe tener una implementación para poder ejecutar los nodos LLM en el flujo de ejemplo. Para obtener más información, consulte Implementación de un modelo.
Si no tiene una conexión de Azure OpenAI, seleccione Crear y, a continuación, seleccione AzureOpenAI en el menú desplegable.
En el panel Agregar conexión de Azure OpenAI , proporcione un nombre para la conexión, seleccione el identificador de suscripción y el nombre de la cuenta de Azure OpenAI y proporcione información sobre el modo de autenticación y la API.
El flujo de prompts admite la autenticación con clave de API o ID de Microsoft Entra para recursos de Azure OpenAI. En este tutorial, seleccione Clave de API en Modo de autenticación.
Para obtener la información de la API, vaya al área de juegos de chat en el portal de Azure OpenAI y seleccione el nombre del recurso de Azure OpenAI. Copie la clave y péguela en el campo Clave de API en el formulario Agregar conexión de Azure OpenAI y copie el punto de conexión y péguelo en el campo base de API en el formulario.
Para obtener información sobre la autenticación de Id. de Entra de Microsoft, consulte Configuración de Azure OpenAI en Microsoft Foundry Models con autenticación de Id. de Microsoft Entra.
Después de rellenar todos los campos, seleccione Guardar para crear la conexión.
La conexión debe estar asociada a una implementación para poder ejecutar los nodos LLM en el flujo de ejemplo. Para crear la implementación, consulte Implementación de un modelo.
Creación y desarrollo del flujo de avisos
En la pestaña Flujos de la página principal Prompt flow, seleccione Crear para crear el Prompt flow. En la página Crear un nuevo flujo se muestran los tipos de flujo que puede crear, las muestras predefinidas que puede clonar para crear un flujo, y las formas de importar un flujo.
Clonar desde una muestra
En la galería Explorar, puede examinar los ejemplos integrados y seleccionar Ver detalles en cualquier icono para obtener una vista previa de si es adecuado para su escenario.
En este tutorial se usa el ejemplo de clasificación web para recorrer el recorrido del usuario principal. La Clasificación Web es un proceso que demuestra la clasificación multiclase con un LLM. Dada una dirección URL, el flujo clasifica la dirección URL en una categoría web con solo unas pocas capturas, resúmenes sencillos y avisos de clasificación. Por ejemplo, dada una dirección URL https://www.imdb.com, clasifica la dirección URL en Movie.
Para clonar el ejemplo, seleccione Clonar en el icono Clasificación web .
El panel Flujo de clonación muestra la ubicación para almacenar sus flujos dentro del almacenamiento compartido de archivos de su espacio de trabajo. Puede personalizar la carpeta si lo desea. A continuación, seleccione Clonar.
El flujo clonado se abre en la interfaz de usuario de creación. Puede seleccionar el icono Editar lápiz para editar los detalles del flujo, como el nombre, la descripción y las etiquetas.
Inicio de la sesión de cómputo
Se necesita una sesión de computación para la ejecución del flujo. La sesión de proceso administra los recursos informáticos necesarios para que se ejecute la aplicación, incluida una imagen de Docker que contiene todos los paquetes de dependencia necesarios.
En la página de creación del flujo, inicie una sesión de proceso seleccionando Iniciar sesión de proceso.
Inspección de la página de creación de flujos
La sesión de cómputo puede tardar unos minutos en iniciarse. Mientras se inicia la sesión de proceso, vea las partes de la página de creación del flujo.
La vista Flow o flatten en el lado izquierdo de la página es el área de trabajo principal, donde puede crear el flujo agregando o quitando nodos, editando y ejecutando nodos en línea o editando indicaciones. En las secciones Entradas y Salidas, puede ver, agregar o quitar y editar entradas y salidas.
Al clonar el ejemplo de clasificación web actual, las entradas y salidas ya estaban establecidas. El esquema de entrada del flujo es
name: url; type: string, una dirección URL de tipo de cadena. Puede cambiar el valor de entrada preestablecido a otro valor, comohttps://www.imdb.commanualmente.Los archivos de la parte superior derecha muestran la carpeta y la estructura de archivos del flujo. Cada carpeta de flujo contiene un archivo flow.dag.yaml , archivos de código fuente y carpetas del sistema. Puede crear, cargar o descargar archivos para probar, implementar o colaborar.
La vista Gráfico en la parte inferior derecha es para visualizar el aspecto del flujo. Puede acercar o alejar o usar el diseño automático.
Puede editar archivos en línea en la vista Flow o aplanada, o bien puede activar el modo sin procesar y seleccionar un archivo de Archivos para abrirlo en una pestaña para editarlo.
Para este ejemplo, la entrada es una dirección URL para clasificar. El flujo usa un script de Python para capturar contenido de texto de la dirección URL, usa LLM para resumir el contenido de texto en 100 palabras y clasifica en función de la dirección URL y el contenido de texto resumido. A continuación, un script de Python convierte la salida de LLM en un diccionario. El nodo prepare_examples proporciona algunas capturas de ejemplo a la solicitud del nodo de clasificación.
Configuración de nodos LLM
Para cada nodo LLM, debe seleccionar una conexión para establecer las claves de API de LLM. Seleccione la conexión de Azure OpenAI.
Según el tipo de conexión, debe seleccionar un deployment_name o un modelo en la lista desplegable. Para una conexión de Azure OpenAI, seleccione una implementación. Si no tiene una implementación, cree una en el portal de Azure OpenAI siguiendo las instrucciones de Implementación de un modelo.
Note
Si usa una conexión openAI en lugar de una conexión de Azure OpenAI, debe seleccionar un modelo en lugar de una implementación en el campo Conexión .
En este ejemplo, asegúrese de que el tipo de API es chat, ya que el ejemplo de mensaje proporcionado es para la API de chat. Para obtener más información sobre la diferencia entre las API de chat y finalización, consulte Desarrollo de un flujo.
Configura conexiones para ambos nodos LLM en el flujo, summarize_text_content y classify_with_llm.
Ejecución de un solo nodo
Para probar y depurar un solo nodo, seleccione el icono Ejecutar situado en la parte superior de un nodo de la vista Flujo . Puede expandir Entradas y cambiar la dirección URL de entrada del flujo para probar el comportamiento del nodo para diferentes direcciones URL.
El estado de ejecución aparece en la parte superior del nodo. Una vez completada la ejecución, la salida de ejecución aparece en la sección Salida del nodo.
La vista Gráfico también muestra el estado del nodo de ejecución único.
Ejecute fetch_text_content_from_url y, a continuación, ejecute summarize_text_content para comprobar si el flujo puede capturar contenido correctamente de la web y resumir el contenido web.
Ejecución de todo el flujo
Para probar y depurar todo el flujo, seleccione Ejecutar en la parte superior de la pantalla. Puede cambiar la dirección URL de entrada del flujo para probar cómo se comporta el flujo para diferentes direcciones URL.
Compruebe el estado de ejecución y la salida de cada nodo.
Visualización de salidas de flujo
También puede establecer salidas de flujo para comprobar las salidas de varios nodos en un solo lugar. Las salidas de flujo le ayudan a:
- Compruebe los resultados de pruebas masivas en una sola tabla.
- Defina la asignación de la interfaz de evaluación.
- Establezca el esquema de respuesta de implementación.
En el ejemplo clonado, las salidas de flujo de categoría y pruebas ya están establecidas.
Seleccione Ver salidas en el banner superior o en la barra de menús superior para ver información detallada de entrada, salida, ejecución de flujo e información de orquestación.
En la pestaña Salidas de la pantalla Salidas , tenga en cuenta que el flujo predice la dirección URL de entrada con una categoría y evidencia.
Seleccione la pestaña Seguimiento en la pantalla Salidas y, a continuación, seleccione Flujo en nombre de nodo para ver información detallada sobre el flujo en el panel derecho. Expanda el flujo y seleccione cualquier paso para ver información detallada de ese paso.
Prueba y evaluación
Después de que el flujo se ejecute correctamente con una sola fila de datos, pruebe si funciona bien con un gran conjunto de datos. Puede ejecutar una prueba masiva y, opcionalmente, agregar un flujo de evaluación y, a continuación, comprobar los resultados.
Primero debe preparar los datos de prueba. Azure Machine Learning admite formatos de archivo CSV, TSV y JSONL para los datos.
- Vaya a GitHub y descargue data.csv, el conjunto de datos dorado del ejemplo de clasificación web.
Use el asistente de ejecución y evaluación de Batch para configurar y enviar una ejecución por lotes y, opcionalmente, un método de evaluación. Los métodos de evaluación también son flujos, que usan Python o LLM para calcular métricas como la precisión y la puntuación de relevancia.
Seleccione Evaluar en el menú superior de la página de creación del flujo.
En la pantalla Configuración básica, cambie el Nombre para mostrar de la ejecución si lo desea, agregue una Descripción de la ejecución opcional y Etiquetas y, a continuación, seleccione Siguiente.
En la pantalla Configuración de ejecución de Batch , seleccione Agregar nuevos datos. En la pantalla Agregar datos , proporcione un nombre para el conjunto de datos, seleccione Examinar para cargar el archivo dedata.csv que descargó y, a continuación, seleccione Agregar.
Después de cargar los datos, o si el área de trabajo tiene otro conjunto de datos que desea usar, busque y elija el conjunto de datos en la lista desplegable para obtener una vista previa de las cinco primeras filas.
La función de Asignación de entrada admite la asignación de la entrada de su flujo a cualquier columna de datos del conjunto de datos, incluso si los nombres de columna no coinciden.
Seleccione Siguiente para seleccionar opcionalmente uno o varios métodos de evaluación. En la página Seleccionar evaluación se muestran los flujos de evaluación integrados y personalizados. Para ver cómo se definen las métricas para los métodos de evaluación integrados, puede seleccionar Más detalles en el icono del método.
La clasificación web es un escenario de clasificación, por lo que seleccione Evaluación de precisión de clasificación que se usará para la evaluación y, a continuación, seleccione Siguiente.
En la pantalla Configurar evaluación, configure Asignación de entrada de evaluación para asignar groundtruth a la entrada de flujo ${data.category} y asignar predicción a la salida de flujo ${run.outputs.category}.
Seleccione Revisar y enviar y, a continuación, seleccione Enviar para enviar una ejecución por lotes y el método de evaluación seleccionado.
Comprobar los resultados
Cuando la ejecución se envíe correctamente, seleccione Ver lista de ejecución para ver el estado de ejecución en el flujo del símbolo del sistema página Ejecuciones. Es posible que la ejecución por lotes tarde un tiempo en finalizar. Puede seleccionar Actualizar para cargar el estado más reciente.
Una vez completada la ejecución por lotes, seleccione la comprobación situada junto a la ejecución y, a continuación, seleccione Visualizar salidas para ver el resultado de la ejecución por lotes .
En la pantalla Visualizar salidas, habilite el icono de ojo junto a la ejecución secundaria para anexar los resultados de evaluación a la tabla de resultados de ejecución por lotes. Puede ver el recuento total de tokens y la precisión general. En la tabla Salida se muestran los resultados de cada fila de datos: entrada, salida de flujo, métricas del sistema y resultado de evaluación correctos o incorrectos.
En la tabla Salida , puede hacer lo siguiente:
- Ajuste el ancho de columna, oculte o desenlaze columnas o cambie el orden de las columnas.
- Seleccione Exportar para descargar la página actual como un archivo CSV o Descargar script de exportación de datos como un archivo de jupyter Notebook que puede ejecutar para descargar salidas localmente.
- Seleccione el icono Ver detalles situado junto a cualquier fila para abrir la vista Seguimiento que muestra los detalles completos de esa fila.
La precisión no es la única métrica que puede evaluar una tarea de clasificación. Por ejemplo, también puede usar la recuperación para evaluar. Para ejecutar otras evaluaciones, seleccione Evaluar junto a Visualizar salidas en la página Ejecuciones y seleccione otros métodos de evaluación.
Implementación como punto de conexión
Después de compilar y probar un flujo, puede implementarlo como un punto de conexión para poder invocar el punto de conexión para la inferencia en tiempo real.
Configuración del punto de conexión
En la página Ejecuciones por lotes, seleccione el vínculo nombre de ejecución y, en la página de detalles de ejecución, seleccione Implementar en la barra de menús superior para abrir el Asistente para la implementación.
En la página Configuración básica , especifique un nombre de punto de conexión y un nombre de implementación y seleccione un tipo de máquina virtual y recuento de instancias.
Puede seleccionar Siguiente para configurar opciones avanzadas de punto de conexión, implementación y salidas y conexiones . En este ejemplo, use la configuración predeterminada.
Seleccione Revisar y crear y, a continuación, seleccione Crear para iniciar la implementación.
Prueba del punto de conexión
Puede ir a la página de detalles del punto de conexión desde la notificación o seleccionando Puntos de conexión en el panel de navegación izquierdo de Studio y seleccionando el punto de conexión en la pestaña Puntos de conexión en tiempo real . El punto de conexión tarda varios minutos en implementarse. Una vez implementado correctamente el punto de conexión, puede probarlo en la pestaña Prueba .
Coloque la dirección URL que desea probar en el cuadro de entrada y seleccione Probar. Verá el resultado previsto por el punto de conexión.
Limpieza de recursos
Para conservar los recursos de cómputo y los costos, puede detener su sesión de cómputo si ya ha terminado de usarla por ahora. Seleccione la sesión en ejecución y, a continuación, seleccione Detener sesión de proceso.
También puede detener una instancia de proceso seleccionando Proceso en el panel de navegación izquierdo de Studio, seleccionando la instancia de proceso en la lista Instancias de proceso y seleccionando Detener.
Si no tiene previsto usar ninguno de los recursos que creó en este tutorial, puede eliminarlos para que no incurran en cargos. En Azure Portal, busque y seleccione Grupos de recursos. En la lista, seleccione el grupo de recursos que contiene los recursos que creó y, a continuación, seleccione Eliminar grupo de recursos en el menú superior de la página del grupo de recursos.