Flujo de avisos en Inteligencia artificial de Azure Studio
Importante
Algunas de las características descritas en este artículo solo pueden estar disponibles en versión preliminar. Esta versión preliminar se ofrece sin acuerdo de nivel de servicio y no se recomienda para las cargas de trabajo de producción. Es posible que algunas características no sean compatibles o que tengan sus funcionalidades limitadas. Para más información, consulte Términos de uso complementarios de las Versiones Preliminares de Microsoft Azure.
El flujo de avisos es una herramienta de desarrollo diseñada para simplificar todo el ciclo de desarrollo de aplicaciones de inteligencia artificial con tecnología de modelos de lenguaje grandes (LLM). El flujo de avisos proporciona una solución completa que simplifica el proceso de creación de prototipos, experimentación, iteración e implementación de las aplicaciones de inteligencia artificial.
El flujo de avisos está disponible de forma independiente como proyecto de código abierto en GitHub, con su propio SDK y extensión VS Code. El flujo de avisos también está disponible y se recomienda usar como característica en Inteligencia artificial de Azure Studio y Azure Machine Learning Studio. Este conjunto de documentación se centra en el flujo de avisos en Inteligencia artificial de Azure Studio.
Definiciones:
- El flujo de avisos es una característica que se puede usar para generar, personalizar o ejecutar un flujo.
- Un flujo es un conjunto de instrucciones ejecutable que puede implementar la lógica de IA. Los flujos se pueden crear o ejecutar a través de varias herramientas, como un lienzo precompilado, LangChain, etcétera. Las iteraciones de un flujo se pueden guardar como recursos; una vez implementado un flujo, se convierte en una API. No todos los flujos son flujos de avisos, sino que el flujo de avisos es una forma de crear un flujo.
- Un aviso es un paquete de entrada enviado a un modelo, que consta de la entrada del usuario, el mensaje del sistema y cualquier ejemplo. La entrada del usuario es el texto enviado en la ventana de chat. El mensaje del sistema es un conjunto de instrucciones para determinar el ámbito de sus comportamientos y funcionalidades.
- Un flujo de ejemplo es un flujo de orquestación simple y precompilado que muestra cómo funcionan los flujos y se puede personalizar.
- Un mensaje de ejemplo es una solicitud definida para un escenario específico que se puede copiar de una biblioteca y usar tal como está o modificarse en el diseño del aviso.
Ventajas del flujo de avisos
Con el flujo de avisos en Inteligencia artificial de Azure Studio, puede hacer lo siguiente:
- Orquestar flujos ejecutables con LLM, avisos y herramientas de Python mediante un grafo visualizado.
- Colabore en equipo para depurar, compartir e iterar los flujos con facilidad.
- Cree variantes de aviso y compare su rendimiento.
Agilidad de ingeniería de solicitudes
- Experiencia de creación interactiva: el flujo de avisos proporciona una representación visual de la estructura del flujo, lo que le permite comprender y navegar fácilmente por proyectos.
- Variantes para la optimización rápida: puede crear y comparar varias variantes de solicitud, lo que facilita un proceso de refinamiento iterativo.
- Evaluación: los flujos de evaluación integrados permiten evaluar la calidad y la eficacia de sus avisos y flujos.
- Recursos completos: El flujo de avisos incluye una biblioteca de herramientas, ejemplos y plantillas integradas que sirven como punto de partida para el desarrollo, la creatividad inspiradora y la aceleración del proceso.
Adecuado para empresas
- Colaboración: el flujo de avisos admite la colaboración en equipo, lo que permite a varios usuarios trabajar juntos en proyectos de ingeniería rápida, compartir conocimientos y mantener el control de versiones.
- Plataforma todo en uno: el flujo de avisos simplifica todo el proceso de ingeniería de avisos, desde el desarrollo y la evaluación hasta la implementación y la supervisión. Puede implementar sin esfuerzo sus flujos como puntos de conexión de Azure AI y supervisar su rendimiento en tiempo real, lo que garantiza una operación óptima y una mejora continua.
- Soluciones de preparación empresarial: el flujo de avisos aplica soluciones sólidas de preparación empresarial de Azure AI, lo que proporciona una base segura, escalable y confiable para el desarrollo, la experimentación y la implementación de flujos.
Con el flujo de solicitud en inteligencia artificial de Azure Studio, puede liberar agilidad de ingeniería rápida, colaborar de forma eficaz y aplicar soluciones de nivel empresarial para el desarrollo y la implementación de aplicaciones basadas en LLM correctas.
Ciclo de vida de desarrollo de flujo
El flujo de avisos ofrece un proceso bien definido que facilita el desarrollo sin problemas de las aplicaciones de IA. Al utilizarlo, puede progresar eficazmente a través de las etapas de desarrollo, prueba, ajuste e implementación de flujos, lo que finalmente resulta en la creación de aplicaciones de IA completas.
El ciclo de vida consta de las siguientes fases:
- Inicialización: identifique el caso de uso empresarial, recopile datos de muestra, aprenda a crear una solicitud básica y desarrolle un flujo que amplíe sus funcionalidades.
- Experimentación: ejecute el flujo con datos de muestra, evalúe el rendimiento de la solicitudes y itere en el flujo si es necesario. Experimente continuamente hasta que esté satisfecho con los resultados.
- Evaluación y perfeccionamiento: Evalúe el rendimiento del flujo comparándolo con un conjunto de datos más amplio, evalúe la eficacia del aviso y refínelo si es necesario. Continúe con la siguiente fase si los resultados cumplen los criterios deseados.
- Producción: optimice el flujo de eficacia y efectividad, impleméntelo, supervise el rendimiento en un entorno de producción y recopile datos de uso y comentarios. Use esta información para mejorar el flujo y contribuir a las fases anteriores para iteraciones adicionales.
Siguiendo este enfoque estructurado y metódico, el flujo de avisos le permite desarrollar, probar rigurosamente, ajustar e implementar flujos con confianza, lo que da lugar a la creación de aplicaciones de IA sólidas y sofisticadas.
Tipos de flujo
En Inteligencia artificial de Azure Studio, puede iniciar un nuevo flujo seleccionando un tipo de flujo o una plantilla de la galería.
Estos son algunos ejemplos de tipos de flujo:
- Flujo estándar: diseñado para el desarrollo general de aplicaciones, el flujo estándar permite a los usuarios crear un flujo mediante una amplia gama de herramientas integradas para desarrollar aplicaciones basadas en LLM. Proporciona flexibilidad y versatilidad para desarrollar aplicaciones en diferentes dominios.
- Flujo de chat: adaptado para el desarrollo de aplicaciones conversacionales, el flujo Chat se basa en las capacidades del flujo estándar y proporciona un soporte mejorado para las entradas/salidas de chat y la administración del historial de chat. Con el modo de conversación nativo y las características integradas, puede desarrollar y depurar sin problemas sus aplicaciones dentro de un contexto conversacional.
- Flujo de evaluación: diseñado para escenarios de evaluación, el flujo de evaluación le permite crear un flujo que toma las salidas de ejecuciones de flujo anteriores como entradas. Este tipo de flujo permite evaluar el rendimiento de los resultados de ejecución anteriores y generar métricas pertinentes, lo que facilita la evaluación y mejora de sus modelos o aplicaciones.
Flujos
Un flujo en el flujo de solicitudes sirve como un flujo de trabajo ejecutable que agiliza el desarrollo de su aplicación de IA basada en LLM. Proporciona un marco integral para administrar el flujo de datos y el procesamiento dentro de su aplicación.
Dentro de un flujo, los nodos toman protagonismo, representando herramientas específicas con capacidades únicas. Estos nodos administran el procesamiento de datos, la ejecución de tareas y las operaciones algorítmicas, con entradas y salidas. Al conectar los nodos, se establece una cadena de operaciones sin fisuras que guía el flujo de datos a través de la aplicación.
Para facilitar la configuración y el ajuste de nodos, se proporciona una representación visual de la estructura de flujo de trabajo a través de un gráfico DAG (gráfico acíclico dirigido). Este gráfico muestra la conectividad y las dependencias entre los nodos, proporcionando una visión clara de todo el flujo de trabajo.
Con la característica de flujo en flujo de solicitudes, usted tiene el poder de diseñar, personalizar y optimizar la lógica de su aplicación AI. La disposición cohesiva de los nodos garantiza un procesamiento eficiente de los datos y una administración eficaz del flujo, lo que le permite crear aplicaciones sólidas y avanzadas.
Herramientas de flujo de avisos
Las herramientas son los bloques de creación fundamentales de un flujo.
En Inteligencia artificial de Azure Studio, las opciones de herramientas incluyen la herramienta LLM, la herramienta de avisos, la herramienta de Python y más.
Cada herramienta es una unidad ejecutable simple con una función específica. Mediante la combinación de diferentes herramientas, puede crear un flujo que logre una amplia gama de objetivos. Por ejemplo, puede utilizar la herramienta LLM para generar texto o resumir un artículo y la herramienta Python para procesar el texto e informar al siguiente componente de flujo o resultado.
Una de las principales ventajas de las herramientas de flujo de solicitudes es su integración perfecta con las API de terceros y los paquetes de código abierto de Python. Esto no solo mejora la funcionalidad de los modelos de lenguaje grandes, sino que también hace que el proceso de desarrollo sea más eficaz para los desarrolladores.
Si las herramientas de flujo de avisos de Inteligencia artificial de Azure Studio no cumplen sus requisitos, puede seguir esta guía para desarrollar su propia herramienta personalizada y convertirlo en un paquete de herramientas. Para descubrir más herramientas personalizadas desarrolladas por la comunidad de código abierto, visite esta página.