Variantes en el flujo de avisos
Con el flujo de solicitudes de Azure Machine Learning, puede usar variantes para ajustar las solicitudes. En este artículo, obtendrá información sobre el concepto de variantes del flujo de avisos.
Variantes
Una variante hace referencia a una versión específica de un nodo de herramienta que tiene una configuración distintiva. Actualmente, las variantes solo se admiten en la herramienta de LLM. Por ejemplo, en la herramienta LLM, una nueva variante puede representar un contenido de solicitud diferente o una configuración de conexión diferente.
Supongamos que desea generar un resumen de un artículo de noticias. Puede establecer diferentes variantes de solicitudes y configuraciones como esta:
| Variantes | Prompt | Configuración de conexión |
|---|---|---|
| Variante 0 | Summary: {{input sentences}} |
Temperatura = 1 |
| Variante 1 | Summary: {{input sentences}} |
Temperatura = 0,7 |
| Variante 2 | What is the main point of this article? {{input sentences}} |
Temperatura = 1 |
| Variante 3 | What is the main point of this article? {{input sentences}} |
Temperatura = 0,7 |
Mediante el uso de diferentes variantes de solicitudes y configuraciones, puede explorar cómo responde el modelo a varias entradas y salidas, lo que le permite descubrir la combinación más adecuada para sus requisitos.
Ventajas del uso de variantes
- Mejorar la calidad de la generación de LLM: al crear varias variantes del mismo nodo LLM con diversas solicitudes y configuraciones, puede identificar la combinación óptima que genera contenido de alta calidad alineado con sus necesidades.
- Ahorrar tiempo y esfuerzo: incluso pequeñas modificaciones en una solicitud pueden producir resultados significativamente diferentes. Es fundamental realizar un seguimiento y comparar el rendimiento de cada versión de las solicitudes. Con variantes, puede administrar fácilmente las versiones históricas de los nodos LLM, lo que facilita las actualizaciones en función de cualquier variante sin el riesgo de olvidar las iteraciones anteriores. Esto le ahorra tiempo y esfuerzo en la administración del historial de optimización de solicitudes.
- Aumentar la productividad: las variantes simplifican el proceso de optimización para los nodos LLM, lo que facilita la creación y administración de varias variaciones. Puede lograr resultados mejorados en menos tiempo, lo que aumenta la productividad general.
- Facilitar una comparación sencilla: puede comparar sin esfuerzo los resultados obtenidos de diferentes variantes en paralelo, lo que le permite tomar decisiones controladas por datos con respecto a la variante que genera los mejores resultados.