Варианты в потоке запросов
С помощью потока запроса Машинное обучение Azure можно использовать варианты для настройки запроса. В этой статье вы узнаете, как использовать варианты потока запросов.
Варианты
Вариант ссылается на определенную версию узла средства с различными параметрами. В настоящее время варианты поддерживаются только в средстве LLM. Например, в средстве LLM новый вариант может представлять другое содержимое запроса или разные параметры подключения.
Предположим, вы хотите создать сводку новостной статьи. Вы можете задать различные варианты запросов и параметров, как показано ниже.
| Варианты | Prompt | Параметры подключения |
|---|---|---|
| Вариант 0 | Summary: {{input sentences}} |
Температура = 1 |
| Variant 1 | Summary: {{input sentences}} |
Температура = 0,7 |
| Вариант 2 | What is the main point of this article? {{input sentences}} |
Температура = 1 |
| Variant 3 | What is the main point of this article? {{input sentences}} |
Температура = 0,7 |
Используя различные варианты запросов и параметров, вы можете изучить, как модель реагирует на различные входные и выходные данные, что позволяет обнаруживать наиболее подходящее сочетание для ваших требований.
Преимущества использования вариантов
- Повышение качества создания LLM: создавая несколько вариантов одного узла LLM с различными запросами и конфигурациями, вы можете определить оптимальное сочетание, которое создает высококачественное содержимое в соответствии с вашими потребностями.
- Экономия времени и усилий: даже незначительные изменения в запросе могут значительно отличаться. Важно отслеживать и сравнивать производительность каждой версии запроса. С помощью вариантов можно легко управлять историческими версиями узлов LLM, упрощая обновления на основе любого варианта без риска забыть предыдущие итерации. Это позволяет сэкономить время и усилия в управлении журналом настройки запросов.
- Повышение производительности. Варианты упрощают процесс оптимизации для узлов LLM, что упрощает создание нескольких вариантов и управление ими. Вы можете добиться улучшенных результатов за меньшее время, тем самым увеличивая общую производительность.
- Упрощение сравнения. Вы можете легко сравнить результаты, полученные из разных вариантов параллельно, что позволяет принимать решения на основе данных относительно варианта, который создает лучшие результаты.