Varianty v toku výzvy
Pomocí toku výzvy azure Machine Learning můžete k ladění výzvy použít varianty. V tomto článku se seznámíte s konceptem variant toku výzvy.
Varianty
Varianta odkazuje na konkrétní verzi uzlu nástroje s odlišným nastavením. V současné době se varianty podporují jenom v nástroji LLM. Například v nástroji LLM může nová varianta představovat jiný obsah výzvy nebo různá nastavení připojení.
Předpokládejme, že chcete vygenerovat souhrn novinového článku. Můžete nastavit různé varianty výzev a nastavení takto:
| Varianty | Instrukce | Nastavení připojení |
|---|---|---|
| Varianta 0 | Summary: {{input sentences}} |
Teplota = 1 |
| Varianta 1 | Summary: {{input sentences}} |
Teplota = 0,7 |
| Varianta 2 | What is the main point of this article? {{input sentences}} |
Teplota = 1 |
| Varianta 3 | What is the main point of this article? {{input sentences}} |
Teplota = 0,7 |
Pomocí různých variant výzev a nastavení můžete prozkoumat, jak model reaguje na různé vstupy a výstupy, což vám umožní zjistit nejvhodnější kombinaci pro vaše požadavky.
Výhody používání variant
- Zvyšte kvalitu generování LLM: Vytvořením více variant stejného uzlu LLM s různorodými výzvami a konfiguracemi můžete identifikovat optimální kombinaci, která vytváří vysoce kvalitní obsah v souladu s vašimi potřebami.
- Ušetřete čas a úsilí: I drobné úpravy výzvy můžou přinést výrazně odlišné výsledky. Je důležité sledovat a porovnávat výkon každé verze výzvy. S variantami můžete snadno spravovat historické verze uzlů LLM a usnadnit aktualizace na základě jakékoli varianty bez rizika zapomenutí předchozích iterací. Ušetříte tak čas a úsilí při správě historie ladění výzvy.
- Zvýšení produktivity: Varianty zjednodušují proces optimalizace pro uzly LLM, což usnadňuje vytváření a správu více variant. Můžete dosáhnout lepších výsledků v kratším čase, čímž zvýšíte celkovou produktivitu.
- Snadné porovnání: Výsledky získané z různých variant můžete snadno porovnat vedle sebe, abyste mohli rozhodovat o variantě založené na datech, která generují nejlepší výsledky.