Vyzvání toku v Azure AI Studiu
Poznámka:
Azure AI Studio je aktuálně ve verzi Public Preview. Tato verze Preview je poskytována bez smlouvy o úrovni služeb a nedoporučujeme ji pro produkční úlohy. Některé funkce se nemusí podporovat nebo mohou mít omezené možnosti. Další informace najdete v dodatečných podmínkách použití pro verze Preview v Microsoft Azure.
Tok výzvy je vývojový nástroj navržený tak, aby zjednodušil celý vývojový cyklus aplikací umělé inteligence využívajících velké jazykové modely (LLM). Tok výzvy poskytuje komplexní řešení, které zjednodušuje proces vytváření prototypů, experimentování, iterace a nasazování aplikací AI.
Tok výzvy je k dispozici nezávisle jako opensourcový projekt na GitHubu s vlastní sadou SDK a rozšířením VS Code. Tok výzvy je také k dispozici a doporučuje se použít jako funkci v azure AI Studiu i v studio Azure Machine Learning. Tato sada dokumentace se zaměřuje na tok výzvy v Azure AI Studiu.
Definice:
- Tok výzvy je funkce, která se dá použít k vygenerování, přizpůsobení nebo spuštění toku.
- Tok je spustitelná instrukční sada, která může implementovat logiku AI. Toky je možné vytvářet nebo spouštět prostřednictvím několika nástrojů, jako je předem připravené plátno, LangChain atd. Iterace toku lze uložit jako prostředky; po nasazení toku se stane rozhraním API. Ne všechny toky jsou toky výzvy; Místo toho je tok výzvy jedním ze způsobů, jak vytvořit tok.
- Výzva je balíček vstupu odeslaný do modelu, který se skládá ze vstupu uživatele, systémové zprávy a všech příkladů. Uživatelský vstup je text odeslaný v okně chatu. Systémová zpráva je sada instrukcí pro určení jeho chování a funkčnosti modelu.
- Ukázkový tok je jednoduchý předem připravený tok orchestrace, který ukazuje, jak toky fungují, a lze je přizpůsobit.
- Ukázkový příkazový řádek je definovaná výzva pro konkrétní scénář, který lze zkopírovat z knihovny a použít ji jako nebo upravit v návrhu výzvy.
Výhody toku výzvy
Pomocí toku výzvy v Azure AI Studiu můžete:
- Orchestrace spustitelných toků pomocí LLM, výzev a nástrojů Pythonu prostřednictvím vizualizovaného grafu
- Snadné ladění, sdílení a iterace toků prostřednictvím týmové spolupráce
- Vytvořte varianty výzvy a porovnejte jejich výkon.
Výzva k technické flexibilitě
- Interaktivní prostředí pro vytváření obsahu: Tok výzvy poskytuje vizuální znázornění struktury toku, což vám umožní snadno pochopit a procházet projekty.
- Varianty pro ladění výzvy: Můžete vytvořit a porovnat více variant výzvy, což usnadňuje proces iterativního upřesnění.
- Vyhodnocení: Integrované toky hodnocení umožňují vyhodnotit kvalitu a efektivitu jejich výzev a toků.
- Komplexní zdroje: Tok výzvy zahrnuje knihovnu integrovaných nástrojů, ukázek a šablon, které slouží jako výchozí bod pro vývoj, inspirující kreativitu a urychlení procesu.
Připravenost pro podnikové zpracování
- Spolupráce: Tok výzvy podporuje týmové spolupráce, což umožňuje více uživatelům spolupracovat na výzev k technických projektech, sdílet znalosti a udržovat správu verzí.
- Vše v jedné platformě: Tok výzvy zjednodušuje celý proces přípravy výzvy, od vývoje a vyhodnocení až po nasazení a monitorování. Jejich toky můžete snadno nasadit jako koncové body Azure AI a monitorovat jejich výkon v reálném čase a zajistit tak optimální provoz a průběžné vylepšování.
- Podniková řešení připravenosti: Rychlý tok používá robustní řešení připravenosti azure AI pro podniky, která poskytují zabezpečený, škálovatelný a spolehlivý základ pro vývoj, experimentování a nasazování toků.
Díky rychlému toku v Azure AI Studiu můžete využít flexibilitu přípravy, efektivně spolupracovat a používat řešení na podnikové úrovni pro úspěšný vývoj a nasazení aplikací založených na LLM.
Životní cyklus vývoje toku
Tok výzvy nabízí dobře definovaný proces, který usnadňuje bezproblémový vývoj aplikací AI. Díky tomu můžete efektivně projít fázemi vývoje, testování, ladění a nasazování toků, což nakonec vede k vytvoření plnohodnotných aplikací AI.
Životní cyklus se skládá z následujících fází:
- Inicializace: Identifikujte obchodní případ použití, shromážděte ukázková data, naučte se vytvářet základní výzvy a vyvíjet tok, který rozšiřuje jeho možnosti.
- Experimentování: Spusťte tok s ukázkovými daty, vyhodnoťte výkon výzvy a v případě potřeby iterujte tok. Průběžně experimentujte, dokud nebudete spokojeni s výsledky.
- Vyhodnocení a upřesnění: Vyhodnoťte výkon toku tím, že ho spustíte na větší datové sadě, vyhodnotíte efektivitu výzvy a podle potřeby ji zpřesníte. Pokud výsledky splňují požadovaná kritéria, přejděte k další fázi.
- Produkční prostředí: Optimalizujte tok pro efektivitu a efektivitu, nasaďte ho, monitorujte výkon v produkčním prostředí a shromážděte data o využití a zpětnou vazbu. Tyto informace použijte ke zlepšení toku a přispívání k dřívějším fázím pro další iterace.
Díky tomuto strukturovanému a metodickému přístupu vám tok umožní vyvíjet, pečlivě testovat, doladit a nasazovat toky s jistotou, což vede k vytváření robustních a sofistikovaných aplikací AI.
Typy toků
V Azure AI Studiu můžete začít nový tok výběrem typu toku nebo šablony z galerie.
Tady je několik příkladů typů toků:
- Standardní tok: Navržený pro obecný vývoj aplikací umožňuje standardní tok vytvořit tok pomocí široké škály integrovaných nástrojů pro vývoj aplikací založených na LLM. Poskytuje flexibilitu a všestrannost pro vývoj aplikací napříč různými doménami.
- Tok chatu: Přizpůsobený pro vývoj konverzačních aplikací, tok chatu vychází z možností standardního toku a poskytuje vylepšenou podporu pro vstupy a výstupy chatu a správu historie chatu. Díky nativnímu režimu konverzace a integrovaným funkcím můžete bezproblémově vyvíjet a ladit aplikace v konverzačním kontextu.
- Tok vyhodnocení: Navržený pro scénáře vyhodnocení umožňuje vytvořit tok, který přijímá výstupy předchozího toku jako vstupy. Tento typ toku umožňuje vyhodnotit výkon předchozích výsledků spuštění a výstup relevantní metriky, což usnadňuje posouzení a vylepšení jejich modelů nebo aplikací.
Toky
Tok v toku výzvy slouží jako spustitelný pracovní postup, který zjednodušuje vývoj aplikace AI založené na LLM. Poskytuje komplexní architekturu pro správu toku dat a zpracování v rámci vaší aplikace.
V rámci toku se uzly stupňovaly ve středu, které představují konkrétní nástroje s jedinečnými možnostmi. Tyto uzly zpracovávají zpracování dat, spouštění úloh a algoritmické operace se vstupy a výstupy. Propojením uzlů vytvoříte bezproblémový řetěz operací, který provede tok dat prostřednictvím vaší aplikace.
Pro usnadnění konfigurace a jemného ladění uzlů se vizuální reprezentace struktury pracovního postupu poskytuje prostřednictvím grafu DAG (směrovaný Acyklické graf). Tento graf znázorňuje možnosti připojení a závislosti mezi uzly a poskytuje jasný přehled celého pracovního postupu.
Díky funkci toku v toku výzvy máte možnost navrhovat, přizpůsobovat a optimalizovat logiku aplikace AI. Soudržné uspořádání uzlů zajišťuje efektivní zpracování dat a efektivní správu toků, které vám umožní vytvářet robustní a pokročilé aplikace.
Nástroje toku výzvy
Nástroje jsou základními stavebními bloky toku.
Mezi možnosti nástrojů v Azure AI Studiu patří nástroj LLM, nástroj Prompt, Python a další.
Každý nástroj je jednoduchá spustitelná jednotka s konkrétní funkcí. Kombinací různých nástrojů můžete vytvořit tok, který dosahuje široké škály cílů. Pomocí nástroje LLM můžete například vygenerovat text nebo sumarizovat článek a nástroj Pythonu, který text zpracuje, aby informoval další komponentu nebo výsledek toku.
Jednou z klíčových výhod nástrojů toku výzvy je jejich bezproblémová integrace s rozhraními API třetích stran a opensourcovými balíčky Pythonu. To nejen vylepšuje funkčnost velkých jazykových modelů, ale také zvyšuje efektivitu procesu vývoje pro vývojáře.
Pokud nástroje toku výzvy v Azure AI Studiu nevyhovují vašim požadavkům, můžete podle tohoto průvodce vytvořit vlastní nástroj a vytvořit ho jako balíček nástrojů. Pokud chcete zjistit další vlastní nástroje vyvinuté komunitou open source, navštivte tuto stránku.