Průběh výzvy v portálu Microsoft Foundry

Důležité

Položky označené (Preview) v tomto článku jsou aktuálně ve verzi Public Preview. Tato verze Preview je poskytována bez smlouvy o úrovni služeb a nedoporučujeme ji pro produkční úlohy. Některé funkce nemusí být podporované nebo můžou mít omezené možnosti. Další informace najdete v dodatečných podmínkách použití pro verze Preview v Microsoft Azure.

Tok instrukcí je vývojový nástroj navržený tak, aby zjednodušil celý vývojový cyklus aplikací umělé inteligence využívajících velké jazykové modely (LLM). Tok instrukcí poskytuje komplexní řešení, které zjednodušuje proces vytváření prototypů, experimentování, iterace a nasazování aplikací umělé inteligence.

Průběh výzvy je k dispozici jako nezávislý open-sourceový projekt na GitHubu, s vlastní sadou SDK a rozšířením pro VS Code. Tok úloh je také k dispozici a doporučuje se použít jako součást Microsoft Foundry i Azure Machine Learning Studio. Tato dokumentační sada se zaměřuje na řízení výzev na portálu Foundry.

Poznámka:

Tento dokument se týká pouze portálu Microsoft Foundry (classic).

Pro tuto funkci musíte použít projekt založený na centru . Projekt Foundry není podporován. Podívejte se, jak zjistím, jaký typ projektu mám? a vytvořit projekt založený na centru.

Definice:

• Průběh výzvy je funkce, kterou lze použít k vygenerování, přizpůsobení nebo spuštění toku.
• Tok je spustitelná instrukční sada, která může implementovat logiku AI. Toky je možné vytvářet nebo spouštět prostřednictvím několika nástrojů, jako je předem připravené plátno, LangChain atd. Iterace toku lze uložit jako prostředky; po nasazení toku se stane rozhraním API. Ne všechny toky jsou toky výzvy; Místo toho je tok výzvy jedním ze způsobů, jak vytvořit tok.
• Výzva je balíček vstupu odeslaný do modelu, který se skládá ze vstupu uživatele, systémové zprávy a všech příkladů. Uživatelský vstup je text odeslaný v okně chatu. Systémová zpráva je sada instrukcí pro určení jeho chování a funkčnosti modelu.
• Ukázkový tok je jednoduchý předem připravený tok orchestrace, který ukazuje, jak toky fungují, a lze je přizpůsobit.
• Ukázkový dotaz je definovaná výzva pro konkrétní scénář, který lze zkopírovat z knihovny a použít as-is nebo upravit v návrhu výzvy.

Výhody hladkého procesu iniciace výzev

S tokem výzvy na portálu Foundry můžete:

• Orchestrace spustitelných toků pomocí LLM, výzev a nástrojů Pythonu prostřednictvím vizualizovaného grafu
• Snadné ladění, sdílení a iterace toků prostřednictvím týmové spolupráce
• Vytvořte varianty výzvy a porovnejte jejich výkon.

Výzva k technické flexibilitě

• Interaktivní prostředí pro vytváření obsahu: Proud toku poskytuje vizuální znázornění struktury proudu, což umožňuje snadné pochopení a navigaci projektů.
• Varianty pro ladění výzvy: Můžete vytvořit a porovnat více variant výzvy, což usnadňuje proces iterativního upřesnění.
• Vyhodnocení: Integrované hodnoticí procesy umožňují posoudit kvalitu a účinnost jejich podnětů a procesů.
• Komplexní zdroje: Průběh výzev zahrnuje knihovnu integrovaných nástrojů, ukázek a šablon, které slouží k vývoji, inspirují kreativitu a urychlují proces.

Podniková připravenost

• Spolupráce: Průběh výzev podporuje týmovou spolupráci, což umožňuje více uživatelům spolupracovat na projektech návrhu výzev, sdílet znalosti a udržovat verzování.
• Jednotná platforma: Prompt flow zjednodušuje celý proces návrhu a implementace výzev, od vývoje a hodnocení až po nasazení a sledování. Jejich toky můžete snadno nasadit jako koncové body Azure AI a monitorovat jejich výkon v reálném čase a zajistit tak optimální provoz a průběžné vylepšování.
• Podniková řešení připravenosti: Prompt flow využívá robustní řešení pro podniky od Azure AI, která poskytují zabezpečený, škálovatelný a spolehlivý základ pro vývoj, experimentování a nasazování toků.

Díky funkcionalitě prompt flow v portálu Foundry můžete uplatnit agilitu v rámci navrhování promptů, efektivně spolupracovat a využívat řešení na podnikové úrovni pro úspěšný vývoj a nasazení aplikací založených na modelech velkého jazyka (LLM).

Životní cyklus vývoje toku

Tok výzvy nabízí dobře definovaný proces, který usnadňuje bezproblémový vývoj aplikací umělé inteligence. Díky tomu můžete efektivně projít fázemi vývoje, testování, ladění a nasazování toků, což nakonec vede k vytvoření plnohodnotných aplikací AI.

Životní cyklus se skládá z následujících fází:

• Inicializace: Identifikujte obchodní případ použití, shromážděte ukázková data, naučte se vytvářet základní výzvy a vyvíjet tok, který rozšiřuje jeho možnosti.
• Experimentování: Spusťte tok s ukázkovými daty, vyhodnoťte výkon výzvy a v případě potřeby iterujte tok. Průběžně experimentujte, dokud nebudete spokojeni s výsledky.
• Vyhodnocení a upřesnění: Vyhodnoťte výkon procesu tím, že ho spustíte na větší datové sadě, vyhodnotíte efektivitu podnětu a podle potřeby ji zpřesníte. Pokud výsledky splňují požadovaná kritéria, přejděte k další fázi.
• Produkční prostředí: Optimalizujte tok pro efektivitu a efektivitu, nasaďte ho, monitorujte výkon v produkčním prostředí a shromážděte data o využití a zpětnou vazbu. Tyto informace použijte ke zlepšení toku a přispívání k dřívějším fázím pro další iterace.

Díky tomuto strukturovanému a metodickému přístupu vám tok umožní vyvíjet, pečlivě testovat, doladit a nasazovat toky s jistotou, což vede k vytváření robustních a sofistikovaných aplikací AI.

Typy toků

Na portálu Foundry můžete začít nový tok výběrem typu toku nebo šablony z galerie.

Tady je několik příkladů typů toků:

• Standardní tok: Navržený pro obecný vývoj aplikací umožňuje standardní tok vytvořit tok pomocí široké škály integrovaných nástrojů pro vývoj aplikací založených na LLM. Poskytuje flexibilitu a všestrannost pro vývoj aplikací napříč různými doménami.
• Tok chatu: Přizpůsobený pro vývoj konverzačních aplikací, tok chatu vychází z možností standardního toku a poskytuje vylepšenou podporu pro vstupy a výstupy chatu a správu historie chatu. Díky nativnímu režimu konverzace a integrovaným funkcím můžete bezproblémově vyvíjet a ladit aplikace v konverzačním kontextu.
• Tok vyhodnocení: Je navržen pro scénáře vyhodnocení a umožňuje vytvořit tok, který jako vstup přijímá výstupy z předchozích běhů toku. Tento typ toku umožňuje vyhodnotit výkon předchozích výsledků spuštění a vytvořit relevantní metriky, což usnadňuje posouzení a vylepšení jejich modelů nebo aplikací.

Průtoky

Tok v Prompt flow slouží jako spustitelný pracovní proces, který usnadňuje vývoj aplikace AI založené na LLM. Poskytuje komplexní architekturu pro správu toku dat a zpracování v rámci vaší aplikace.

V rámci toku jsou uzly v centru dění, představují konkrétní nástroje s unikátními schopnostmi. Tyto uzly zpracovávají zpracování dat, spouštění úloh a algoritmické operace se vstupy a výstupy. Propojením uzlů vytvoříte bezproblémový řetěz operací, který provede tok dat prostřednictvím vaší aplikace.

Pro usnadnění konfigurace a jemného ladění uzlů se vizuální reprezentace struktury pracovního postupu poskytuje prostřednictvím grafu DAG (směrovaný Acyklické graf). Tento graf znázorňuje možnosti připojení a závislosti mezi uzly a poskytuje jasný přehled celého pracovního postupu.

Díky funkci toku v Prompt flow můžete navrhovat, přizpůsobovat a optimalizovat logiku vaší aplikace umělé inteligence. Soudržné uspořádání uzlů zajišťuje efektivní zpracování dat a efektivní správu toků, které vám umožní vytvářet robustní a pokročilé aplikace.

Nástroje toku příkazů

Nástroje jsou základními stavebními bloky toku.

Možnosti nástrojů na portálu Foundry zahrnují nástroj LLM, nástroj Prompt, Python a další.

Každý nástroj je jednoduchá spustitelná jednotka s konkrétní funkcí. Kombinací různých nástrojů můžete vytvořit tok, který dosahuje široké škály cílů. Pomocí nástroje LLM můžete například vygenerovat text nebo sumarizovat článek a nástroj Pythonu, který text zpracuje, aby informoval další komponentu nebo výsledek toku.

Jednou z klíčových výhod nástrojů pro tok promptů je jejich bezproblémová integrace s rozhraními API třetích stran a balíčky open-source Python. To nejen vylepšuje funkčnost velkých jazykových modelů, ale také zvyšuje efektivitu procesu vývoje pro vývojáře.

Pokud nástroje toku výzvy na portálu Foundry nevyhovují vašim požadavkům, můžete vytvořit vlastní nástroj a vytvořit ho jako balíček nástrojů. Chcete-li objevit více vlastní nástrojů vyvinutých open source komunitou, navštivte Prompt Flow Custom Tools.

Další kroky

• Vytvoření s prompt flow v portálu Foundry
• Začínáme s tokem výzvy ve VS Code