Fråga efter flöde i Azure AI Studio

Artikel
10/16/2024

Viktigt!

Objekt markerade (förhandsversion) i den här artikeln är för närvarande i offentlig förhandsversion. Den här förhandsversionen tillhandahålls utan ett serviceavtal och vi rekommenderar det inte för produktionsarbetsbelastningar. Vissa funktioner kanske inte stöds eller kan vara begränsade. Mer information finns i Kompletterande villkor för användning av Microsoft Azure-förhandsversioner.

Promptflöde är ett utvecklingsverktyg som utformats för att effektivisera hela utvecklingscykeln för AI-program som drivs av stora språkmodeller (LLM). Promptflöde är en omfattande lösning som förenklar processen med prototyper, experimentering, iterering och distribution av dina AI-program.

Prompt-flödet är tillgängligt oberoende av varandra som ett projekt med öppen källkod på GitHub, med ett eget SDK- och VS Code-tillägg. Prompt flow är också tillgängligt och rekommenderas att användas som en funktion i både Azure AI Studio och Azure Machine Learning-studio. Den här uppsättningen dokumentation fokuserar på promptflöde i Azure AI Studio.

Definitioner:

Prompt flow är en funktion som kan användas för att generera, anpassa eller köra ett flöde.
Ett flöde är en körbar instruktionsuppsättning som kan implementera AI-logiken. Flöden kan skapas eller köras via flera verktyg, till exempel en fördefinierad arbetsyta, LangChain osv. Iterationer av ett flöde kan sparas som tillgångar. när ett flöde har distribuerats blir ett API. Alla flöden är inte promptflöden. i stället är promptflöde ett sätt att skapa ett flöde.
En fråga är ett paket med indata som skickas till en modell, som består av användarindata, systemmeddelande och eventuella exempel. Användarindata är text som skickas i chattfönstret. Systemmeddelande är en uppsättning instruktioner för modellen som beskriver dess beteenden och funktioner.
Ett exempelflöde är ett enkelt, fördefinierat orkestreringsflöde som visar hur flöden fungerar och kan anpassas.
En exempelprompt är en definierad fråga för ett specifikt scenario som kan kopieras från ett bibliotek och användas som är eller ändras i snabbdesign.

Fördelar med promptflöde

Med promptflöde i Azure AI Studio kan du:

Dirigera körbara flöden med LLM:er, prompter och Python-verktyg via ett visualiserat diagram.
Felsöka, dela och iterera dina flöden med lätthet genom teamsamarbete.
Skapa promptvarianter och jämför deras prestanda.

Fråga om flexibel teknik

Interaktiv redigeringsupplevelse: Prompt-flödet ger en visuell representation av flödets struktur så att du enkelt kan förstå och navigera i projekt.
Varianter för snabbjustering: Du kan skapa och jämföra flera promptvarianter, vilket underlättar en iterativ förfiningsprocess.
Utvärdering: Med inbyggda utvärderingsflöden kan du utvärdera kvaliteten och effektiviteten i deras uppmaningar och flöden.
Omfattande resurser: Prompt flow innehåller ett bibliotek med inbyggda verktyg, exempel och mallar som fungerar som utgångspunkt för utveckling, inspirerande kreativitet och påskynda processen.

Företagsberedskap

Samarbete: Prompt Flow stöder teamsamarbete, vilket gör att flera användare kan arbeta tillsammans med projekt för snabbteknik, dela kunskap och upprätthålla versionskontroll.
Allt-i-ett-plattform: Prompt-flödet effektiviserar hela processen för att skapa frågor, från utveckling och utvärdering till distribution och övervakning. Du kan enkelt distribuera deras flöden som Azure AI-slutpunkter och övervaka deras prestanda i realtid, vilket säkerställer optimal drift och kontinuerlig förbättring.
Enterprise Readiness Solutions: Prompt flow använder robusta azure AI-lösningar för företagsberedskap, vilket ger en säker, skalbar och tillförlitlig grund för utveckling, experimentering och distribution av flöden.

Med snabbflöde i Azure AI Studio kan du frigöra snabb teknisk flexibilitet, samarbeta effektivt och tillämpa lösningar i företagsklass för lyckad LLM-baserad programutveckling och distribution.

Livscykel för flödesutveckling

Prompt Flow erbjuder en väldefinierad process som underlättar sömlös utveckling av AI-program. Genom att använda den kan du effektivt gå igenom stegen för att utveckla, testa, justera och distribuera flöden, vilket i slutändan resulterar i skapandet av fullvärdiga AI-program.

Livscykeln består av följande steg:

Initiering: Identifiera affärsanvändningsfallet, samla in exempeldata, lär dig att skapa en grundläggande fråga och utveckla ett flöde som utökar dess funktioner.
Experimentering: Kör flödet mot exempeldata, utvärdera promptens prestanda och iterera på flödet om det behövs. Experimentera kontinuerligt tills du är nöjd med resultatet.
Utvärdering och förfining: Utvärdera flödets prestanda genom att köra det mot en större datamängd, utvärdera promptens effektivitet och förfina efter behov. Gå vidare till nästa steg om resultatet uppfyller de önskade kriterierna.
Produktion: Optimera flödet för effektivitet och effektivitet, distribuera det, övervaka prestanda i en produktionsmiljö och samla in användningsdata och feedback. Använd den här informationen för att förbättra flödet och bidra till tidigare faser för ytterligare iterationer.

Genom att följa den här strukturerade och metodiska metoden ger prompt flow dig möjlighet att utveckla, noggrant testa, finjustera och distribuera flöden med tillförsikt, vilket resulterar i att robusta och sofistikerade AI-program skapas.

Flödestyper

I Azure AI Studio kan du starta ett nytt flöde genom att välja en flödestyp eller en mall från galleriet.

Här är några exempel på flödestyper:

Standardflöde: Standardflödet är utformat för allmän programutveckling och gör att du kan skapa ett flöde med hjälp av ett brett utbud av inbyggda verktyg för att utveckla LLM-baserade program. Det ger flexibilitet och mångsidighet för att utveckla program över olika domäner.
Chattflöde: Chattflödet är skräddarsytt för utveckling av konversationsprogram och bygger vidare på funktionerna i standardflödet och ger förbättrat stöd för chattindata/utdata och hantering av chatthistorik. Med inbyggt konversationsläge och inbyggda funktioner kan du smidigt utveckla och felsöka deras program i en konversationskontext.
Utvärderingsflöde: Utvärderingsflödet är utformat för utvärderingsscenarier och gör att du kan skapa ett flöde som tar utdata från tidigare flödeskörningar som indata. Med den här flödestypen kan du utvärdera prestanda för tidigare körningsresultat och utdata relevanta mått, vilket underlättar utvärderingen och förbättringen av deras modeller eller program.

Flöden

Ett flöde i Prompt-flödet fungerar som ett körbart arbetsflöde som effektiviserar utvecklingen av ditt LLM-baserade AI-program. Det ger ett omfattande ramverk för att hantera dataflöde och bearbetning i ditt program.

I ett flöde står noderna i centrum och representerar specifika verktyg med unika funktioner. Dessa noder hanterar databearbetning, uppgiftskörning och algoritmiska åtgärder med indata och utdata. Genom att ansluta noder upprättar du en sömlös kedja av åtgärder som vägleder dataflödet genom ditt program.

För att underlätta nodkonfiguration och finjustering tillhandahålls en visuell representation av arbetsflödesstrukturen via en DAG-graf (riktad acyklisk graf). Det här diagrammet visar anslutningen och beroendena mellan noder, vilket ger en tydlig översikt över hela arbetsflödet.

Med flödesfunktionen i Prompt Flow har du kraften att utforma, anpassa och optimera logiken i ditt AI-program. Nodernas sammanhängande arrangemang säkerställer effektiv databehandling och effektiv flödeshantering, vilket ger dig möjlighet att skapa robusta och avancerade program.

Verktyg för promptflöde

Verktyg är de grundläggande byggstenarna i ett flöde.

I Azure AI Studio innehåller verktygsalternativen LLM-verktyget, promptverktyget, Python-verktyget med mera.

Varje verktyg är en enkel, körbar enhet med en specifik funktion. Genom att kombinera olika verktyg kan du skapa ett flöde som uppnår en mängd olika mål. Du kan till exempel använda LLM-verktyget för att generera text eller sammanfatta en artikel och Python-verktyget för att bearbeta texten för att informera nästa flödeskomponent eller resultat.

En av de viktigaste fördelarna med promptflödesverktyg är deras sömlösa integrering med API:er från tredje part och python-öppen källkod paket. Detta förbättrar inte bara funktionerna i stora språkmodeller utan gör också utvecklingsprocessen mer effektiv för utvecklare.

Om promptflödesverktygen i Azure AI Studio inte uppfyller dina krav kan du följa den här guiden för att utveckla ett eget anpassat verktyg och göra det till ett verktygspaket. Mer information om anpassade verktyg som utvecklats av öppen källkod communityn finns på den här sidan.

Dela via