Promptstroom in Azure AI Studio
Belangrijk
Sommige van de functies die in dit artikel worden beschreven, zijn mogelijk alleen beschikbaar in de preview-versie. Deze preview wordt aangeboden zonder een service level agreement en we raden deze niet aan voor productieworkloads. Misschien worden bepaalde functies niet ondersteund of zijn de mogelijkheden ervan beperkt. Zie Aanvullende gebruiksvoorwaarden voor Microsoft Azure-previews voor meer informatie.
Promptflow is een ontwikkelhulpprogramma dat is ontworpen om de volledige ontwikkelingscyclus van AI-toepassingen te stroomlijnen, mogelijk gemaakt met Large Language Models (LLM's). Promptflow biedt een uitgebreide oplossing die het proces van prototypen, experimenteren, herhalen en implementeren van uw AI-toepassingen vereenvoudigt.
Promptstroom is onafhankelijk beschikbaar als een opensource-project op GitHub, met een eigen SDK en VS Code-extensie. De promptstroom is ook beschikbaar en wordt aanbevolen om te gebruiken als een functie in zowel Azure AI Studioals Azure Machine Learning-studio. Deze set documentatie is gericht op de promptstroom in Azure AI Studio.
Definities:
- Promptstroom is een functie die kan worden gebruikt om een stroom te genereren, aan te passen of uit te voeren.
- Een stroom is een uitvoerbare instructieset waarmee de AI-logica kan worden geïmplementeerd. Stromen kunnen worden gemaakt of uitgevoerd via meerdere hulpprogramma's, zoals een vooraf gedefinieerd canvas, LangChain, enzovoort. Iteraties van een stroom kunnen als assets worden opgeslagen; zodra een stroom is geïmplementeerd, wordt een API. Niet alle stromen zijn promptstromen; in plaats daarvan is een promptstroom een manier om een stroom te maken.
- Een prompt is een pakket invoer dat naar een model wordt verzonden, bestaande uit de gebruikersinvoer, het systeembericht en eventuele voorbeelden. Gebruikersinvoer is tekst die wordt verzonden in het chatvenster. Systeembericht is een reeks instructies voor het model, waarbij het gedrag en de functionaliteit van het model worden bepaald.
- Een voorbeeldstroom is een eenvoudige, vooraf samengestelde indelingsstroom die laat zien hoe stromen werken en kan worden aangepast.
- Een voorbeeldprompt is een gedefinieerde prompt voor een specifiek scenario dat kan worden gekopieerd uit een bibliotheek en die als zodanig kan worden gebruikt of gewijzigd in promptontwerp.
Voordelen van promptstroom
Met promptstroom in Azure AI Studio kunt u het volgende doen:
- Beheer uitvoerbare stromen met LLM's, prompts en Python-hulpprogramma's via een gevisualiseerde grafiek.
- Fouten opsporen, delen en uw stromen eenvoudig herhalen door teamsamenwerking.
- Maak promptvarianten en vergelijk hun prestaties.
Flexibiliteit van engineering vragen
- Interactieve ontwerpervaring: promptstroom biedt een visuele weergave van de structuur van de stroom, zodat u eenvoudig projecten kunt begrijpen en navigeren.
- Varianten voor het afstemmen van prompts: u kunt meerdere promptvarianten maken en vergelijken, waardoor een iteratief verfijningsproces wordt vergemakkelijkt.
- Evaluatie: met ingebouwde evaluatiestromen kunt u de kwaliteit en effectiviteit van hun prompts en stromen beoordelen.
- Uitgebreide bronnen: promptstroom bevat een bibliotheek met ingebouwde hulpprogramma's, voorbeelden en sjablonen die fungeren als uitgangspunt voor ontwikkeling, inspirerende creativiteit en het versnellen van het proces.
Gereedheid voor bedrijven
- Samenwerking: Prompt flow ondersteunt teamsamenwerking, zodat meerdere gebruikers kunnen samenwerken aan prompt technische projecten, kennis kunnen delen en versiebeheer kunnen onderhouden.
- All-in-one-platform: de promptstroom stroomlijnt het hele proces voor prompt engineering, van ontwikkeling en evaluatie tot implementatie en bewaking. U kunt hun stromen moeiteloos implementeren als Azure AI-eindpunten en hun prestaties in realtime bewaken, waardoor optimale werking en continue verbetering worden gegarandeerd.
- Oplossingen voor bedrijfsgereedheid: de promptstroom past robuuste azure AI-oplossingen voor bedrijfsgereedheid toe en biedt een veilige, schaalbare en betrouwbare basis voor de ontwikkeling, experimenten en implementatie van stromen.
Met een promptstroom in Azure AI Studio kunt u snelle engineeringflexibiliteit ontketenen, effectief samenwerken en oplossingen op ondernemingsniveau toepassen voor succesvolle ontwikkeling en implementatie van toepassingen op basis van LLM.
Stroomontwikkelingslevenscyclus
Promptstroom biedt een goed gedefinieerd proces dat de naadloze ontwikkeling van AI-toepassingen vergemakkelijkt. Door het te gebruiken, kunt u effectief vooruitgang boeken door de fasen van het ontwikkelen, testen, afstemmen en implementeren van stromen, wat uiteindelijk resulteert in het maken van volwaardige AI-toepassingen.
De levenscyclus bestaat uit de volgende fasen:
- Initialisatie: Identificeer de business use case, verzamel voorbeeldgegevens, leer hoe u een basisprompt bouwt en een stroom ontwikkelt die de mogelijkheden ervan uitbreidt.
- Experimenten: voer de stroom uit op basis van voorbeeldgegevens, evalueer de prestaties van de prompt en voer zo nodig de stroom uit. Experimenteer continu totdat u tevreden bent met de resultaten.
- Evaluatie en verfijning: Evalueer de prestaties van de stroom door deze uit te voeren op een grotere gegevensset, evalueer de effectiviteit van de prompt en verfijn indien nodig. Ga door naar de volgende fase als de resultaten voldoen aan de gewenste criteria.
- Productie: Optimaliseer de stroom voor efficiëntie en effectiviteit, implementeer deze, bewaak de prestaties in een productieomgeving en verzamel gebruiksgegevens en feedback. Gebruik deze informatie om de stroom te verbeteren en bij te dragen aan eerdere fasen voor verdere iteraties.
Door deze gestructureerde en methodische benadering te volgen, kunt u met promptstroom stromen ontwikkelen, grondig testen, verfijnen en implementeren, wat resulteert in het maken van robuuste en geavanceerde AI-toepassingen.
Stroomtypen
In Azure AI Studio kunt u een nieuwe stroom starten door een stroomtype of een sjabloon in de galerie te selecteren.
Hier volgen enkele voorbeelden van stroomtypen:
- Standaardstroom: ontworpen voor algemene toepassingsontwikkeling, kunt u met de standaardstroom een stroom maken met behulp van een breed scala aan ingebouwde hulpprogramma's voor het ontwikkelen van LLM-toepassingen. Het biedt flexibiliteit en veelzijdigheid voor het ontwikkelen van toepassingen in verschillende domeinen.
- Chatstroom: Afgestemd op de ontwikkeling van gesprekstoepassingen bouwt de Chatstroom voort op de mogelijkheden van de standaardstroom en biedt verbeterde ondersteuning voor chatinvoer/-uitvoer en beheer van chatgeschiedenis. Met de systeemeigen gespreksmodus en ingebouwde functies kunt u naadloos hun toepassingen ontwikkelen en fouten opsporen in een gesprekscontext.
- Evaluatiestroom: Ontworpen voor evaluatiescenario's, kunt u met de evaluatiestroom een stroom maken die de uitvoer van de vorige stroom uitvoert als invoer. Met dit stroomtype kunt u de prestaties van eerdere uitvoeringsresultaten evalueren en relevante metrische gegevens uitvoeren, waardoor de evaluatie en verbetering van hun modellen of toepassingen wordt vergemakkelijkt.
Stromen
Een stroom in promptstroom fungeert als een uitvoerbare werkstroom die de ontwikkeling van uw AI-toepassing op basis van LLM stroomlijnt. Het biedt een uitgebreid kader voor het beheren van de gegevensstroom en verwerking binnen uw toepassing.
Binnen een stroom worden knooppunten centraal gezet, die specifieke hulpprogramma's met unieke mogelijkheden vertegenwoordigen. Deze knooppunten verwerken gegevensverwerking, taakuitvoering en algoritmen, met invoer en uitvoer. Door knooppunten te verbinden, maakt u een naadloze keten van bewerkingen die de stroom van gegevens door uw toepassing begeleiden.
Om de configuratie en afstemming van knooppunten te vergemakkelijken, wordt een visuele weergave van de werkstroomstructuur geboden via een DAG-grafiek (Directed Acyclic Graph). Deze grafiek toont de connectiviteit en afhankelijkheden tussen knooppunten, wat een duidelijk overzicht biedt van de hele werkstroom.
Met de stroomfunctie in promptstroom hebt u de mogelijkheid om de logica van uw AI-toepassing te ontwerpen, aan te passen en te optimaliseren. De samenhangende rangschikking van knooppunten zorgt voor efficiënte gegevensverwerking en effectief stroombeheer, zodat u robuuste en geavanceerde toepassingen kunt maken.
Hulpprogramma's voor promptstroom
Hulpprogramma's zijn de fundamentele bouwstenen van een stroom.
In Azure AI Studio zijn hulpprogrammaopties onder andere het LLM-hulpprogramma, het promptprogramma, het Python-hulpprogramma en meer.
Elk hulpprogramma is een eenvoudige uitvoerbare eenheid met een specifieke functie. Door verschillende hulpprogramma's te combineren, kunt u een stroom maken waarmee een breed scala aan doelstellingen wordt bereikt. U kunt bijvoorbeeld het LLM-hulpprogramma gebruiken om tekst te genereren of een artikel samen te vatten en het Python-hulpprogramma om de tekst te verwerken om het volgende stroomonderdeel of resultaat te informeren.
Een van de belangrijkste voordelen van promptstroomhulpprogramma's is de naadloze integratie met API's van derden en python opensource-pakketten. Dit verbetert niet alleen de functionaliteit van grote taalmodellen, maar maakt het ontwikkelingsproces ook efficiënter voor ontwikkelaars.
Als de promptstroomhulpprogramma's in Azure AI Studio niet aan uw vereisten voldoen, kunt u deze handleiding volgen om uw eigen aangepaste hulpprogramma te ontwikkelen en er een hulpprogrammapakket van te maken. Als u meer aangepaste hulpprogramma's wilt ontdekken die zijn ontwikkeld door de opensource-community, gaat u naar deze pagina.