Inzicht in kernonderdelen en stroomtypen verkennen
Als u een LLM-toepassing (Large Language Model) met promptstroom wilt maken, moet u de kernonderdelen van de promptstroom begrijpen.
Een stroom begrijpen
Promptstroom is een functie in Azure Machine Learning waarmee u stromen kunt ontwerpen. Stromen zijn uitvoerbare werkstromen die vaak uit drie onderdelen bestaan.
- Invoer: Vertegenwoordig gegevens die in de flow worden doorgegeven. Dit kunnen verschillende gegevenstypen zijn, zoals tekenreeksen, gehele getallen of booleaanse waarden.
- Knooppunten: Vertegenwoordigen hulpprogramma's die gegevensverwerking, taakuitvoering of algoritmische bewerkingen uitvoeren.
- Uitvoer: Vertegenwoordig de gegevens die door de stroom worden geproduceerd.
Net als bij een pijplijn kan een stroom bestaan uit meerdere knooppunten die de invoer van de stroom of elke uitvoer kunnen gebruiken die door een ander knooppunt wordt gegenereerd. U kunt een knooppunt toevoegen aan een stroom door een van de beschikbare typen hulpprogramma's te kiezen.
De tools verkennen die beschikbaar zijn in de prompt flow
Drie veelgebruikte hulpprogramma's zijn:
- LLM-hulpprogramma: hiermee kunt u aangepaste prompts maken met behulp van grote taalmodellen.
- Python-hulpprogramma: hiermee kunt u aangepaste Python-scripts uitvoeren.
- Prompthulpprogramma: bereidt prompts voor als tekenreeksen voor complexe scenario's of integratie met andere hulpprogramma's.
Elk hulpprogramma is een uitvoerbare eenheid met een specifieke functie. U kunt een hulpprogramma gebruiken om taken uit te voeren, zoals het samenvatten van tekst of het maken van een API-aanroep. U kunt meerdere hulpprogramma's binnen één stroom gebruiken en meerdere keren een hulpprogramma gebruiken.
Aanbeveling
Als u op zoek bent naar functionaliteit die niet wordt aangeboden door de beschikbare hulpprogramma's, kunt u uw eigen aangepaste hulpprogramma maken.
Wanneer u een nieuw knooppunt aan uw stroom toevoegt, kunt u een nieuw hulpprogramma toevoegen, de verwachte invoer en uitvoer definiëren. Een knooppunt kan een van de invoergegevens van de hele stroom of de uitvoer van een ander knooppunt gebruiken om knooppunten effectief aan elkaar te koppelen.
Door de invoer te definiëren, knooppunten te verbinden en de gewenste uitvoer te definiëren, kunt u een stroom maken. Met workflows kunt u LLM-toepassingen maken voor verschillende doeleinden.
Inzicht in de soorten stromen
Er zijn drie verschillende typen processen die u kunt maken met een promptproces:
- Standaardstroom: ideaal voor algemene op LLM gebaseerde toepassingsontwikkeling, met een scala aan veelzijdige hulpprogramma's.
- Chatflow: Ontworpen voor gesprekstoepassingen, met verbeterde ondersteuning voor chatgerelateerde functies.
- Evaluatiestroom: Gericht op prestatie-evaluatie, waardoor de analyse en verbetering van modellen of toepassingen via feedback over eerdere uitvoeringen mogelijk wordt.
Nu u begrijpt hoe een stroom is gestructureerd en waarvoor u deze kunt gebruiken, gaan we eens kijken hoe u een stroom kunt maken.