Prompt flow in Azure KI Studio

Artikel
05/21/2024

Wichtig

Einige der in diesem Artikel beschriebenen Features sind möglicherweise nur in der Vorschau verfügbar. Diese Vorschauversion wird ohne Vereinbarung zum Servicelevel bereitgestellt und sollte nicht für Produktionsworkloads verwendet werden. Manche Features werden möglicherweise nicht unterstützt oder sind nur eingeschränkt verwendbar. Weitere Informationen finden Sie unter Zusätzliche Nutzungsbestimmungen für Microsoft Azure-Vorschauen.

Prompt flow ist ein Entwicklungstool zur Rationalisierung des gesamten Entwicklungszyklus von KI-Anwendungen auf der Grundlage von Großen Sprachmodellen (LLMs). Prompt flow bietet eine umfassende Lösung, die den Prozess der Prototyperstellung, des Experimentierens, Durchlaufens und Bereitstellens Ihrer KI-Anwendungen vereinfacht.

Prompt flow ist unabhängig als Open-Source-Projekt auf GitHubverfügbar und weist ein eigenes SDK und eine VS Code-Erweiterung auf. Prompt Flow ist auch als Funktion in Azure KI Studio und Azure Machine Learning Studio verfügbar und wird zur Verwendung empfohlen. Diese Dokumentation konzentriert sich auf prompt flow in Azure KI Studio.

Definitionen:

Prompt flow ist eine Funktion, das zum Generieren, Anpassen oder Ausführen eines Flows verwendet werden kann.
Ein Flow ist ein ausführbarer Anweisungssatz, der die KI-Logik implementieren kann. Flows können über mehrere Tools erstellt oder ausgeführt werden, z. B. eine vorgefertigte Canvas, LangChain usw. Iterationen eines Flows können als Ressourcen gespeichert werden. Sobald ein Flow bereitgestellt wurde, wird er zu einer API. Nicht alle Flows sind prompt flows. Stattdessen ist der prompt flow eine Möglichkeit, einen Flow zu erstellen.
Eine Eingabeaufforderung ist ein Paket von Eingaben, das an ein Modell gesendet wird. Es besteht aus der Benutzereingabe, der Systemmeldung und eventuellen Beispielen. Die Benutzereingabe ist Text, der im Chatfenster übermittelt wird. Eine Systemnachricht ist eine Reihe von Anweisungen an das Modell, die sein Verhalten und seine Funktionalität festlegen.
Ein Stichproben-Flow ist ein einfacher, vordefinierter Orchestrierungs-Flow, der zeigt, wie Abläufe funktionieren und angepasst werden können.
Ein Stichprobenflow ist eine definierte Eingabeaufforderung für ein bestimmtes Szenario, das aus einer Bibliothek kopiert und im Eingabeaufforderungsentwurf verwendet oder geändert werden kann.

Vorteile des prompt flow

Mit prompt flow in Azure KI Studio können Sie:

Ausführbare Flow mit LLMs, Eingabeaufforderungen und Python-Tools über ein visualisiertes Diagramm orchestrieren.
Einfaches Debuggen, Freigeben und Iterieren Ihrer Flows in Zusammenarbeit mit dem ganzen Team
Eingabeaufforderungsvarianten erstellen und deren Leistung vergleichen.

Flexibilität beim Prompt Engineering

Interaktive Authoringumgebung: Prompt flow bietet eine visuelle Darstellung der Struktur des Flows, sodass Sie Projekte leicht verstehen und navigieren können.
Varianten für die Abstimmung von Eingabeaufforderungen: Sie können mehrere Eingabeaufforderungsvarianten erstellen und vergleichen, was einen iterativen Verfeinerungsprozess erleichtert.
Auswertung: Integrierte Auswertungsflows ermöglichen Benutzern, die Qualität und Effektivität ihrer Eingabeaufforderungen und Flows zu bewerten.
Umfassende Ressourcen: Prompt flow enthält eine Bibliothek mit integrierten Tools, Beispielen und Vorlagen, die als Ausgangspunkt für die Entwicklung dienen, die Kreativität anregen und den Prozess beschleunigen.

Unternehmensfähigkeit

Zusammenarbeit: Prompt flow unterstützt die Zusammenarbeit im Team, sodass mehrere Benutzer gemeinsam an Eingabeauffoderungsengineering-Projekten arbeiten, Wissen austauschen und die Versionskontrolle behalten können.
Zentralisierte Plattform: Prompt flow rationalisiert den gesamten Eingabeaufforderungsengineering-Prozess, von der Entwicklung und Bewertung bis hin zur Bereitstellung und Überwachung. Sie können ihre Flows mühelos als Azure KI-Endpunkte bereitstellen und ihre Leistung in Echtzeit überwachen, um einen optimalen Betrieb und kontinuierliche Verbesserungen zu gewährleisten.
Enterprise Readiness Solutions: Prompt flow verwendet solide Azure KI Enterprise Readiness-Lösungen, die eine sichere, skalierbare und zuverlässige Grundlage für die Entwicklung, Erprobung und Bereitstellung von Flows bieten.

Mit prompt flow in Azure KI Studio können Sie Eingabeaufforderungsagilität, effektive Zusammenarbeit und Lösungen auf Unternehmensniveau für eine erfolgreiche LLM-basierte Anwendungsentwicklung und -bereitstellung bereitstellen.

Lebenszyklus der Flow-Entwicklung

Prompt flow bietet einen klar definierten Prozess, der die nahtlose Entwicklung von KI-Anwendungen erleichtert. Damit können Sie die Phasen der Entwicklung, des Testens, der Abstimmung und des Einsatzes von Flows effektiv durchlaufen, was schließlich zur Erstellung vollwertiger KI-Anwendungen führt.

Der Lebenszyklus umfasst die folgenden Phasen:

Initialisierung: Identifizieren Sie den geschäftlichen Anwendungsfall, sammeln Sie Beispieldaten, erfahren Sie, wie Sie einen einfachen Prompt erstellen, und entwickeln Sie einen Flow, der seine Funktionen erweitert.
Experimente: Führen Sie den Flow anhand von Beispieldaten aus, werten Sie die Leistung des Prompts aus, und iterieren Sie den Flow bei Bedarf. Experimentieren Sie so lange, bis Sie mit den Ergebnissen zufrieden sind.
Auswertung und Verfeinerung: Beurteilen Sie die Leistung des Flows, indem Sie ihn gegen ein größeres Dataset laufen lassen, bewerten Sie die Effektivität der Eingabeaufforderung und verbessern Sie diese bei Bedarf. Fahren Sie mit der nächsten Phase fort, wenn die Ergebnisse die gewünschten Kriterien erfüllen.
Produktion: Optimieren Sie die Effizienz und Effektivität des Flows, stellen Sie ihn bereit, überwachen Sie seine Leistung in einer Produktionsumgebung, und sammeln Sie Nutzungsdaten und Feedback. Verwenden Sie diese Informationen dazu, den Ablauf zu verbessern und bei früheren Phasen nachfolgender Iterationen zu helfen.

Dank dieses strukturierten und methodischen Ansatzes können Sie mit Prompt flow zuverlässige Flows entwickeln, rigoros testen, fein abstimmen und bereitstellen, um robuste und anspruchsvolle KI-Anwendungen zu erstellen.

Flowtypen

In Azure KI Studio können Sie einen neuen Flow starten, indem Sie einen Flowtyp oder eine Vorlage aus dem Katalog auswählen.

Hier sind einige Beispiele für Flowtypen:

Standardflow: Der Standardflow ist für die allgemeine Anwendungsentwicklung konzipiert und ermöglicht Ihnen die Erstellung eines Flows unter Verwendung einer breiten Palette integrierter Tools für die Entwicklung LLM-basierter Anwendungen. Er bietet Flexibilität und vielfältige Anwendungsmöglichkeiten für die Entwicklung von Anwendungen in verschiedenen Bereichen.
Chatflow: Der auf die Entwicklung von Konversationsanwendungen zugeschnittene Chatflow baut auf den Fähigkeiten des Standardflows auf und bietet erweiterte Unterstützung für Chat-Eingaben/-Ausgaben und die Verwaltung des Chatverlaufs. Mit dem nativen Konversationsmodus und den integrierten Funktionen können Sie ihre Anwendungen nahtlos in einem Konversationskontext entwickeln und debuggen.
Auswertungsflow: Der Auswertungsflow wurde für Evaluierungsszenarien entwickelt und ermöglicht es Ihnen, einen Flow zu erstellen, der die Ausgaben früherer Flowausführungen als Eingaben verwendet. Mit diesem Flowtyp können Sie die Leistung früherer Ausführungsergebnisse bewerten und relevante Metriken ausgeben, was die Bewertung und Verbesserung ihrer Modelle oder Anwendungen erleichtert.

Flows

Ein Flow fungiert in Prompt-Flow als ausführbarer Workflow, der die Entwicklung Ihrer LLM-basierten KI-Anwendung optimiert. Er bietet ein umfassendes Framework für die Verwaltung des Datenflusses und der Verarbeitung in Ihrer Anwendung.

Innerhalb eines Flows stehen Knoten im Mittelpunkt, die bestimmte Tools mit einzigartigen Funktionen bereitstellen. Diese Knoten dienen zur Datenverarbeitung und Aufgabenausführung sowie für algorithmische Vorgänge mit Ein- und Ausgaben. Durch das Verbinden von Knoten richten Sie eine nahtlose Kette von Vorgängen ein, die den Datenfluss durch Ihre Anwendung festlegt.

Um die Knotenkonfiguration und Feinabstimmung zu erleichtern, wird eine visuelle Darstellung der Workflowstruktur über ein DAG-Diagramm (Gerichteter azyklischer Graph) bereitgestellt. Dieser Graph veranschaulicht die Konnektivität und die Abhängigkeiten zwischen Knoten und bietet eine klare Übersicht über den gesamten Workflow.

Mit der Flowfunktion in Prompt-Flow haben Sie die Möglichkeit, die Logik Ihrer KI-Anwendung zu entwerfen, anzupassen und zu optimieren. Die zusammenhängende Anordnung der Knoten gewährleistet eine effiziente Datenverarbeitung und effektive Flowverwaltung und ermöglicht Ihnen die Erstellung robuster und komplexer Anwendungen.

Prompt-flow-Tools

Tools sind die grundlegenden Bausteine eines Flows.

In Azure KI Studio umfassen Tooloptionen das LLM-Tool, das Eingabeaufforderungstool, das Python-Tool und mehr.

Jedes Tool ist eine einfache, ausführbare Einheit mit einer bestimmten Funktion. Durch die Kombination verschiedener Tools können Sie einen Flow erstellen, mit dem Sie eine Vielzahl von Zielen erreichen. Sie können beispielsweise das LLM-Tool verwenden, um Text zu generieren oder einen Artikel zusammenzufassen und das Python-Tool, um den Text zu verarbeiten, um die nächste Flow-Komponente oder das Ergebnis zu ermitteln.

Einer der wichtigsten Vorteile von Prompt-Flow-Tools ist die nahtlose Integration mit Drittanbieter-APIs und Open-Source-Python-Paketen. Dies verbessert nicht nur die Funktionalität von LLMs, sondern macht auch den Entwicklungsprozess effizienter.

Wenn die prompt-flow-Tools in Azure KI Studio nicht Ihren Anforderungen entsprechen, können Sie diese Führungslinie befolgen, um Ihr eigenes benutzerdefiniertes Tool zu entwickeln und daraus ein Toolpaket erstellen. Weitere benutzerdefinierte Tools, die von der Open Source-Community entwickelt wurden, finden Sie auf dieser Seite.

Freigeben über