Hinweis
Für den Zugriff auf diese Seite ist eine Autorisierung erforderlich. Sie können versuchen, sich anzumelden oder das Verzeichnis zu wechseln.
Für den Zugriff auf diese Seite ist eine Autorisierung erforderlich. Sie können versuchen, das Verzeichnis zu wechseln.
In diesem Artikel werden DSPy beschrieben und Beispielnotizbücher bereitgestellt, die zeigen, wie Sie DSPy auf Azure Databricks verwenden, um generative KI-Agents zu erstellen und zu optimieren.
Was ist DSPy?
DSPy ist ein Framework zum programmgesteuerten Definieren und Optimieren von generativen KI-Agents. DSPy kann das Prompt-Engineering automatisieren und die Feinabstimmung von LLMs orchestrieren, um die Leistung zu verbessern.
DSPy besteht aus mehreren Komponenten, die die Agententwicklung vereinfachen und die Agentqualität verbessern:
- Module: In DSPy sind dies Komponenten, die bestimmte Texttransformationen behandeln, z. B. beantworten von Fragen oder Zusammenfassungen. Sie ersetzen traditionelle handschriftliche Eingabeaufforderungen und können aus Beispielen lernen, wodurch sie anpassbarer werden.
- Signaturen: Eine Beschreibung der natürlichen Sprache des Eingabe- und Ausgabeverhaltens eines Moduls. Beispielsweise gibt "Frage -> Antwort" an, dass das Modul eine Frage als Eingabe annehmen und eine Antwort zurückgeben soll.
- Compiler: Dies ist das Optimierungstool von DSPy. Dies verbessert LM-Pipelines, indem Module angepasst werden, um eine Leistungsmetrik zu erfüllen. Dies geschieht entweder durch das Erzeugen besserer Prompts oder durch Feinabstimmung der Modelle.
- Programm (DSPy): Eine Reihe von Modulen, die mit einer Pipeline verbunden sind, um komplexe Aufgaben auszuführen. DSPy-Programme sind flexibel, sodass Sie sie mithilfe des Compilers optimieren und anpassen können.
Erstellen eines DSPy-Programms für Textklassifizierer
Das folgende Notizbuch zeigt, wie Sie DSPy-Programm erstellen, das die Textklassifizierung durchführt. In diesem Beispiel wird veranschaulicht, wie DSPy funktioniert und welche Komponenten verwendet werden.
Erstellen eines DSPy-Programmnotizbuchs für textklassifizierer
Einen AI Search-Index mit einem DSPy-Programm für RAG verwenden
Das folgende Notizbuch zeigt, wie Sie einen AI Search-Index erstellen und mit einem DSPy-Programm verwenden, das RAG ausführt.
Erstellen eines DSPy-Programmnotizbuchs für textklassifizierer
Multi-Agent-System mit Genie und DSPy
Das folgende Notizbuch zeigt, wie Sie ein Multi-Agent-System erstellen, das diese Arten von Agents koordiniert:
- Genie Agents
- In Model Serving bereitgestellte Agenten
- UC-Funktionsaufruf-Agenten, die mit DSPy erstellt wurden.
Multi-Agent mit Genie und DSPy
Erstellen eines DSPy-Programms für RAG
Diese Notizbücher zeigen Ihnen, wie Sie ein grundlegendes RAG-Programm mit DSPy erstellen und optimieren. Bei diesen Notizbüchern wird davon ausgegangen, dass Sie serverlose Berechnungen verwenden und Pakete auf Notizbuchebene installieren, um sicherzustellen, dass sie unabhängig von der Databricks-Runtime-Version ausgeführt werden.
Teil 1: Vorbereiten von Daten und des KI-Suchindex für ein RAG-DSPy-Programmnotizbuch
Teil 2: Erstellen und Optimieren eines DSPy-Programms für ein RAG-Notizbuch
Migrieren von LangChain zu DSPy
Diese Notizbücher zeigen, wie LangChain-Modellcode zu DSPy migriert und optimiert wird, um eine bessere Leistung zu erzielen. Bei diesen Notizbüchern wird davon ausgegangen, dass Sie serverlose Berechnungen verwenden und Pakete auf Notizbuchebene installieren, um sicherzustellen, dass sie unabhängig von der Databricks-Runtime-Version ausgeführt werden.