Notitie
Voor toegang tot deze pagina is autorisatie vereist. U kunt proberen u aan te melden of de directory te wijzigen.
Voor toegang tot deze pagina is autorisatie vereist. U kunt proberen de mappen te wijzigen.
In dit artikel wordt DSPy beschreven en worden voorbeeldnotebooks weergegeven waarin wordt gedemonstreerd hoe u DSPy in Azure Databricks gebruikt om generatieve AI-agents te bouwen en optimaliseren.
Wat is DSPy?
DSPy is een framework voor het programmatisch definiëren en optimaliseren van generatieve AI-agents. DSPy kan prompt engineering automatiseren en LLM fine-tuning organiseren om de prestaties te verbeteren.
DSPy bestaat uit verschillende onderdelen die de ontwikkeling van agents vereenvoudigen en de kwaliteit van de agent verbeteren:
- Modules: in DSPy zijn dit onderdelen die specifieke teksttransformaties verwerken, zoals vragen beantwoorden of samenvatten. Ze vervangen traditionele handgeschreven prompts en kunnen leren van voorbeelden, waardoor ze beter kunnen worden aangepast.
- Handtekeningen: Een beschrijving van natuurlijke taal van het invoer- en uitvoergedrag van een module. Bijvoorbeeld: 'vraag -> antwoord' geeft aan dat de module een vraag als invoer moet nemen en een antwoord moet retourneren.
- Compiler: Dit is het optimalisatiehulpprogramma van DSPy. Het verbetert LM-pijplijnen door modules aan te passen aan een prestatiemetriek, hetzij door betere prompts te genereren of modellen te verfijnen.
- Program (DSPy): een set modules die zijn verbonden met een pijplijn om complexe taken uit te voeren. DSPy-programma's zijn flexibel, zodat u ze kunt optimaliseren en aanpassen met behulp van de compiler.
Een DSPy-programma voor tekstclassificatie maken
In het volgende notebook ziet u hoe u een DSPy-programma maakt waarmee tekstclassificatie wordt uitgevoerd. In dit voorbeeld ziet u hoe DSPy werkt en welke onderdelen worden gebruikt.
Een DSPy-programmanotebook voor tekstclassificatie maken
Een vectorzoekindex gebruiken met een DSPy-programma voor RAG
In het volgende notebook ziet u hoe u een vectorzoekindex maakt en gebruikt met een DSPy-programma waarmee RAG wordt uitgevoerd.
Een DSPy-programmanotebook voor tekstclassificatie maken
Multi-agent systeem met Genie en DSPy
De volgende notebook laat u zien hoe u een multi-agent systeem creëert dat deze types agents orkestreert.
- Genie Spaces
- Agents die zijn uitgerold voor Model Serving
- UC-functie-aanroepagents ontwikkeld met DSPy.
Meerdere agents die Genie en DSPy gebruiken
Een DSPy-programma maken voor RAG
Deze notebooks laten zien hoe u een eenvoudig RAG-programma maakt en optimaliseert met behulp van DSPy. Bij deze notebooks wordt ervan uitgegaan dat u serverloze berekeningen gebruikt en dat pakketten op notebookniveau worden geïnstalleerd om ervoor te zorgen dat ze onafhankelijk van de Databricks Runtime-versie worden uitgevoerd.
Deel 1: Gegevens en vectorzoekindex voorbereiden voor een RAG DSPy-programmanotitieblok
Deel 2: Een DSPy-programma voor RAG-notebook maken en optimaliseren
LangChain migreren naar DSPy
Deze notebooks laten zien hoe u LangChain-modelcode migreert naar DSPy en optimaliseert voor betere prestaties. Bij deze notebooks wordt ervan uitgegaan dat u serverloze berekeningen gebruikt en dat pakketten op notebookniveau worden geïnstalleerd om ervoor te zorgen dat ze onafhankelijk van de Databricks Runtime-versie worden uitgevoerd.