Introductie
Grote taalmodellen kunnen vragen beantwoorden, inhoud samenvatten en tekst genereren. Maar ze weten alleen wat ze hebben geleerd tijdens de training. Vraag naar de producten, klantorders of compatibele onderdelen van uw bedrijf en het model heeft geen nuttig antwoord. Retrieval Augmented Generation (RAG) lost dit probleem op door het model toegang te geven tot uw gegevens tijdens het uitvoeren van een query. In plaats van te hopen dat het model uw productcatalogus kent, haalt u de relevante producten op uit uw database en neemt u ze op in de prompt. Het model genereert vervolgens een antwoord dat is geaard in werkelijke, actuele informatie.
RAG houdt AI-verwerking in de databaselaag, waar uw gegevens zich al bevinden. Met deze aanpak voorkomt u het verplaatsen van gegevens tussen systemen en kunt u Transact-SQL gebruiken om te bepalen welke context het model ontvangt. Het resultaat is een toepassing die specifieke vragen kan beantwoorden met behulp van echte, up-to-datumgegevens uit uw tabellen.
Stel dat een retailteam een klantondersteuningstoepassing bouwt boven op een productdatabase. Een klant vraagt 'Welke handschoenen werken het beste voor koud weer fietsen?' De toepassing moet zoeken in de productcatalogus, overeenkomende accessoires zoeken en een nuttig antwoord genereren met behulp van een LLM. Deze werkstroom is RAG in actie: relevante gegevens ophalen, de prompt met die gegevens uitbreiden en een geaard antwoord genereren. Door deze werkstroom in SQL te bouwen, houdt het team de stap voor het ophalen dicht bij de gegevens en voorkomt het bouwen van een afzonderlijke ophaalservice.
Nadat u deze module hebt voltooid, kunt u het volgende doen:
- Bepaal wanneer RAG de juiste aanpak is voor uw toepassing.
- Converteer SQL-queryresultaten naar JSON voor LLM-verwerking (Large Language Model).
- Bouw prompts die instructies combineren met databasecontext.
- ROEP LLM-eindpunten aan vanuit SQL.
- Parseer LLM-antwoorden en retourneer antwoorden naar uw applicatie.