Einleitung

  • 3 Minuten

Große Sprachmodelle können Fragen beantworten, Inhalte zusammenfassen und Text generieren. Aber sie wissen nur, was sie während des Trainings gelernt haben. Fragen Sie nach Produkten, Kundenbestellungen oder kompatiblen Komponenten Ihres Unternehmens, und das Modell hat keine nützliche Antwort. Retrieval Augmented Generation (RAG) löst dieses Problem, indem dem Modell Zugriff auf Ihre Daten bei der Abfrage gewährt wird. Anstatt zu hoffen, dass das Modell Ihren Produktkatalog kennt, rufen Sie die relevanten Produkte aus Ihrer Datenbank ab und fügen sie in die Eingabeaufforderung ein. Das Modell generiert dann eine Antwort, die in tatsächlichen aktuellen Informationen geerdet wird.

RAG sorgt für die KI-Verarbeitung innerhalb der Datenbankebene, in der Ihre Daten bereits gespeichert sind. Dieser Ansatz verhindert das Verschieben von Daten zwischen Systemen und ermöglicht es Ihnen, Transact-SQL zu verwenden, um zu steuern, welchen Kontext das Modell empfängt. Das Ergebnis ist eine Anwendung, die bestimmte Fragen mit realen, aktuellen Informationen aus Ihren Tabellen beantworten kann.

Stellen Sie sich ein Einzelhandelsteam vor, das eine Kundensupportanwendung auf einer Produktdatenbank aufbaut. Ein Kunde fragt: "Welche Handschuhe funktionieren am besten für kaltes Wetter radfahren?" Die Anwendung muss den Produktkatalog durchsuchen, passendes Zubehör finden und eine hilfreiche Antwort mithilfe einer LLM generieren. Dieser Workflow ist ein Beispiel für RAG (Retrieve, Augment, Generate): Abrufen relevanter Daten, Erweitern des Prompts mit diesen Daten und Erzeugen einer fundierten Antwort. Durch die Erstellung dieses Workflows in SQL behält das Team den Abrufschritt in der Nähe der Daten und vermeidet das Erstellen eines separaten Abrufdiensts.

Nach Abschluss dieses Moduls werden Sie zu Folgendem in der Lage sein:

  • Ermitteln Sie, wann RAG der richtige Ansatz für Ihre Anwendung ist.
  • Konvertieren Sie SQL-Abfrageergebnisse in JSON für die LLM-Verarbeitung (Large Language Model).
  • Erstellen Sie Eingabeaufforderungen, die Anweisungen mit Datenbankkontext kombinieren.
  • Rufen Sie LLM-Endpunkte aus SQL auf.
  • Analysieren Sie LLM-Antworten, und geben Sie Antworten an die Anwendung zurück.