Entwickeln einer RAG-Anwendung mit Spring AI und Azure OpenAI
In dieser Lektion erfahren Sie, wie Sie die abrufende augmentierte Generation (RAG) in einer Spring Boot-Anwendung mithilfe der Vektorähnlichkeitssuche implementieren, die von der pgvector Erweiterung in einer PostgreSQL-Datenbank bereitgestellt wird. Wir stellen relevante RAG-Konzepte wie Einbettungen, Einbettungsmodelle und Vektorspeicher vor. Am Ende dieser Lektion sollten Sie verstehen, wie Sie diese Tools anwenden, um Ihre Anwendungen mit erweiterten Such- und Abruffunktionen zu verbessern.
Was sind Einbettungen?
Einbettungen sind dichte Vektordarstellungen von Daten. In einfacheren Worten sind Einbettungen eine Möglichkeit, komplexe Daten, wie Wörter oder Bilder, in eine Reihe von Zahlen - Vektoren - zu konvertieren, die ein Computer einfach verarbeiten kann. In der Verarbeitung natürlicher Sprachen (NLP) stellen Einbettungen Wörter, Sätze oder Dokumente als Vektoren in einem hochdimensionalen Raum dar. In diesen Vektoren wird jedes Wort oder jeder Satz als Eine Liste von Zahlen dargestellt. Diese Zahlen sind nicht zufällig, sie sind so konzipiert, dass sie die Bedeutung und beziehungen zwischen den Wörtern erfassen.
Diese Vektoren erfassen semantische Beziehungen und ermöglichen erweiterte Suche und Analyse. Wenn Sie beispielsweise in einer Datenbank nach "Königin" suchen, kann das System auch verwandte Begriffe wie "König" oder "Lizenzgebühren" finden, da sich ihre Vektoren nahe beieinander befinden. Diese Funktion ermöglicht das Einbetten eines leistungsfähigen Tools für Aufgaben wie Suchmaschinen, Empfehlungssysteme und Sprachübersetzung.
Verwenden von Azure OpenAI-Einbettungsmodellen
Einbettungsmodelle sind wesentliche Tools in der Verarbeitung natürlicher Sprache (Natural Language Processing, NLP) und anderer KI-Anwendungen. Sie konvertieren komplexe Daten, z. B. Text, in dichte Vektordarstellungen, die die semantische Bedeutung der Daten erfassen. Diese Vektoren können dann für verschiedene Aufgaben verwendet werden, einschließlich Suche, Empfehlung und Clustering.
Azure OpenAI bietet leistungsstarke Einbettungsmodelle, die Sie problemlos in Ihre Anwendungen integrieren können. Diese Modelle können Einbettungen für verschiedene Datentypen generieren und erweiterte Such- und Abruffunktionen ermöglichen. Eines der am häufigsten verwendeten Texteinbettungsmodelle aus OpenAI ist das text-embedding-ada-002 Modell. Sie können dieses Modell für verschiedene Anwendungen verwenden, einschließlich Such-, Clustering- und Empfehlungssystemen, da sie komplexe Textdaten verstehen und darstellen können. Bei Verwendung mit ChatGPT-Modellen text-embedding-ada-002 verbessert die Fähigkeit des Chatbots, Kontext zu verstehen, relevante Informationen abzurufen und präzisere und kontextbezogenere Antworten bereitzustellen. Mithilfe von text-embedding-ada-002 ChatGPT können Sie intelligentere und reaktionsfähigere Anwendungen erstellen, die eine bessere Benutzererfahrung bieten.
Implementieren von VectorStore in Spring AI
VectorStore ist eine Klasse, die vom Spring AI pgvector Store Spring Boot Starter bereitgestellt wird. Sie vereinfacht die Integration von Vektorspeicher- und Suchfunktionen in Ihre Spring Boot-Anwendungen. Es verwendet die Erweiterung PostgreSQL pgvector , um Dokumenteinbettungen effizient zu speichern und abzufragen.
Sie können die VectorStore Startabhängigkeit des Springstarts zu Ihrem Projekt hinzufügen, indem Sie die folgende Abhängigkeit verwenden:
<dependency>
<groupId>org.springframework.ai</groupId>
<artifactId>spring-ai-pgvector-store-spring-boot-starter</artifactId>
</dependency>
Beim Start versucht der pgvector Spring Boot Starter, die erforderlichen Datenbankerweiterungen zu installieren und die erforderliche vector_store Tabelle mit einem Index zu erstellen, falls er noch nicht vorhanden ist.
Optional können Sie diese Aufgabe stattdessen manuell mithilfe der folgenden SQL-Anweisungen ausführen:
CREATE EXTENSION IF NOT EXISTS vector;
CREATE EXTENSION IF NOT EXISTS hstore;
CREATE EXTENSION IF NOT EXISTS "uuid-ossp";
CREATE TABLE IF NOT EXISTS vector_store (
id uuid DEFAULT uuid_generate_v4() PRIMARY KEY,
content text,
metadata json,
embedding vector(1536) // 1536 is the default embedding dimension
);
CREATE INDEX ON vector_store USING HNSW (embedding vector_cosine_ops);
Dies VectorStore erfordert auch eine EmbeddingModel Instanz zum Berechnen von Einbettungen für die Dokumente. Um das Azure OpenAI Embedding Model zu verwenden, fügen Sie Ihrem Projekt die folgende Abhängigkeit hinzu:
<dependency>
<groupId>org.springframework.ai</groupId>
<artifactId>spring-ai-azure-openai-spring-boot-starter</artifactId>
</dependency>
Beim Starten der Anwendung verwendet Spring Boot autoconfigure VectorStore die folgenden Azure OpenAI-Anwendungseigenschaften:
spring.ai.azure.openai.api-key=${AZURE_OPENAI_API_KEY}
spring.ai.azure.openai.endpoint=${AZURE_OPENAI_ENDPOINT}
spring.ai.azure.openai.chat.model=gpt-4o
spring.ai.azure.openai.embedding.model=text-embedding-ada-002
Hinzufügen von Dokumenten zum Vektorspeicher
Um dem Vektorspeicher Dokumente hinzuzufügen, müssen Sie Einbettungen generieren und zusammen mit dem ursprünglichen Inhalt speichern. Im folgenden Codebeispiel wird gezeigt, wie Sie die VectorStore Klasse in einer Spring Boot-Anwendung zum Speichern und Verwalten von Dokumenten verwenden:
@Autowired
private VectorStore vectorStore;
List<Document> documents = List.of(
new Document("A vector store is a specialized database designed to store and manage high-dimensional vectors. ", Map.of("prompt", "What is Vector Store")),
new Document("PGVectorStore is a Spring Boot starter that simplifies the integration of vector storage and search capabilities into your Spring Boot applications.", Map.of("prompt","Why Use PGVectorStore?"))
);
vectorStore.add(documents);
Die folgende Liste enthält eine ausführliche Erläuterung der Funktionsweise dieses Codes:
- Die Anmerkung von
@AutowiredSpring fügt eine Instanz derVectorStoreKlasse in Ihre Komponente ein. - Es wird eine Liste von
DocumentObjekten erstellt. JedeDocumententhält Inhalt und Metadaten , z. B. eine Eingabeaufforderung. - Die Liste der Dokumente wird der
vectorStore. DieVectorStoregeneriert Einbettungen mithilfe der konfiguriertenEmbeddingModelund speichert sowohl den Inhalt als auch die Einbettungen in der Datenbank.
Abfragedokumente
Nachdem Ihre Dokumente gespeichert wurden, können Sie Ähnlichkeitssuchen durchführen, um Dokumente zu finden, die semantisch einer bestimmten Abfrage ähneln. Im folgenden Codebeispiel wird eine Ähnlichkeitssuche mithilfe der VectorStore Klasse ausgeführt:
List<Document> results = vectorStore.similaritySearch(
SearchRequest.builder()
.query("Spring")
.topK(5)
.build()
);
Die folgende Liste enthält eine ausführliche Erläuterung dieses Beispiels:
- Die
similaritySearchMethode derVectorStoreKlasse wird verwendet, um Dokumente zu finden, die einer bestimmten Abfrage ähneln. - Das Generatormuster erstellt ein
SearchRequestObjekt. - Die
queryMethode legt die Suchzeichenfolge fest. - Der
topK(5)Methodenaufruf gibt an, dass die Suche die fünf am häufigsten ähnlichen Dokumente zurückgibt.
Zusammenfassung der Einheit
In dieser Lektion haben Sie die Konzepte für die Verwendung von Spring Boot's VectorStore und Azure OpenAI Spring Boot Starter zum Verwalten und Abfragen von Dokumenteinbettungen kennengelernt. Sie haben die Bedeutung von Einbettungen untersucht, wie sie generiert und gespeichert werden, und wie Sie Ähnlichkeitssuchen durchführen.