Einführung in Spring AI und Azure OpenAI
Spring AI ist ein leistungsstarkes Framework, das die Integration von KI-Funktionen in Java-Anwendungen vereinfacht. In diesem Modul erfahren Sie, wie Sie mit Spring AI mit Azure OpenAI eine KI-basierte Anwendung und KI-Agents erstellen und in Azure-Container-Apps bereitstellen.
Was ist Spring AI?
Spring AI bietet die folgenden Abstraktionen und Tools, die das Arbeiten mit verschiedenen KI-Modellen und -Diensten erleichtern:
- Die ChatClient-API: eine Kernstraktion für die Interaktion mit großen Sprachmodellen (LLMs).
- Mehrere KI-Modellanbieter: Unterstützung für alle wichtigen KI-Modellanbieter, einschließlich Azure OpenAI.
- Einbettungen: Generieren Sie Vektoreinbettungen für die semantische Suche.
- Vektorspeicherintegration: integrierte Unterstützung für Vektordatenbanken, z. B.
pgvector. - Advisors API: kapselt generative AI-Muster – beispielsweise zum Implementieren der Retrieval Augmented Generation (RAG).
RAG-Implementierung
Eine RAG-Anwendung verfügt in der Regel über die folgenden Funktionen:
- Konvertiert Benutzerfragen in Vektoreinbettungen.
- Sucht ähnliche vorherige Eingabeaufforderungen und Antworten mithilfe der Vektorähnlichkeitssuche.
- Verwendet gefundene Antworten als Kontext zum Generieren von Antworten.
- Speichert Interaktionen für zukünftige Verweise.
Agents und Workflows
Spring AI ermöglicht Es Ihnen auch, dynamische KI-Agents und orchestrierte Workflows zu erstellen. Obwohl verschiedene Muster vorhanden sind – z. B. Kette, Parallelisierung und Routing – konzentriert sich dieses Modul ausschließlich auf den Evaluator-Optimizer-Workflow .
Dieses Muster verfeinert iterativ die Ausgaben durch eine Generator-Evaluator-Schleife und gewährleistet so qualitativ hochwertige und adaptive KI-Antworten.
Gründe für die Verwendung von Azure OpenAI- und Container-Apps
Azure OpenAI bietet eine sichere und skalierbare Plattform für die Bereitstellung von KI-Modellen mit Features auf Unternehmensniveau. Sie stellt Datenschutz und Compliance sicher, sodass sie für vertrauliche Anwendungen geeignet ist und nahtlos in andere Azure-Dienste integriert wird.
Azure Container Apps bietet eine serverlose Umgebung zum Ausführen von containerisierten Anwendungen mit automatischer Skalierung basierend auf Bedarf und vereinfacht die Microservice-Bereitstellung und -Verwaltung.
Azure PostgreSQL ist ein vollständig verwalteter Datenbankdienst, der erweiterte Features wie die Vektorsuche unterstützt und hohe Verfügbarkeit, Sicherheit und Leistung für große Datasets bereitstellt, die in KI-Modellen verwendet werden.
Lernziele
Nach Abschluss dieses Moduls werden Sie zu Folgendem in der Lage sein:
- Grundlegendes zu Spring AI-Abstraktionen und Azure OpenAI-Integration.
- Erstellen und Konfigurieren von Azure PostgreSQL für Vektorspeicher.
- Implementieren Sie eine End-to-End-KI-Anwendung und KI-Agents mit Spring AI.
- Stellen Sie Ihre Anwendung in Azure-Container-Apps bereit und skalieren Sie sie.