Einführung in Spring AI und Azure OpenAI

Abgeschlossen

Spring AI ist ein leistungsstarkes Framework, das die Integration von KI-Funktionen in Java-Anwendungen vereinfacht. In diesem Modul erfahren Sie, wie Sie mit Spring AI mit Azure OpenAI eine KI-basierte Anwendung und KI-Agents erstellen und in Azure-Container-Apps bereitstellen.

Was ist Spring AI?

Spring AI bietet die folgenden Abstraktionen und Tools, die das Arbeiten mit verschiedenen KI-Modellen und -Diensten erleichtern:

  • Die ChatClient-API: eine Kernstraktion für die Interaktion mit großen Sprachmodellen (LLMs).
  • Mehrere KI-Modellanbieter: Unterstützung für alle wichtigen KI-Modellanbieter, einschließlich Azure OpenAI.
  • Einbettungen: Generieren Sie Vektoreinbettungen für die semantische Suche.
  • Vektorspeicherintegration: integrierte Unterstützung für Vektordatenbanken, z. B. pgvector.
  • Advisors API: kapselt generative AI-Muster – beispielsweise zum Implementieren der Retrieval Augmented Generation (RAG).

RAG-Implementierung

Eine RAG-Anwendung verfügt in der Regel über die folgenden Funktionen:

  • Konvertiert Benutzerfragen in Vektoreinbettungen.
  • Sucht ähnliche vorherige Eingabeaufforderungen und Antworten mithilfe der Vektorähnlichkeitssuche.
  • Verwendet gefundene Antworten als Kontext zum Generieren von Antworten.
  • Speichert Interaktionen für zukünftige Verweise.

Agents und Workflows

Spring AI ermöglicht Es Ihnen auch, dynamische KI-Agents und orchestrierte Workflows zu erstellen. Obwohl verschiedene Muster vorhanden sind – z. B. Kette, Parallelisierung und Routing – konzentriert sich dieses Modul ausschließlich auf den Evaluator-Optimizer-Workflow .

Dieses Muster verfeinert iterativ die Ausgaben durch eine Generator-Evaluator-Schleife und gewährleistet so qualitativ hochwertige und adaptive KI-Antworten.

Gründe für die Verwendung von Azure OpenAI- und Container-Apps

Azure OpenAI bietet eine sichere und skalierbare Plattform für die Bereitstellung von KI-Modellen mit Features auf Unternehmensniveau. Sie stellt Datenschutz und Compliance sicher, sodass sie für vertrauliche Anwendungen geeignet ist und nahtlos in andere Azure-Dienste integriert wird.

Azure Container Apps bietet eine serverlose Umgebung zum Ausführen von containerisierten Anwendungen mit automatischer Skalierung basierend auf Bedarf und vereinfacht die Microservice-Bereitstellung und -Verwaltung.

Azure PostgreSQL ist ein vollständig verwalteter Datenbankdienst, der erweiterte Features wie die Vektorsuche unterstützt und hohe Verfügbarkeit, Sicherheit und Leistung für große Datasets bereitstellt, die in KI-Modellen verwendet werden.

Lernziele

Nach Abschluss dieses Moduls werden Sie zu Folgendem in der Lage sein:

  • Grundlegendes zu Spring AI-Abstraktionen und Azure OpenAI-Integration.
  • Erstellen und Konfigurieren von Azure PostgreSQL für Vektorspeicher.
  • Implementieren Sie eine End-to-End-KI-Anwendung und KI-Agents mit Spring AI.
  • Stellen Sie Ihre Anwendung in Azure-Container-Apps bereit und skalieren Sie sie.