Einführung in generative KI-Apps in Azure Databricks

Mosaik AI unterstützt sowohl einfache als auch komplexe GenAI-Anwendungen, von Retrieval Augmented Generation (RAG)-Chatbots bis hin zu Tool-Calling-Agents. In diesem Leitfaden werden wichtige Konzepte für GenAI-Apps und Agentsysteme auf Databricks erläutert und Anleitungen zum Erstellen, Bewerten und Skalieren von GenAI-Apps bereitgestellt.

Seite	Description
Erste Schritte: No-Code GenAI	Probieren Sie AI Playground für UI-basierte Tests und Prototypen aus.
Erste Schritte: MLflow 3 für GenAI	Testen Sie MLflow für GenAI-Verfolgung, Auswertung und menschliches Feedback.
Konzepte: GenAI auf Databricks	Erfahren Sie mehr über GenAI-Modelle, Agents, Tools und Apps.
Plattform: Wichtige GenAI-Features	Hier finden Sie Details zu den wichtigsten Features von GenAI in Azure Databricks.

Erste Schritte beim Erstellen von GenAI-Apps

Testen Sie UI-basierte und codebasierte GenAI auf Azure Databricks.

Tutorial	Description
Erste Schritte: Abfragen von LLMs und Prototyp-KI-Agents ohne Code	Machen Sie sich mit AI Playground für UI-basierte Tests und Prototypen vertraut.
Erste Schritte: MLflow 3 für GenAI	Testen Sie MLflow für die GenAI-Ablaufverfolgung , -auswertung und das menschliche Feedback.
Erste Schritte beim Abfragen von LLMs auf Databricks	Verwenden Sie Foundation Model-APIs , um GenAI-Modelle mithilfe von Code abzufragen.

Lernen Sie GenAI-Konzepte kennen

Machen Sie sich mit grundlegenden GenAI-Konzepten wie Modellen, Agents, Tools und Apps vertraut.

Guide	Description
Konzepte: Generative KI auf Azure Databricks	Erfahren Sie mehr über GenAI-Modelle, Agents, Tools und Apps.
Wichtige Herausforderungen beim Erstellen von GenAI-Apps	Erfahren Sie mehr über die wichtigsten Herausforderungen von GenAI und wie Databricks sie behandelt.
Agentsystementwurfsmuster	Erfahren Sie mehr über Optionen und Kompromisse für Agentendesigns, von einfachen Ketten bis hin zu komplexen Multi-Agent-Systemen.

Verwenden von Azure Databricks-Features zum Erstellen von GenAI-Apps

Bei No-Code- oder Low-Code-Ansätzen sollten Sie sich zunächst vertraut machen mit:

Merkmal	Description
Agent Bricks	Erstellen und optimieren Sie domänenspezifische, qualitativ hochwertige KI-Agent-Systeme für häufige Anwendungsfälle.
KI-Spielplatz	Führen Sie Abfragen zu GenAI-Modellen und -Agenten durch, betreiben Sie Prompt Engineering und entwickeln Sie Prototypen für Werkzeugaufruf-Agenten in einer Benutzeroberfläche.
KI-Funktionen	Rufen Sie integrierte SQL-Funktionen für KI-Aufgaben auf.

Machen Sie sich zunächst mit den folgenden Code-First-Ansätzen vertraut:

Merkmal	Description
MLflow für GenAI	Verwenden Sie MLflow für Ablaufverfolgung und Observierbarkeit, Auswertung und Überwachung.
Grundlagenmodelle in Model Serving	Verwenden Sie GenAI-Modellendpunkte, einschließlich von Databricks gehosteten Foundation Models-APIs und externen Modellen.
Vektorsuche	Erstellen und Abfragen von Vektorindizes für RAG und andere Agent-Systeme.
Mosaik AI Agent Framework	Erstellen und Bereitstellen von KI-Agents mithilfe von Code.
KI-Gateway	Steuern und Überwachen des Zugriffs auf GenAI-Modelle und -Endpunkte.

Eine detailliertere Liste finden Sie unter Mosaik KI-Funktionen für GenAI.

Allgemeine Intelligenz im Vergleich zu Datenintelligenz

• Allgemeine Intelligenz bezieht sich auf das, was die LLM inhärent von einer breiten Vorschulung auf vielfältigen Text weiß. Dies ist nützlich für Sprachflüssigkeit und allgemeines Denken.
• Datenintelligenz bezieht sich auf die domänenspezifischen Daten und APIs Ihrer Organisation. Dies kann Kundendatensätze, Produktinformationen, Wissensdatenbanken oder Dokumente umfassen, die Ihre einzigartige Geschäftsumgebung widerspiegeln.

Agentsysteme mischen diese beiden Wissensquellen: Sie beginnen mit dem breiten, generischen Wissen eines LLM und bringen dann Echtzeit- oder domänenspezifische Daten ein, um detaillierte Fragen zu beantworten oder spezielle Aktionen auszuführen. Mit Azure Databricks können Sie Datenintelligenz auf jeder Ebene in Ihre GenAI-Apps einbetten:

• Datenquellen wie Vektorindizes und Genie

• Agents, einschließlich benutzerdefinierter Agentendesigns und automatisierte Designs von Agent Bricks

• Auswertungsdaten und Metriken
• Eingabeaufforderungsoptimierung basierend auf Auswertungsdaten

• Modell-Feinabstimmung, einschließlich benutzerdefinierter Feinabstimmung und automatisierter Optimierung durch Agent Bricks

GenAI vs. ML vs. Deep Learning

Die Grenzen zwischen generativer künstlicher Intelligenz (GenAI), Machine Learning (ML) und Deep Learning (DL) können fuzzy sein. Dieser Leitfaden konzentriert sich auf GenAI, aber die folgenden Databricks-Plattformfeatures unterstützen ML, Deep Learning und GenAI:

• Model Serving unterstützt ML-, Deep Learning- und GenAI-Modelle. Sie können es für GenAI-Batchinferenz und zum Bereitstellen von Agenten oder fein abgestimmten Modellen mit benutzerdefinierter Modellbereitstellung verwenden.

• Serverlose GPU-Compute - und GPU-fähige Databricks-Runtime für Maschinelles Lernen können verwendet werden, um ML-, Deep Learning- und GenAI-Modelle zu trainieren und zu optimieren.

• MLflow Experiment Tracking kann verwendet werden, um klassische ML- und GenAI-Experimente und -Läufe zu verfolgen.
• Der Databricks Feature Store kann zum Verwalten und Bedienen strukturierter Daten für klassische ML und GenAI verwendet werden.