Konzepte: KI auf Azure Databricks

Eine KI-App ist eine Anwendung, die KI-Modelle (z. B. große Sprachmodelle, Bildgenerierungsmodelle und Text-zu-Sprache-Modelle) verwendet, um neue Ausgaben zu erstellen, komplexe Aufgaben zu automatisieren oder intelligente Interaktionen auf der Grundlage der Benutzereingabe durchzuführen.

Eine KI-App kann durch einfache Aufrufe von LLMs oder anderen AI-Modellen oder von komplexen Agents unterstützt werden. Erfahren Sie mehr über Komplexitätsstufen.

Agents, Tools, Auswertungen, Modelle und andere Aspekte von KI-Apps können mit Ihren proprietären Daten angepasst werden. Diese datengesteuerte Anpassung führt zu Datenintelligenz, sodass Sie über die allgemeine Intelligenz hinausgehen können, die von vorgefertigten AI-Modellen angeboten wird.

KI-Anwendungen

Eine benutzerorientierte KI-Anwendung kann viele Formen annehmen, z. B.:

Erfolg mit KI-Anwendungen erfordert häufig zwei Sätze von Fähigkeiten: Anwendungsentwicklung und KI-Bewertung. Die KI-App-Entwicklung ähnelt der Entwicklung von Nicht-KI-Anwendungen und erfordert Softwarekompetenzen, die von der Art der Anwendung abhängen. Die Auswertung für KI-Anwendungen erfordert jedoch spezielle Tools und Techniken, um die Komplexität und offene Antworten von KI zu bewältigen.

Weitere Informationen zum Erstellen branchenspezifischer KI-Apps auf Azure Databricks finden Sie unter:

KI-Bewertung

KI-Modelle, Agents und Anwendungen weisen häufig komplexes, offenes Verhalten auf. Benutzer können beliebige Abfragen eingeben. Ein Agent kann während der Ausführung Text, Bilder und mehr sammeln dürfen. Die Ausgabe kann beliebiger Text, Bilder oder andere Medien sein, und es kann viele "gute" Antworten geben.

Diese Komplikationen machen es schwierig, KI auszuwerten. Für eine ordnungsgemäße Auswertung ist Folgendes erforderlich:

  • Automatisierung mit KI zur Bewertung von KI
  • Menschliches Feedback von Experten und Nutzern zur Sammlung von Ground-Truth-Daten und zur Kalibrierung der automatisierten Auswertung.
  • Tiefergehende Einblicke in komplexe Agents, um das Verhalten zu verstehen und zu debuggen

Das von Azure Databricks verwaltete MLflow und die zugehörigen Tools bilden die Grundlage für die KI-Evaluierung:

Agenten

Ein Agent- oder Agent-System ist ein KI-gesteuertes System, das autonom erkennen, entscheiden und in einer Umgebung handeln kann, um Ziele zu erreichen. Im Gegensatz zu einem eigenständigen KI-Modell, das nur auf Aufforderung hin eine Ausgabe erzeugt, verfügt ein Agentensystem über ein gewisses Maß an Handlungsfähigkeit. Moderne Agenten verwenden ein KI-Modell als "Gehirn" eines Systems, das:

  1. Empfängt Benutzeranforderungen oder Nachrichten von einem anderen Agent.
  2. Gründe für die Vorgehensweise: welche Daten abgerufen werden sollen, welche Logik angewendet werden soll, welche Tools aufgerufen werden sollen oder ob mehr Eingaben vom Benutzer angefordert werden sollen.
  3. Führt einen Plan aus und ruft möglicherweise mehrere Tools auf oder delegiert an Unteragenten.
  4. Gibt eine Antwort zurück oder fordert den Benutzer zur zusätzlichen Klarstellung auf.

Durch die Überbrückung von allgemeiner Intelligenz (den vortrainierten Fähigkeiten des KI-Modells) und Datenintelligenz (dem spezialisierten Wissen und den für Ihr Unternehmen spezifischen APIs) ermöglichen Agentensysteme hochwirksame Unternehmensanwendungsfälle wie fortschrittliche Kundendienstabläufe, datenreiche Analyse-Bots und die Multi-Agenten-Orchestrierung für komplexe betriebliche Aufgaben.

Es gibt ein Kontinuum von einfachen KI-Modellen bis hin zu komplexen Agenten. Weitere Informationen finden Sie unter Agent-Systementwurfsmuster.

Azure Databricks bietet eine Reihe von Optionen für die Erstellung von Agenten, von vollständig geführt bis vollständig benutzerdefiniert.

  • AI Playground bietet eine Benutzeroberfläche für die Prototyperstellung von Toolanruf-Agents, aus denen Sie generierten Agent-Code exportieren können.
  • Mit benutzerdefinierten Agents können Sie Agents mithilfe von benutzerdefiniertem Code oder Agenterstellungsbibliotheken von Drittanbietern erstellen und bereitstellen.

-Tools

Agents können Tools aufrufen, um Informationen zu sammeln oder Aktionen auszuführen. Tools sind Einzelinteraktionsfunktionen, die ein LLM aufrufen kann, um eine gut definierte Aufgabe auszuführen. Das KI-Modell generiert in der Regel Parameter für jeden Toolaufruf, und das Tool bietet eine einfache Eingabeausgabeinteraktion.

Zu den gängigen Toolkategorien gehören:

  • Tools zum Abrufen oder Analysieren von Daten
    • Semantischer Abruf: Abfragen eines Vektorindexes, um relevante Text oder andere unstrukturierte Daten zu finden.
    • Strukturiertes Abrufen: Führen Sie SQL-Abfragen aus, oder verwenden Sie APIs zum Abrufen strukturierter Informationen.
    • Websuchtool: Durchsuchen sie das Internet oder einen internen Webkorpus.
    • Klassische ML-Modelle: Rufen Sie Machine Learning-Modelle auf, um Klassifizierungen, Regressionen oder andere Vorhersagen durchzuführen.
    • KI-Modelle: Generieren Sie spezielle Ausgaben wie Code oder Bilder.
  • Tools zum Ändern des Zustands eines externen Systems
    • API-Aufruf: Aufrufen von CRM-Endpunkten, internen Diensten oder anderen Drittanbieterintegrationen.
    • Integration von E-Mail- oder Messaging-Apps: Senden einer Nachricht oder Senden einer Benachrichtigung.
  • Tools, die Logik ausführen oder eine bestimmte Aufgabe ausführen
    • Codeausführung: Führen Sie vom Benutzer bereitgestellten oder LLM-generierten Code in einer Sandbox aus.

Tools können in agentische Logik integriert oder mithilfe standardisierter Schnittstellen wie MCP aufgerufen werden.

Tools und Agenten:

  • Tools führen einen einzelnen, gut definierten Vorgang aus. Agenten können eher offene, unbestimmte Aufgaben ausführen.
  • Tools sind im Allgemeinen zustandslos und pflegen keinen fortlaufenden Kontext über einzelne Aufrufe hinaus. Agents behalten den Zustand bei, während sie Aufgaben iterativ lösen.

Toolfehlerbehandlung und Sicherheit:

Da es sich bei jedem Toolaufruf um einen externen Vorgang wie einen API-Aufruf handelt, sollte das System Fehler ordnungsgemäß behandeln. Zeitüberschreitungen, falsch formatierte Antworten oder ungültige Eingaben sollten nicht dazu führen, dass der Agent vollständig ausfällt. Beschränken Sie in der Produktion die Anzahl der zulässigen Toolaufrufe, weisen Sie eine Fallbackantwort auf, wenn Toolaufrufe fehlschlagen, und wenden Sie Schutzläufe an, um sicherzustellen, dass das Agentsystem nicht wiederholt dieselbe fehlerhafte Aktion versucht.

Erfahren Sie mehr über KI-Tools in Databricks:

KI-Modelle und LLMs

Große Sprachmodelle (LLMs) sind KI-Modelle, die auf massiven Textdatensätzen trainiert werden und die menschliche Sprache verstehen, generieren und darüber logisch nachdenken können. LLMs treiben Anwendungen wie Chatbots, Code-Assistenten und Tools zur Inhaltsgenerierung an, indem sie durch Vorhersagen und Erzeugen kontextbezogener Texte basierend auf Eingabeaufforderungen funktionieren.

Im Allgemeinen werden KI-Modelle oder Foundation-Modelle auf massivem Text, Bild, Video, Audio oder anderen Daten trainiert, um mehr über Text hinausgehende Modi zu erfahren. Multi-modale Modelle lernen, die menschliche Sprache mit Bildern, Audio und anderen Medien zu verbinden. LLMs sind eine Art von KI oder Foundation-Modell, obwohl diese Begriffe häufig lose und austauschbar verwendet werden.

KI-Modelle bieten die Intelligenz hinter Agents und Apps. Einfache Apps werden häufig mit einem einzigen Modell erstellt, das mit promptem Engineering angepasst wurde.

Erfahren Sie mehr über die Verwendung von KI-Modellen auf Azure Databricks:

Prompt Engineering

KI-Modelle verwenden in der Regel Eingabeaufforderungen oder Anweisungen, die dem Modell mitteilen, wie Benutzereingaben behandelt werden. Aufforderungen können mit detaillierten Schritten, Expertenwissen, Daten und anderen Informationen stark angepasst werden.

Azure Databricks bietet flexible Möglichkeiten, ein promptes Engineering zu erledigen. Beispiel:

  • Der Wissensassistent automatisiert das Prompt-Engineering im Hintergrund, basierend auf Ihren Daten und Ihrem Feedback.

Optimierung von Modellen

KI-Modelle können auch durch Feinabstimmung angepasst werden, wodurch ein Modell für eine bestimmte Domäne oder Anwendung mithilfe Ihrer benutzerdefinierten Daten angepasst wird.

Azure Databricks bietet flexible Möglichkeiten zum Optimieren von Modellen. Beispiel:

  • Der Wissensassistent automatisiert die datengesteuerte Anpassung mit dem Potenzial, im Hintergrund Feinabstimmungen durchzuführen.
  • AI-Runtime bietet Computeinfrastruktur für vollständig anpassbare Feinabstimmungen. Siehe Beispiele.

Was ist eine KI-Plattform?

KI erfordert eine kombinierte Daten+ KI-Plattform. Für Entwickler und Administratoren müssen die wichtigsten Komponenten für KI in einer einfachen, einheitlichen Plattform verbunden und gesteuert werden.

Zu den wichtigsten Komponenten gehören:

  • KI-Ressourcen wie Modelle, Agents und Apps
  • Datenressourcen wie Dateien, Tabellen, Verarbeitungspipelinen, Vektorindizes und Featurespeicher
  • KI-Bereitstellungen wie Endpunkte für Modelle und Agenten
  • Tools zum Erstellen und Bereitstellen von KI- und Datenressourcen

Zu den wichtigsten Governancefunktionen gehören:

Siehe auch Azure Databricks KI-Funktionen und Databricks-Architektur.

Allgemeine Intelligenz im Vergleich zu Datenintelligenz

Diagramm, das allgemeine Intelligenz im Vergleich zur Datenintelligenz vergleicht.

  • Universelle Intelligenz bezeichnet das, was das LLM inhärent aus einem breit gefächerten Vorabtraining mit vielfältigen Texten weiß. Dies ist nützlich für Sprachflüssigkeit und allgemeines Denken.
  • Datenintelligenz bezieht sich auf die domänenspezifischen Daten und APIs Ihrer Organisation. Dies kann Kundendatensätze, Produktinformationen, Wissensdatenbanken oder Dokumente umfassen, die Ihre einzigartige Geschäftsumgebung widerspiegeln.

Agentsysteme mischen diese beiden Wissensquellen: Sie beginnen mit dem breiten, generischen Wissen eines LLM und bringen dann Echtzeit- oder domänenspezifische Daten ein, um detaillierte Fragen zu beantworten oder spezielle Aktionen auszuführen. Mit Azure Databricks können Sie Datenintelligenz auf jeder Ebene in Ihre KI-Apps einbetten:

KI vs. ML vs. Deep Learning

Die Grenzen zwischen KI, Maschinellem Lernen (ML) und Deep Learning (DL) können fuzzy sein. Dieser Leitfaden konzentriert sich auf KI, aber die folgenden Databricks-Plattformfeatures unterstützen ML, Deep Learning und KI:

Weitere Ressourcen

  • Last updated on