Anpassen und Erweitern von KI-Agenten für den Einsatz

  • 8 Minuten

Die Implementierungsmuster aus der vorherigen Einheit gelten für jeden Agent, den Sie erstellen. Verschiedene Szenarien bringen jedoch unterschiedliche Anforderungen mit sich. Ein kundeorientierter Agent benötigt unterhaltungsbezogene Finesse und Datenschutzkontrollen, während ein interner Betriebsmitarbeiter Zuverlässigkeit und Compliance erfordert. In dieser Lektion wird erläutert, wie Sie die Konfiguration und das Verhalten Ihres Agents für diese beiden Bereitstellungskategorien anpassen.

Kundenorientierte Agenten

Agents, die direkt mit Endbenutzern interagieren – z. B. Kundensupport oder Vertriebsassistenten – erfordern zusätzliche Aufmerksamkeit für die Qualität, Personalisierung und Privatsphäre von Unterhaltungen.

Gesprächsqualität

Die Systemaufforderung ist Ihr primäres Tool, um zu steuern, wie der Agent kommuniziert. Definieren Sie die gewünschte Ton-, Stil- und Antwortlänge:

  • Ton und Stil: Schließen Sie Richtlinien wie "Auf freundliche und professionelle Weise antworten" oder "Einfache Sprache verwenden und technisches Jargon vermeiden" ein. Für einen Supportmitarbeiter funktioniert ein einfühlsamer Ton gut. Für einen Vertriebsmitarbeiter kann ein informativerer Ton geeignet sein.
  • Klarstellungsfragen: Weisen Sie den Agenten an, eine Klarstellung zu verlangen, wenn eine Anfrage mehrdeutig ist, anstatt zu erraten. Beispiel: "Wenn die Anfrage des Benutzers unklar ist, stellen Sie eine höfliche Klarstellungsfrage, bevor Sie Maßnahmen ergreifen."
  • Antwortlänge: Leiten Sie den Agent, um Antworten präzise zu halten: "Antworten unter drei Sätzen beibehalten, es sei denn, der Benutzer fordert weitere Details auf."

Diese Richtlinien können iterativ optimiert werden. Testen Sie Konversationsabläufe mit dem Agenten und passen Sie basierend auf den Ergebnissen die Systemaufforderung an.

Personalisierung und Datenschutz

Kundenorientierte Agents greifen häufig auf personenbezogene Daten wie Bestellverlauf und Kontodetails zu. Personalisierung mit Datenschutz ausgleichen:

  • Benutzerkontexteinfügung: Wenn eine Sitzung gestartet wird, werden relevante Benutzerinformationen über die Systemaufforderung oder den anfänglichen Kontext eingefügt. Geben Sie z. B. den Namen, die Kontoebene und den aktuellen Bestellverlauf an, damit der Agent personalisierten Dienst bereitstellen kann.
  • Datenschutzanweisungen: Fügen Sie der Systemaufforderung explizite Regeln hinzu: "Besprechen Sie nur die Kontodaten des angemeldeten Benutzers. Zeigen Sie keine internen Referenzcodes oder vertrauliche Systeminformationen an."
  • Datenminimierung in Tools: Wenn ein Tool vertrauliche Informationen abruft (z. B. eine vollständige Adresse), filtern Sie die Antwort im Toolhandler, um nur das zurückzugeben, was der Agent benötigt (z. B. die Versandstadt).

Wissensintegration

Support- und Vertriebsmitarbeiter benötigen häufig Zugriff auf Produktinformationen, FAQs oder Richtliniendokumente, die über die Schulungsdaten des KI-Modells hinausgehen. Das Muster der Retrieval-Augmented Generation (RAG) erfüllt diese Anforderung, indem dem Agenten ein Suchwerkzeug zur Verfügung gestellt wird:

  • Definieren Sie ein Tool wie search_knowledge_base(query), das Ihre Dokumentation oder Ihr FAQ-System abfragt.
  • Weisen Sie den Agent (über die Systemaufforderung) an, dieses Tool bei der Beantwortung von Produkt- oder Richtlinienfragen zu verwenden.
  • Halten Sie die Wissensbasis aktuell, um veraltete Antworten zu vermeiden.

Dieser Ansatz begründet die Antworten des Agenten in Ihrer eigentlichen Dokumentation, anstatt sich auf die Schulungsdaten des Modells zu verlassen, wodurch ungenaue Antworten reduziert werden.

Übergabe an eine Person

Selbst gut konfigurierte Agents stoßen auf Situationen, die sie nicht auflösen können. Erstellen Sie einen klaren Eskalationspfad:

  • Stellen Sie ein escalate_to_human(reason) Tool bereit, das die Unterhaltung an einen menschlichen Vertreter überträgt, und zwar mit allen Kontexten, die der Agent gesammelt hat.
  • Weisen Sie den Agent an, dieses Tool zu verwenden, wenn er keine Anforderung auflösen kann oder wenn der Benutzer explizit nach einem Menschen fragt.
  • Bei der ersten Implementierungsphase sollten Sie erwägen, die Antworten der Agenten vor der Weiterleitung an den Kunden über eine Warteschlange mit manueller Überprüfung zu leiten, um Vertrauen in die Qualität der Agentenleistung zu schaffen.

Back-Office und autonome Agenten

Agenten, die hinter den Kulissen arbeiten – z. B. Finanzautomatisierung, Supply Chain Management oder IT-Betriebsmitarbeiter – priorisieren Zuverlässigkeit, Genauigkeit und Integration in Unternehmenssysteme über die Unterhaltungsqualität.

Determinismus und Überprüfung

In Unternehmensprozessen ist ein vorhersehbares Verhalten von entscheidender Bedeutung:

  • Strukturierte Ausgaben: Entwurfstoolschnittstellen, sodass der Agent bestimmte Feldwerte anstelle von Freiformtext für Systemeingaben bereitstellt. Lassen Sie beispielsweise den Agent strukturierte Parameter an ein create_journal_entry(account, amount, description) Tool übergeben, anstatt den gesamten Eintrag als Text zu generieren.
  • Berechnungen im Code: Verwenden Sie Tools für mathematische Vorgänge, anstatt sich auf das KI-Modell zu verlassen. Ein calculate_tax(amount, rate) Tool erzeugt zuverlässige Ergebnisse, während das Modell arithmetische Fehler möglicherweise verursacht.
  • Historische Überprüfung: Führen Sie vor der Bereitstellung den Agent mit bekannten historischen Daten aus, und vergleichen Sie ihre Entscheidungen mit dem, was menschen getan haben. Diskrepanzen helfen Ihnen beim Optimieren von Schwellenwerten und Anweisungen.

Planung und Trigger

Im Gegensatz zu interaktiven Agents werden Back-Office-Agents häufig von Ereignissen oder Terminplänen statt von Benutzereingaben gestartet:

  • Geplante Aufgaben: Ein Cron-Auftrag oder ein geplanter Dienst erstellt eine GitHub Copilot SDK-Sitzung, stellt Kontext bereit (z. B. "tägliche Rechnungsabstimmung ausführen"), und ermöglicht dem Agent die Ausführung.
  • Ereignisgesteuert: Eine Überwachungswarnung oder ein Webhook löst die Sitzungserstellung aus und sendet die Ereignisdetails als Eingabe. Jedes Ereignis erhält in der Regel eine eigene Sitzung, um die Kontextmischung zu verhindern.
  • Zustandslose Ausführung: Verarbeiten Sie jede Aufgabe oder jedes Ereignis in einer unabhängigen Sitzung. Bei diesem Ansatz wird die Verwechslung zwischen nicht zusammenhängenden Vorgängen vermieden.

Integration des Unternehmenssystems

Back-Office-Agents interagieren stark mit APIs und Datenbanken. Bauen Sie Robustheit in Ihre Tool-Handler ein.

  • Wiederholungsversuche und Timeouts: Implementieren Sie Wiederholungslogik mit exponentiellem Backoff in Toolhandlern, die externe Systeme aufrufen.
  • Transaktionssicherheit: Wenn der Agent mehrere bezogene Schreibvorgänge ausführt, sollten Sie ein einzelnes Tool verwenden, das die vollständige Transaktion atomisch behandelt, anstatt separate Tools für jeden Schritt zu verwenden.
  • Zugriff mit geringsten Berechtigungen: Verwenden Sie Dienstkonten mit minimalen Berechtigungen für die API-Aufrufe des Agents. Bei diesem Ansatz wird die Auswirkung eines unerwarteten Verhaltens begrenzt.
  • Überwachungsprotokollierung: Protokollieren Sie jede Aktion, die der Agent ausführt, einschließlich des aufgerufenen Tools, der übergebenen Parameter und des zurückgegebenen Ergebnisses. Fügen Sie einen Bezeichner hinzu, der die Aktion als vom Agent initiiert markiert.

Menschliche Aufsicht

Autonome Agenten sollten immer noch über ein menschliches Sicherheitsnetz verfügen:

  • Warnung: Stellen Sie ein notify_manager(issue) Tool bereit, das der Agent verwenden kann, wenn er Situationen außerhalb seiner Schulung findet oder wenn ein Problem nach mehreren Versuchen weiterhin besteht.
  • Regelmäßige Überprüfung: Lassen Sie Domänenexperten die Entscheidungen des Agents regelmäßig überprüfen, insbesondere während der frühen Bereitstellung.
  • Manuelle Außerkraftsetzung: Implementieren Sie ein Feature-Flag oder einen Modusschalter, der den Agenten schnell vom autonomen Ausführungsmodus in den Beratungsmodus umschalten kann, in dem er Empfehlungen protokolliert, aber keine Maßnahmen ergreift.

Überlegungen zu Leistung und Kosten

Wenn Agenten häufig ausgeführt werden oder große Datenmengen verarbeiten, sollten Sie Folgendes berücksichtigen:

  • Modellauswahl: Verwenden Sie ein schnelleres, kostengünstigeres Modell für Routineaufgaben und reservieren Sie fähigere Modelle für komplexes Denken. Mit dem SDK können Sie das Modell pro Sitzung konfigurieren.
  • Batchverarbeitung: Wenn ein Agent viele Elemente verarbeiten muss, framen Sie die Arbeit innerhalb einer einzelnen Sitzung, anstatt eine separate Sitzung für jedes Element zu erstellen.
  • Multi-Agent-Muster: Bei komplexen Workflows sollten Sie die Verantwortlichkeiten auf mehrere Sitzungen mit unterschiedlichen Konfigurationen und Toolsätzen aufteilen. Ein Agent kann die Analyse übernehmen, während ein anderer die Ausführung übernimmt, wobei Ihre Anwendung zwischen ihnen orchestriert.

Zusammenfassung

Das Anpassen Ihres KI-Agents für unterschiedliche Bereitstellungsszenarien umfasst das Anpassen des Unterhaltungsstils, des Toolsatzes und des Betriebsmusters an den Anwendungsfall. Kundenkontaktagenten priorisieren die Gesprächsqualität und Personalisierung, während sich Backoffice-Agenten auf Zuverlässigkeit, Integration und autonomes Arbeiten konzentrieren. Indem Sie Ihren Agenten mit diesen Überlegungen entwerfen, können Sie die Effektivität und den Geschäftlichen Wert in jedem Kontext maximieren. In der nächsten Lektion erfahren Sie, wie Sie diese Anpassungen in der Praxis mit dem GitHub Copilot SDK implementieren.