Was ist azure AI Foundry Agent Service?

Die meisten Unternehmen wollen nicht nur Chatbots, sondern eine Automatisierung, die schneller ist und weniger Fehler aufweist. Dies kann dazu führen, dass Dokumente zusammengefasst, Rechnungen verarbeitet, Supporttickets verwaltet oder Blogbeiträge veröffentlicht werden. In allen Fällen ist das Ziel gleich: Personen und Ressourcen freizugeben, um sich auf hochwertige Arbeit zu konzentrieren, indem wiederholte und vorhersagbare Vorgänge entladen werden.

Große Sprachmodelle (LLMs) öffneten die Tür zu einer neuen Automatisierungsart mit Systemen, die unstrukturierte Daten verstehen, Entscheidungen treffen und Inhalte generieren können. In der Praxis kann es für Unternehmen schwierig sein, von Demos in die Produktion überzugehen. LLMs können driften, falsch sein und keine Rechenschaftspflicht haben. Ohne Sichtbarkeit, Richtliniendurchsetzung und Orchestrierung ist es schwierig, diesen Modellen in echten Geschäftsabläufen zu vertrauen.

Azure AI Foundry wurde entwickelt, um dies zu ändern. Es ist eine Plattform, die Modelle, Tools, Frameworks und Governance in einem einheitlichen System zum Erstellen intelligenter Agents kombiniert. Im Zentrum dieses Systems befindet sich der Azure AI Foundry Agent Service, der den Betrieb von Agents über Entwicklung, Bereitstellung und Produktion hinweg ermöglicht.

Der AI Foundry Agent Service verbindet die Kernstücke von Azure AI Foundry wie Modelle, Tools und Frameworks mit einer einzigen Laufzeit. Es verwaltet Threads, koordiniert Toolaufrufe, erzwingt die Sicherheit von Inhalten und integriert in Identitäts-, Netzwerk- und Observability-Systeme, um sicherzustellen, dass Agents sicher, skalierbar und produktionsbereit sind.

Die Abstraktion der Infrastrukturkomplexität und das Erzwingen von Vertrauen und Sicherheit durch den AI Foundry Agent-Dienst vereinfacht den zuverlässigen Übergang von Prototyp zu Produktion.

Was ist ein KI-Agent?

Agents treffen Entscheidungen, rufen Tools auf und nehmen an Workflows teil. Manchmal unabhängig, manchmal in Zusammenarbeit mit anderen Agenten oder Menschen. Was Agenten von Assistenten unterscheidet, ist Autonomie: Assistenten unterstützen Personen, Agenten erfüllen Ziele. Sie sind grundlage für die echte Prozessautomatisierung.

Agents, die mit AI Foundry erstellt wurden, sind keine Monolithen. Sie sind zusammensetzbare Einheiten. Jede mit einer bestimmten Rolle, die vom richtigen Modell unterstützt wird und mit den richtigen Tools ausgestattet und in einer sicheren, feststellbaren und regelbaren Laufzeit bereitgestellt wird.

Jeder Agent verfügt über drei Kernkomponenten:

• Modell (LLM): Ermöglicht logisches Denken und Sprachverständnis
• Anweisungen: Definieren der Ziele, Verhaltensweisen und Einschränkungen des Agents
• Tools: Lassen Sie den Agent Wissen abrufen oder Maßnahmen ergreifen

Agents erhalten unstrukturierte Eingaben wie Benutzeraufforderungen, Warnungen oder Nachrichten von anderen Agents. Sie erzeugen Ausgaben in Form von Toolergebnissen oder Nachrichten. Auf dem Weg können sie Tools aufrufen, um Abrufaktionen auszuführen oder Aktionen auszulösen.

Wie funktionieren Agenten in AI Foundry?

Stellen Sie sich Azure AI Foundry als Montagelinie für intelligente Agenten vor. Wie jede moderne Fabrik vereint sie verschiedene spezialisierte Stationen, die jeweils für die Gestaltung eines Teils des Endprodukts verantwortlich sind. Anstelle von Maschinen und Förderbändern verwendet die Agent Factory Modelle, Werkzeuge, Richtlinien und Orchestrierung, um Agenten zu bauen, die sicher, testbar und produktionsbereit sind. Hier erfahren Sie, wie die Factory schritt für Schritt funktioniert:

1. Modelle

Die Montagelinie beginnt mit der Auswahl eines Modells, das Ihrem Agent seine Intelligenz verleiht. Wählen Sie aus einem wachsenden Katalog großer Sprachmodelle wie GPT-4o, GPT-4, GPT-3.5 (Azure OpenAI) und anderen wie Llama. Dies ist der Entscheidungsfindungskern des Agenten, der seine Entscheidungen ermöglicht.

2. Anpassung

Als Nächstes müssen Sie das Modell so gestalten, dass es ihrem Anwendungsfall entspricht. Passen Sie Ihren Agent mit Feinabstimmung, Destillation oder domänenspezifischen Prompts an. In diesem Schritt können Sie das Agentverhalten, rollenspezifische Kenntnisse und Muster aus früheren Leistungen mithilfe von Daten kodieren, die aus echten Thread-Inhalten und Toolergebnissen erfasst wurden.

3. KI-Tools

Ausstatten Sie dann Ihren Agenten mit Tools. Diese ermöglichen den Zugriff auf Unternehmenswissen (z. B. Bing, SharePoint, Azure AI Search) und ergreifen reale Aktionen (über Logik-Apps, Azure-Funktionen, OpenAPI und mehr). Dadurch wird die Fähigkeit des Agents verbessert, seine Funktionen zu erweitern.

4. Orchestrierung

Als Nächstes benötigt der Agent die Koordination. Verbundene Agents koordinieren den vollständigen Lebenszyklus, z. B. das Behandeln von Toolaufrufen, das Aktualisieren des Threadzustands, das Verwalten von Wiederholungen und Protokollierungsausgaben.

5. Vertrauen

Es ist wichtig sicherzustellen, dass die Mitarbeiter geeignet und zuverlässig für die ihnen zugewiesene Arbeitsauslastung sind. AI Foundry wendet Vertrauensfunktionen auf Unternehmensniveau an, einschließlich Identität über Microsoft Entra, RBAC, Inhaltsfilter, Verschlüsselung und Netzwerkisolation. Sie wählen aus, wie und wo Ihre Agents ausgeführt werden – mit plattformverwalteter oder Bring-your-own-Infrastruktur.

6. Beobachtbarkeit

Schließlich werden Agenten getestet und überwacht. KI Foundry kann Protokolle, Ablaufverfolgungen und Auswertungen in jedem Schritt erfassen. Mit vollständiger Sichtbarkeit auf Threadebene und Application Insights-Integration können Teams jede Entscheidung prüfen und die Agents im Laufe der Zeit kontinuierlich verbessern.

Das Ergebnis? Ein Agent, der für die Produktion bereit ist: zuverlässig, erweiterbar und sicher für die Bereitstellung in Ihren Workflows.

Warum azure AI Foundry Agent Service verwenden?

Der Azure AI Foundry Agent Service bietet eine produktionsbereite Grundlage für die Bereitstellung intelligenter Agents in Unternehmensumgebungen. Hier sehen Sie einen Vergleich der wichtigsten Funktionen:

Fähigkeit	Azure AI Foundry-Agent-Dienst
1. Einblicke in Unterhaltungen	Vollzugriff auf strukturierte Threads, einschließlich Benutzer↔Agent- und Agent↔Agent-Nachrichten. Ideal für UIs, Debugging und Schulungen
2. Koordination mit mehreren Agenten	Integrierte Unterstützung für Agent-zu-Agent-Messaging.
3. Werkzeug-Orchestrierung	Serverseitige Ausführung und Wiederholung von Toolaufrufen mit strukturierter Protokollierung. Keine manuelle Orchestrierung erforderlich.
4. Vertrauen und Sicherheit	Integrierte Inhaltsfilter tragen dazu bei, Missbrauch zu verhindern und Risiken der prompten Einschleusung (XPIA) abzumildern. Alle Ausgaben werden durch Richtlinien gesteuert.
5. Unternehmensintegration	Bringen Sie Ihren eigenen Speicher, Azure AI Search-Index und virtuelles Netzwerk mit, um die Compliance-Anforderungen zu erfüllen.
6. Einblick und Debuggen	Threads, Toolaufrufe und Nachrichtenablaufverfolgungen können vollständig nachverfolgt werden; Integration von Application Insights für Telemetrie
7. Identitäts- und Richtlinienkontrolle	Basiert auf Microsoft Entra mit vollständiger Unterstützung für RBAC, Überwachungsprotokolle und bedingten Unternehmenszugriff.

Erste Schritte mit dem Foundry Agent Service

Um mit dem Foundry Agent Service zu beginnen, müssen Sie ein Azure AI Foundry-Projekt in Ihrem Azure-Abonnement erstellen.

Beginnen Sie mit der Umgebungseinrichtung und schnellstartanleitung , wenn Sie den Dienst zum ersten Mal verwenden.

1. Sie können ein Projekt mit den erforderlichen Ressourcen erstellen.
2. Nachdem Sie ein Projekt erstellt haben, können Sie ein kompatibles Modell wie GPT-4o bereitstellen.
3. Wenn Sie über ein bereitgestelltes Modell verfügen, können Sie auch API-Aufrufe an den Dienst mithilfe der SDKs durchführen.

Nächste Schritte

Erfahren Sie mehr über die Modelle, die Agents unterstützen.