Agenten in Microsoft Foundry

Der Foundry Agent Service ist eine verwaltete Plattform zum Erstellen, Bereitstellen und Skalieren von KI-Agents. Erstellen Sie mit jedem Framework, jedem unterstützten Modell aus dem Foundry-Modellkatalog sowie einem einzigen Einstiegspunkt für Modellinferenz und Tools.

Foundry trifft Sie überall im Spektrum von deklarativem bis vollständigem Code: Definieren Sie einen Eingabeaufforderungs-Agent , und lassen Sie Foundry diesen ausführen, packen Sie Ihren eigenen Code als gehosteten Agent, oder rufen Sie die Antwort-API von einem Agent auf, den Sie bereits an anderer Stelle ausgeführt haben. Wählen Sie aus, wie erstellt werden soll behandelt jeden Weg.

Agent-Dienst auf einen Blick

Komponente Funktionsweise
Agent-Runtime Hostet und skaliert Prompt-Agents und gehostete Agents. Verwaltet Unterhaltungen, Toolaufrufe und den Lebenszyklus von Agenten.
Toolboxen Erstellen Sie einmal eine Reihe von Tools, z. B. Websuche, Dateisuche, Codedolmetscher, MCP-Server und benutzerdefinierte Funktionen. Teilen Sie sie dann agentenübergreifend über einen einzelnen verwalteten MCP-Endpunkt mit zentralisierter Authentifizierung, Governance und Versionsverwaltung.
Modelle Arbeitet mit vielen Modellen aus dem Foundry-Modellkatalog, z. B. GPT-4o, Llama und DeepSeek. Tauschen Sie Modelle aus, ohne den Agentcode zu ändern.
Beobachtbarkeit Durchgängige Ablaufverfolgung, Metriken, Bewertungen und Application Insights-Integration. Sehen Sie jede Entscheidung, die Ihr Agent trifft, und messen Sie seine Qualität.
Optimierung Agent-Optimierung (Vorschau) analysiert das Verhalten von Agents und generiert automatisch bessere Anweisungen, Fähigkeiten, Werkzeugbeschreibungen und Modellauswahl für Prompt-Agents und Hosted Agents.
Identität und Sicherheit Microsoft Entra Identität, RBAC, Inhaltsfilter und virtuelle Netzwerkisolation. Vertrauen auf Unternehmensniveau integriert.
Veröffentlichung Versionsagenten, erstellen stabile Endpunkte und teilen sie über Microsoft Teams, Microsoft 365 Copilot und die Entra Agent-Registrierung.

Wählen Sie aus, wie erstellt werden soll

Tip

Ihren ersten Agenten erstellen? Beginnen Sie mit einem Eingabeaufforderungs-Agent entweder über das Foundry-Portal oder die Schnellstartanleitung zum Erstellen eines Eingabeaufforderungs-Agents mit Code.

Foundry bietet Ihnen verschiedene Möglichkeiten zur Entwicklung – vom einzelnen Modellaufruf bis zum vollständig containerisierten Agenten. Wählen Sie Ihren Pfad basierend auf dem, was Sie tun möchten:

  • Möchten Sie möglichst wenig verwalten?Beginnen Sie mit einem Prompt-Agent. Konfigurieren von Anweisungen, einem Modell und Tools; Foundry führt sie ohne Code oder Infrastruktur aus.
  • Möchten Sie vollzugriff in Foundry?Bereitstellen eines gehosteten Agents. Stellen Sie Ihren eigenen Code und Ihre eigenen Frameworks als Container bereit; Foundry führt sie mit verwaltetem Endpunkt, Skalierung und Identität aus.
  • Führen Sie den Agentcode bereits an anderer Stelle aus?Rufen Sie die Antwort-API direkt auf, um Foundry-Modelle und -Tools ohne Agentressource zu verwalten.

Prompt-Agents und gehostete Agents sind die zwei Agenttypen in Foundry. Im nächsten Abschnitt wird der Wert jedes einzelnen erläutert, damit Sie mit Zuversicht wählen können.

Agenttypen

Agent Service bietet zwei Agenttypen. Ihre Auswahl legt fest, wie viel Sie erstellen und wie viel Foundry verwaltet:

  • Eingabeaufforderungs-Agents: der schnellste Pfad. Definieren Sie Anweisungen, ein Modell und Tools, und Foundry führt den Agent für Sie ohne Code oder Infrastruktur zum Verwalten aus.
  • Gehostete Agenten: die meiste Kontrolle. Bringen Sie Ihren eigenen Code und Ihr eigenes Framework mit, und Foundry führt diese in einem Container mit einem verwalteten Endpunkt, Skalierung und Identitätsverwaltung aus.

Prompt-Agenten

Sie definieren Prompt-Agents vollständig durch Konfiguration, einschließlich Anweisungen, Modellauswahl und Tools. Erstellen Sie sie im Foundry-Portal für einen Schnellstart, oder definieren Sie sie programmgesteuert mit den SDKs oder der REST-API, um sie in Ihre CI/CD-Workflows zu integrieren. In jedem Fall führt Foundry den Agenten für Sie aus. Es gibt keinen Anwendungscode, der verwaltet werden kann, und keine Container oder Pakete zum Optimieren, Skalieren oder Überwachen der Sicherheit.

Zwei Pfade für die ersten Schritte:

  • Portal-first: Erstellen Sie einen Agent interaktiv im Foundry-Portal, testen Sie ihn im Playground, und rufen Sie ihn aus Ihrem Anwendungscode auf.
  • Code first: Definieren Sie den Agent mithilfe der SDK- oder REST-API in Ihrer Bereitstellungspipeline, und aktivieren Sie die Versionssteuerung, Codeüberprüfung und automatisiertes Rollout.

Am besten für: einen schnellen Einstieg, interne Tools, Produktions-Agenten, die keine benutzerdefinierte Orchestrierungslogik benötigen, und Teams, die eine verwaltete Laufzeitumgebung ohne Infrastruktur-Overhead wollen.

Gehostete Agents

Hosted Agents sind codebasierte Agents, die Sie mit Agent Framework erstellen>, LangGraph, das OpenAI Agents SDK, das Anthropic Agent SDK, das GitHub Copilot SDK, oder Ihren eigenen Code. Senden Sie Ihren Agent entweder als Containerimage oder als .zip Datei Ihres Quellcodes (Foundry erstellt das Image für Sie, wenn Sie eine .zip Datei mitbringen), und Foundry führt ihn mit einem verwalteten Endpunkt, einer automatischen Skalierung, einer dedizierten Microsoft Entra Identität, Persistenz auf Sitzungsebene und End-to-End-Observability aus.

Unter der Haube ruft Ihr Agentcode Ihren Foundry-Projektendpunkt für Modellableitung und Tool-Orchestrierung auf, die Ihnen Zugriff auf Foundry-Modelle aus dem Katalog und einen einheitlichen Satz von Plattformtools bietet: Standardtools wie Dateisuche, Codedolmetscher und Websuche sowie zusätzliche Tools wie SharePoint, WorkIQ und Fabric IQ.

Am besten geeignet für: Agents, die Ihren eigenen benutzerdefinierten Code aufrufen; in zweiter Linie für benutzerdefinierte Orchestrierungslogik, Multi-Agenten-Systeme und benutzerdefinierte Protokolle (Webhooks, Sprache, AG-UI), bei denen Sie die volle Kontrolle über die Agentenlogik haben möchten, während Foundry Hosting, Skalierung und Identitätsverwaltung übernimmt.

Vergleichen von Agenttypen

Prompt-Agenten Gehostete Agents
Erstellungsoberfläche Portal, SDK oder REST Agent Framework, LangGraph, OpenAI Agents SDK, Anthropic Agent SDK, GitHub Copilot SDK, benutzerdefinierter Code
Foundry-Modelle + Plattform-Tools Ja Ja (über die Antwort-API auf dem Foundry-Projektendpunkt)
Qualifikationsunterstützung Ja Ja
Laufzeitcode, der verwaltet werden soll Nichts Ja, Ihre Agentlogik
Zu verwaltende Compute Keine, vollständig verwaltet Container-Compute, von Foundry verwaltet
Verwalteter Endpunkt Ja Ja
Automatische Skalierung Automatisch, von Foundry verwaltet; skaliert mit dem Anfragevolumen Automatisch, von Foundry verwaltet; skaliert Containerinstanzen je nach Sitzungs- und Anfragevolumen
Agentidentität (Entra) Ja Automatisch, pro Agent dediziert
Kostenmodell Ableitung pro Aufruf + Toolverwendung Ableitung pro Aufruf + Toolverwendung + Containerberechnung
Optimal für Schneller Start, Produktionsagenten ohne benutzerdefinierte Orchestrierung Agenten, die benutzerdefinierten Code aufrufen; in zweiter Linie benutzerdefinierte Orchestrierungslogik

Verwenden Sie die Responses API für temporäre Agenten

Wenn Sie die Antwort-API direkt aus Ihrem eigenen Code aufrufen, erstellen Sie einen kurzlebigen Agent: Die Definition des Agents (Anweisungen, Tools und Modell) befindet sich in Ihrem Anwendungscode anstelle einer dauerhaften Ressource in Foundry. Jeder Aufruf fasst den Agent in Ihrem Prozess zusammen und führt ihn mit der Antwort-API aus, sodass es in Foundry keinen Agent gibt, der erstellt, aktualisiert oder gelöscht werden kann.

Verwenden Sie dieses Muster bei Bedarf:

  • Die Logik des Agenten, die mit Ihrer App mitgeliefert wird. Die Definitionsversionen zusammen mit dem Rest Ihres Codes über quellcodeverwaltung und Codeüberprüfung statt als separate Foundry-Ressource, die jemand mit der App synchronisieren muss.
  • Gießereifunktionen ohne Ressourcenaufwand. Sie erhalten weiterhin Katalogmodelle, Plattform-Tools, projektbezogene Daten, On-Behalf-Of-Authentifizierung sowie Observability und Governance auf Projektebene. Vollständig über den Endpunkt Ihres Foundry-Projekts.

Weitere Informationen finden Sie in der Schnellstartanleitung: Verwenden der Antwort-API .

Modellunterstützung

Agent Service funktioniert mit vielen Modellen, die im Foundry-Modellkatalog verfügbar sind. Die vollständige Liste finden Sie im Foundry-Portal.

Tools und Toolboxen

Agenten wirken mithilfe von Tools auf die Welt ein. Foundry bietet integrierte Tools wie Websuche, Dateisuche, Codedolmetscher und Arbeitsspeicher, und ermöglicht es Ihnen auch, benutzerdefinierte Tools über Funktionen, OpenAPI-Spezifikationen und MCP-Server hinzuzufügen. Den vollständigen Satz finden Sie in der Toolboxübersicht.

Eine Toolbox gruppiert diese Tools in einer einzigen wiederverwendbaren Einheit. Sie stellen die Tools einmal zusammen, und Foundry macht sie hinter einem verwalteten MCP-kompatiblen Endpunkt verfügbar, den jeder Agent oder jede Laufzeit unabhängig vom Framework nutzen kann. Toolboxes zentralisieren Authentifizierung, Governance und Versionsverwaltung, sodass Sie Tools an einer zentralen Stelle aktualisieren, anstatt jeden Agent neu zu verkabeln. Erstellen Sie eine neue Version, testen Sie sie, und bewerben Sie sie auf standard, wenn Sie bereit sind. Weitere Informationen finden Sie unter Was ist Toolbox in Foundry?.

Verbinden und Authentifizieren bei MCP-Remoteservern

Foundry unterstützt Remote-MCP-Server, die Sie Ihrem Agent hinzufügen können, z. B. den Azure DevOps MCP-Server. Verbinden Sie Ihre Azure DevOps Organisation, um den Agentzugriff zu aktivieren, und konfigurieren Sie eine Teilmenge der verfügbaren Tools, um zu steuern, welche Aktions-Agents ausführen können. Sie können auch benutzerdefinierte MCP-Server verbinden, die auf Azure Functions gehostet werden, indem Sie den MCP-Webhook-Endpunkt (/runtime/webhooks/mcp) verwenden, um benutzerdefinierte Tools für Ihre Agents verfügbar zu machen.

Zu den unterstützten Authentifizierungsoptionen für MCP-Server und andere Toolverbindungen gehören:

  • Schlüsselbasierter Zugriff
  • Microsoft Entra (mithilfe der verwalteten Identität des Agenten oder der verwalteten Identität des Projekts)
  • OAuth Identity Passthrough (Im Namen von)
  • Nicht authentifizierter Zugriff, falls zutreffend

Diese Authentifizierungsoptionen gelten auch beim Verbinden von Remote-MCP-Servern mit anmeldeinformationen und Bereichen, die in der Toolkonfiguration verwaltet werden.

Entwicklungslebenszyklus

Der Agentendienst unterstützt den vollständigen Build-Test-Deploy-Monitor-Workflow:

  1. Erstellen: Definieren Sie einen Eingabeaufforderungs-Agent im Portal oder mit dem SDK, oder schreiben Sie einen gehosteten Agent, der die Antwort-API aufruft.
  2. Test: Chatten Sie mit Ihrem Agent im Agents-Playground oder führen Sie lokal aus. MCP-Serverintegrationen, einschließlich benutzerdefinierter MCP-Server, die auf Azure Functions gehostet werden, können direkt im Playground ausgeführt werden, um die Konnektivität, Berechtigungen und Das Verhalten von Tools vor der Veröffentlichung zu überprüfen.
  3. Ablaufverfolgung: Überprüfen Sie jeden Modellaufruf, Toolaufruf und Entscheidung mit agent-Ablaufverfolgung.
  4. Auswerten: Führen Sie Auswertungen aus, um Qualitäts- und Catch-Regressionen zu messen.
  5. Optimieren: Verbessern Sie die Anweisungen Ihres gehosteten Agents automatisch mithilfe des Agent-Optimierers.
  6. Veröffentlichen: Bewerben Sie Ihren Agent auf eine verwaltete Ressource mit einem stabilen Endpunkt.
  7. Überwachen: Nachverfolgen der Leistung und Zuverlässigkeit mit Dienstmetriken und Dashboards.

Eine detaillierte Anleitung finden Sie unter Agent Development Lifecycle.

Unternehmensfunktionen

Agent Service bietet Infrastruktur auf Unternehmensniveau für jeden Agent, den Sie bereitstellen:

  • Agentidentität: Jeder Agent kann über eine dedizierte Microsoft Entra Identität verfügen und einen sicheren, bereichsbezogenen Zugriff auf Ressourcen und APIs ermöglichen, ohne Anmeldeinformationen freizugeben. Agentenidentitäten können sich bei externen MCP-Servern authentifizieren, einschließlich der auf Azure Functions gehosteten Server, und OAuth On-Behalf-Of (OBO) wird bei entsprechender Konfiguration unterstützt.
  • Privates Netzwerk: Führen Sie Agenten in Ihrem virtuellen Azure-Netzwerk aus, um vollständige Netzwerkisolation zu gewährleisten und Anforderungen an die Datenresidenz einzuhalten. Privates Networking ist für Prompt-Agents verfügbar. Gehostete Agents unterstützen bring-your-own Azure Virtual Network (BYO VNet), wobei jede Sitzung in einer vm-isolierten Sandbox ausgeführt wird, die mit Ihrem VNet verbunden ist.
  • Rollenbasierte Zugriffssteuerung: Differenzierte Berechtigungen über Microsoft Entra und Azure RBAC. Steuern, wer Agents erstellen, aufrufen und verwalten kann.
  • Inhaltssicherheit: Integrierte Inhaltsfilter tragen dazu bei, ein promptes Einfügungsrisiko (einschließlich der eingabeaufforderungsübergreifenden Einfügung) zu minimieren und unsichere Ausgaben zu verhindern.

Anweisungen zum Einrichten der Umgebung finden Sie unter "Einrichten Ihrer Umgebung".

Veröffentlichen und Freigeben

Der Agent-Dienst bietet integrierte Versionsverwaltung und -veröffentlichung, damit Ihre Agents von der Entwicklung zur Produktion mit Vertrauen wechseln können.

  • Versionierung: Während Sie Ihren Agenten weiterentwickeln, werden Versionen automatisch als Snapshots gespeichert. Führen Sie ein Rollback zu einer früheren Version durch, oder vergleichen Sie Änderungen zwischen Versionen.
  • Veröffentlichen: Einen Agent zu einer verwalteten Ressource mit einem stabilen Endpunkt heraufstufen. Veröffentlichte Agents erben die für Ihr Projekt konfigurierten Unternehmensidentitäts- und Zugriffssteuerungen und können programmgesteuert aufgerufen werden.
  • Verteilung: Teilen Sie veröffentlichte Agents über Microsoft 365 Copilot und Teams und die Entra Agent Registry, indem Sie Ihre Agents dort platzieren, wo Ihre Benutzer bereits arbeiten. Der Foundry Agent Service unterstützt die OpenResponses- und Activity-Protokolle für Microsoft 365-Publishing, ein Invocations-Protokoll für die flexible Endpunktintegration mit benutzerdefinierten Apps und Diensten sowie das A2A-Protokoll (Vorschau) für die Agent-zu-Agent-Kommunikation.

Sicherheit, Datenschutz und Compliance

Der Agent-Dienst wurde für Unternehmensworkloads entwickelt, bei denen Sie starke Kontrolle über Identität, Netzwerk, Datenverarbeitung und Sicherheit benötigen.

  • Sicherheitskontrollen: Verwenden Sie integrierte Schutzmaßnahmen, um unsichere Ausgaben zu reduzieren und die Risiken von Prompt-Injection-, einschließlich Cross-Prompt-Injection-Angriffen (XPIA), zu mindern.
  • Steuerelemente für Netzwerkisolation und Datenresidenz: Verwenden Sie virtuelle Netzwerke, und verwenden Sie Ihre eigenen Ressourcen, um Ihre Anforderungen zu erfüllen.
  • Bring Your Own Resources: Verwenden Sie eigene Azure-Ressourcen (zum Beispiel Speicher, Azure KI-Suche und Azure Cosmos DB für den Unterhaltungsstatus), um operative und Complianceanforderungen zu erfüllen. Weitere Informationen finden Sie unter "Eigene Ressourcen verwenden".
  • Responsible AI guidance: Eine breitere Reihe von Empfehlungen und Governanceressourcen finden Sie unter Responsible AI für Microsoft Foundry.

Verwandte Inhalte

  • Last updated on