Testen, Bereitstellen und Integrieren von Agenten

  • 9 Minuten

Tip

Weitere Details finden Sie auf der Registerkarte "Text und Bilder ".

Tests, das Bereitstellen und Veröffentlichen von Agenten sind entscheidende Schritte beim Übergang von Entwicklung zu Produktion. Microsoft Foundry bietet umfassende Funktionen für die Überprüfung des Agentverhaltens, die Bereitstellung für Ihr Foundry-Projekt und die Veröffentlichung von Agents als aufrufbare Endpunkte, die externe Consumer und Anwendungen verwenden können.

Testen von Strategien für Agenten

Durch gründliche Tests wird sichergestellt, dass sich Ihre Agents zuverlässig in verschiedenen Szenarien verhalten, bevor Sie Benutzer erreichen. Sowohl das Foundry-Portal als auch Visual Studio Code Erweiterung bieten Spielplätze für interaktive Tests.

Effektive Nutzung des Spielplatzes:

  • Happy Path Testing – Überprüfen Sie, ob der Agent allgemeine, erwartete Anforderungen ordnungsgemäß verarbeitet.
  • Grenzfalltests – Testen Sie mehrdeutige Eingaben, unvollständige Informationen und ungewöhnliche Anforderungen, um zu ermitteln, wie Agenten Unsicherheit behandeln.
  • Grenztests – Bestätigen Sie, dass der Agent Grenzen respektiert, die in seinen Anweisungen definiert sind, indem Sie Out-of-Scope-Anforderungen testen.
  • Tests mehrteiliger Unterhaltungen – Überprüfen Sie, ob der Agent den Kontext über mehrere Interaktionen hinweg beibehält und auf früheren Antworten aufbaut.
  • Toolaufruftests – Überprüfen Sie, ob Agents die richtigen Tools zu den richtigen Zeiten aufrufen und Die Ergebnisse korrekt integrieren.

Zeichnen Sie Testergebnisse auf, um Verbesserungen nachzuverfolgen und Regressionen abzufangen.

Bereitstellen von Agenten in Ihrem Projekt

Microsoft Foundry unterstützt die Bereitstellung von Agents über das Portal oder Visual Studio Code. Das Bereitstellen speichert die Agentkonfiguration in Ihrem Foundry-Projekt, damit Sie testen und iterieren können.

Bereitstellen über das Gießereiportal

  1. Navigieren Sie im Findry-Portal zu Ihrem Agenten.
  2. Überprüfen, ob Konfiguration und Testergebnisse zufriedenstellend sind
  3. Wählen Sie auf der Seite des Agents " Speichern" aus.
  4. Bestätigen von Versions- und Bereitstellungseinstellungen

Bereitstellung aus Visual Studio Code

  1. Öffnen Sie Ihren Agent im Foundry Toolkit
  2. Wählen Sie "In Gießerei speichern" aus, um Konfigurationsänderungen zu übertragen.
  3. Öffnen Sie für gehostete Agents das Menü "+Build" in den Entwicklertools, und wählen Sie "Auf Microsoft Foundry bereitstellen" aus.
  4. Wählen Sie eine Bereitstellungsmethode aus:
    • Code (ZIP Code Deploy) – Paketiert Ihren Quellcode und stellt ihn direkt ohne Containerimage bereit.
    • Container (BYOI) – Bereitstellen mithilfe eines vordefinierten Containerimages aus Azure Container Registry
  5. Wählen Sie Ihr Modell aus, und bestätigen Sie

Beide Ansätze halten Ihren Agent innerhalb Ihres Projektarbeitsbereichs, auf den Teammitglieder zugreifen und testen können.

Bereitstellen von Agents für einen Endpunkt

Wenn Sie einen Agent in Microsoft Foundry erstellen, empfängt er einen stabilen Endpunkt, seine eigene Entra-Agent-Identität und automatisch einen Agent-Blueprint. Die Veröffentlichung bezieht sich dann auf die Verteilung des Agenten, sodass externe Consumer und Anwendungen – einschließlich Microsoft Teams und Microsoft 365 Copilot – ihn aufrufen können.

Was jeder Agent enthält

Jeder in Foundry erstellte Agent wird bereitgestellt mit:

  • Stabiler Endpunkt – Eine produktionsbereite Aufruf-URL, die auch beim Aktualisieren von Agent-Versionen konstant bleibt.
  • Entra-Agent-Identität – Eine dedizierte Microsoft Entra Identität mit eigenem RBAC-Bereich, getrennt von der gemeinsamen Identität des Projekts.
  • Authentifizierungsrichtlinie – Integrierte Microsoft Entra ID Authentifizierung. Anrufer müssen über die Rolle „Foundry User“ in der Agentressource verfügen. Die API-Schlüsselauthentifizierung wird nicht unterstützt.

Von Bedeutung

Jeder Agent erhält eine eigene dedizierte Entra-Identität. Berechtigungen werden nicht automatisch von der Projektidentität übertragen. Sie müssen der Agentidentität RBAC-Rollen für alle Ressourcen zuweisen, auf die der Agent zugreift. Wenn Sie diesen Schritt überspringen, schlagen Toolaufrufe, die während der Entwicklung funktionieren, mit Autorisierungsfehlern fehl, sobald der Agent veröffentlicht wird.

Veröffentlichen in Microsoft Teams und Microsoft 365 Copilot

Im Foundry-Portal können Sie Agents mit einem einzigen Schritt in Microsoft Teams und in Microsoft 365 Copilot veröffentlichen – keine Neuerstellung erforderlich. Der Agent gelangt über eine einheitliche Pipeline in die Anwendungen, in denen Benutzer bereits arbeiten.

Der Agent-Endpunkt

Agents machen einen stabilen Endpunkt mit dem Responses API-Protokoll verfügbar:

https://<foundry-resource-name>.services.ai.azure.com/api/projects/<project-name>/agents/<agent-name>/endpoint/protocols/openai/responses

Diese URL bleibt auch dann gleich, wenn Sie neue Agentversionen bereitstellen, sodass nachgeschaltete Verbraucher nicht durch Updates gestört werden.

Überprüfen des Endpunkts

Überprüfen Sie nach dem Erstellen und Konfigurieren Ihres Agents, ob der Endpunkt funktioniert:

  1. Abrufen eines Zugriffstokens:

    az account get-access-token --resource https://ai.azure.com

  2. Rufen Sie den Agentendpunkt auf:

    curl -X POST \
  "https://<foundry-resource-name>.services.ai.azure.com/api/projects/<project-name>/agents/<agent-name>/endpoint/protocols/openai/responses?api-version=2025-11-15-preview" \
  -H "Authorization: ******" \
  -H "Content-Type: application/json" \
  -d '{"input":"Say hello"}'

Wenn Sie 403 Forbidden erhalten, bestätigen Sie, dass der Anrufer über die Rolle "Foundry User" in der Agentressource verfügt.

Aktualisieren von Agents

So stellen Sie eine neue Agentversion bereit:

  1. Nehmen Sie Änderungen in Ihrer Entwicklungsumgebung vor und testen Sie gründlich
  2. Speichern Sie im Foundry-Portal die aktualisierte Agent-Konfiguration.
  3. Der Endpunkt leitet den Datenverkehr automatisch an die neue Version weiter.

Die Endpunkt-URL bleibt unverändert, sodass vorhandene Integrationen weiterhin funktionieren.

Generieren von Integrationscode

Das Foundry Toolkit für VS Code generiert Beispielintegrationscode, um Ihre Anwendung mit einem veröffentlichten Agent zu verbinden:

  1. Wählen Sie Ihren bereitgestellten Agent in der Ansicht "Meine Ressourcen" aus.
  2. Code anzeigen auswählen
  3. Auswählen Ihres Ordners
  4. Die Erweiterung generiert Code zum Authentifizieren, Verbinden, Senden von Nachrichten und Verarbeiten von Antworten

Integrationsmuster

Zu den typischen Mustern für die Integration veröffentlichter Agenten gehören:

  • Webanwendungen – Senden sie Benutzernachrichten an den Endpunkt der Antwort-API, und zeigen Sie Antworten auf Der Benutzeroberfläche an. Speichern Sie den Unterhaltungsverlauf clientseitig für mehrteilige Interaktionen.
  • API-gesteuerte Workflows – Rufen Sie den Agentendpunkt von Back-End-Diensten auf, die durch Ereignisse oder Zeitpläne ausgelöst werden. Antworten programmgesteuert verarbeiten, um nachfolgende Aktionen auszulösen.
  • Chatbot-Schnittstellen – Zuordnen von Benutzersitzungen zu Unterhaltungen. Über den Endpunkt Echtzeitnachrichtenaustausch abwickeln.
  • Hintergrundautomatisierung – Planen von Agentanrufen für wiederkehrende Aufgaben. Speisen Sie Systemdaten in Agent ein, und verarbeiten Sie Ausgaben, um Geschäftssysteme zu aktualisieren.

Produktionsüberlegungen

Der Betrieb von Agenten in der Produktion bedarf der Aufmerksamkeit für mehrere Betriebsbereiche.

  • Überwachung – Nachverfolgen von Reaktionszeiten, Toolaufrufen, Fehlermustern und Tokenverbrauch mithilfe der Application Insights-Integration.
  • Sicherheit – Verwenden Sie verwaltete Identitäten für die Authentifizierung, wenden Sie den Zugriff auf die geringsten Rechte an, und definieren Sie Datenaufbewahrungsrichtlinien.
  • Kostenverwaltung – Überwachen der Tokennutzung, Festlegen von Grenzwerten für die Antwortlänge und Implementieren von Ratenbeschränkungen, um unerwartete Spitzen zu verhindern.
  • Fehlerbehandlung : Implementieren Sie Wiederholungslogik mit exponentiellem Backoff für vorübergehende Fehler. Verwenden Sie Ratenbegrenzungen mit Backoff-Strategien. Überprüfen Sie Eingaben, bevor Sie an Agents senden.
  • Konversationsverwaltung – Agentendpunkte unterstützen derzeit nur die statuslose Responses API. Speichern Sie den Unterhaltungsverlaufs in Ihrem Client für mehrteilige Interaktionen.