Testowanie, wdrażanie i integrowanie agentów
Wskazówka
Aby uzyskać więcej szczegółów, zobacz kartę Tekst i obrazy .
Testowanie, wdrażanie i publikowanie agentów to krytyczne kroki przechodzenia z programowania do środowiska produkcyjnego. Rozwiązanie Microsoft Foundry zapewnia kompleksowe możliwości sprawdzania poprawności zachowania agenta, wdrażania w projekcie Foundry i publikowania agentów jako możliwych do wywołania punktów końcowych, których mogą używać zewnętrzni konsumenci i aplikacje.
Strategie testowania agentów
Dokładne testowanie gwarantuje, że agenci zachowują się niezawodnie w różnych scenariuszach przed dotarciem do użytkowników. Zarówno portal Foundry, jak i rozszerzenie Visual Studio Code zapewniają plac zabaw do testowania interakcyjnego.
Efektywne korzystanie z placu zabaw:
- Testowanie szczęśliwej ścieżki — sprawdź, czy agent obsługuje typowe, oczekiwane żądania poprawnie.
- Testowanie przypadków brzegowych — spróbuj niejednoznacznych danych wejściowych, niekompletnych informacji i nietypowych żądań, aby ujawnić, jak agenci obsługują niepewność.
- Testowanie granic — potwierdź, że agent przestrzega granic zdefiniowanych w instrukcjach, testując żądania poza zakresem.
- Testowanie konwersacji z wieloma krokami — sprawdź, czy agent utrzymuje kontekst w wielu wymianach i opiera się na poprzednich odpowiedziach.
- Testowanie wywołań narzędzi — sprawdź, czy agenci dzwonią do odpowiednich narzędzi we właściwym czasie i prawidłowo dołączają wyniki.
Rejestruj wyniki testów, aby śledzić ulepszenia i przechwytywać regresje.
Wdrażanie agentów w projekcie
Rozwiązanie Microsoft Foundry obsługuje wdrażanie agentów z portalu lub programu Visual Studio Code. Wdrożenie zapisuje konfigurację agenta w projekcie Foundry, aby można było testować i iterować.
Wdrażanie z portalu Foundry
- Przejdź do swojego agenta w portalu Foundry
- Sprawdź, czy wyniki konfiguracji i testów są zadowalające
- Wybierz pozycję Zapisz na stronie agenta
- Potwierdzanie ustawień wersji i wdrożenia
Wdrażanie z Visual Studio Code
- Otwórz swojego agenta w zestawie narzędzi AI Toolkit
- Wybierz pozycję Zapisz w usłudze Foundry, aby wypchnąć zmiany konfiguracji
- W przypadku hostowanych agentów otwórz menu +Kompiluj w narzędziach deweloperskich i wybierz pozycję Wdróż w usłudze Microsoft Foundry
- Wybierz konfigurację kontenera i potwierdź
Oba podejścia zachowują agenta w obszarze roboczym projektu, w którym członkowie zespołu mogą uzyskiwać do niego dostęp i je testować.
Publikowanie agentów w punkcie końcowym
Publikowanie przenosi agenta z obszaru roboczego projektu do zarządzanego zasobu platformy Azure o nazwie Aplikacja agenta. Ten krok sprawia, że agent może być wywoływany zewnętrznie za pośrednictwem stabilnego punktu końcowego.
Co tworzy publikowanie
Podczas publikowania wersji agenta program Foundry tworzy:
- Aplikacja agenta — zasób platformy Azure z własnym adresem URL wywołania, zasadami uwierzytelniania i tożsamością agenta Entra.
- Wdrożenie — uruchomione wystąpienie określonej wersji agenta w aplikacji z zarządzaniem cyklem życia obejmującym uruchamianie i zatrzymywanie.
Kluczową różnicą między wdrażaniem i publikowaniem jest zakres. Wdrażanie powoduje utrzymanie agenta w projekcie. Publikowanie tworzy dedykowany punkt końcowy, który użytkownicy zewnętrzni mogą wywoływać bez konieczności uzyskiwania dostępu do projektu Foundry.
Publikowanie z portalu Foundry
- W portalu wybierz wersję agenta do opublikowania
- Wybierz pozycję Publikuj , aby utworzyć aplikację agenta i wdrożenie
Publikowanie z programu Visual Studio Code
- Otwórz paletę poleceń (Ctrl+Shift+P) i uruchom program Microsoft Foundry: Deploy Hosted Agent for hosted agents (Wdrażanie hostowanego agenta dla hostowanych agentów)
- Wybierz docelowy obszar roboczy i konfigurację kontenera
- Potwierdzanie i wdrażanie
Po opublikowaniu agent zostanie wyświetlony w sekcji Hostowani agenci (wersja zapoznawcza) widoku drzewa rozszerzenia AI Toolkit.
Punkt końcowy aplikacji agenta
Opublikowani agenci udostępniają stabilny punkt końcowy przy użyciu protokołu API Responses.
https://<foundry-resource-name>.services.ai.azure.com/api/projects/<project-name>/applications/<app-name>/protocols/openai/responses
Ten adres URL pozostaje taki sam, jak w przypadku wdrażania nowych wersji agenta, więc użytkownicy podrzędni nie są zakłócani aktualizacjami.
Uwierzytelnianie i tożsamość
Aplikacje agentów używają identyfikatora Entra firmy Microsoft do uwierzytelniania. Osoby wywołujące muszą mieć rolę Azure AI User w zasobie Agent Application. Uwierzytelnianie klucza interfejsu API nie jest obsługiwane w przypadku Aplikacji Agenta.
Ważna
Po opublikowaniu agenta otrzymuje własną dedykowaną tożsamość Entra, oddzieloną od wspólnej tożsamości projektu. Uprawnienia nie są przenoszone automatycznie. Należy ponownie przypisać role RBAC do nowej tożsamości agenta dla wszystkich zasobów, do których uzyskuje dostęp agent. Jeśli pominiesz ten krok, wywołania narzędzia, które działają podczas programowania, nie powiodą się z powodu błędów autoryzacji po opublikowaniu agenta.
Weryfikowanie punktu końcowego
Po opublikowaniu sprawdź, czy punkt końcowy działa:
Uzyskiwanie tokenu dostępu:
az account get-access-token --resource https://ai.azure.comWywołaj punkt końcowy aplikacji agenta:
curl -X POST \ "https://<foundry-resource-name>.services.ai.azure.com/api/projects/<project-name>/applications/<app-name>/protocols/openai/responses?api-version=2025-11-15-preview" \ -H "Authorization: Bearer <access-token>" \ -H "Content-Type: application/json" \ -d '{"input":"Say hello"}'
Jeśli otrzymasz komunikat 403 Forbidden, potwierdź, że osoba dzwoniąca ma rolę Użytkownika usługi Azure AI w zasobie aplikacji agenta.
Aktualizowanie opublikowanych agentów
Aby wdrożyć nową wersję agenta:
- Wprowadź zmiany w środowisku projektowym i dokładnie przetestuj
- W portalu Foundry wybierz pozycję Publikuj aktualizacje z środowiska testowego agenta
- Aplikacja agenta automatycznie kieruje 100% ruchu do nowej wersji
Adres URL punktu końcowego pozostaje niezmieniony, więc istniejące integracje nadal działają.
Generowanie kodu integracji
Rozszerzenie Microsoft Foundry VS Code generuje przykładowy kod integracji w celu połączenia aplikacji z opublikowanym agentem:
- Wybierz wdrożonego agenta w widoku Moje zasoby
- Wybierz pozycję Wyświetl kod
- Wybierz folder
- Rozszerzenie generuje kod do uwierzytelniania, nawiązywania połączenia, wysyłania komunikatów i przetwarzania odpowiedzi
Wzorce integracji
Typowe wzorce integracji agentów publikacji obejmują:
- Aplikacje internetowe — wysyłanie komunikatów użytkownika do punktu końcowego interfejsu API odpowiedzi i wyświetlanie odpowiedzi w interfejsie użytkownika. Przechowywanie historii rozmów po stronie klienta na potrzeby wielokrotnych interakcji.
- Przepływy pracy oparte na interfejsie API — wywołaj punkt końcowy agenta z usług zaplecza wyzwalanych przez zdarzenia lub harmonogramy. Programowe przetwarzanie odpowiedzi w celu kierowania akcji podrzędnych.
- Interfejsy czatbota — mapowanie sesji użytkownika na konwersacje. Obsługa wymiany komunikatów w czasie rzeczywistym za pośrednictwem punktu końcowego.
- Automatyzacja w tle — planowanie wywołań agenta dla zadań cyklicznych. Przesyłanie danych systemowych do agentów i przetwarzanie danych wyjściowych w celu zaktualizowania systemów biznesowych.
Zagadnienia dotyczące środowiska produkcyjnego
Uruchamianie agentów w środowisku produkcyjnym wymaga uwagi na kilka obszarów operacyjnych:
- Monitorowanie — śledzenie czasów odpowiedzi, współczynników powodzenia wywołań narzędzi, wzorców błędów i użycia tokenów przy użyciu integracji usługi Application Insights.
- Zabezpieczenia — użyj tożsamości zarządzanych do uwierzytelniania, zastosuj dostęp z najmniejszymi uprawnieniami i zdefiniuj zasady przechowywania danych.
- Zarządzanie kosztami — monitorowanie użycia tokenu, ustawianie limitów długości odpowiedzi i implementowanie ograniczania szybkości, aby zapobiec nieoczekiwanym wzrostom.
- Obsługa błędów — zaimplementuj logikę ponawiania z wycofywaniem wykładniczym w przypadku błędów przejściowych. Obsługa ograniczania szybkości za pomocą strategii wycofywania. Zweryfikuj dane wejściowe przed wysłaniem do agentów.
- Zarządzanie konwersacjami — punkty końcowe aplikacji agenta obsługują obecnie tylko bezstanowy interfejs API odpowiedzi. Przechowuj historię konwersacji w kliencie na potrzeby interakcji wieloetapowych.