Testa, distribuera och integrera agenter
Testning, distribution och integrering av agenter är viktiga steg i övergången från utveckling till produktion. Microsoft Foundry tillhandahåller omfattande funktioner för validering av agentbeteende, distribution till produktionsmiljöer och anslutning av agenter till dina program. De här sista stegen omvandlar prototyper till tillförlitlig automatisering som ger affärsvärde.
Testa strategier för agenter
Noggrann testning säkerställer att dina agenter beter sig tillförlitligt i olika scenarier innan de når användarna. Testningen bör omfatta förväntade interaktioner, gränsfall och feltillstånd.
Testa med integrerade lekplatser
Både Foundry-portalen och Visual Studio Code-tillägget tillhandahåller lekplatser för interaktiv testning. Dessa miljöer simulerar verkliga användarinteraktioner samtidigt som de ger insyn i agentbeslut.
Använda lekplatsen effektivt:
Börja med lyckad sökvägstestning – Kontrollera att agenten hanterar vanliga, förväntade begäranden korrekt. Testa vanliga användarfrågor och arbetsflöden för att bekräfta att grundläggande funktioner fungerar som avsett.
Flytta till gränsfallstestning – Prova tvetydiga indata, ofullständig information och ovanliga begäranden. Edge-fall visar hur agenter hanterar osäkerhet och oväntade situationer.
Utför gränstestning – Testa gränserna för vad din agent ska och inte bör göra. Bekräfta att agenten respekterar gränser som definierats i dess instruktioner.
Utföra konversationstestning med flera turer – Kontrollera att agenten har kontext över flera utbyten. Testa om agenten kommer ihåg tidigare information och bygger på tidigare svar på rätt sätt.
Kör test av verktygsanrop – När agenter använder verktyg kontrollerar du att de anropar rätt verktyg vid rätt tidpunkter och införlivar resultaten korrekt.
Testscenarier för att verifiera
Testa följande scenarier för en kundtjänstagent:
Förväntade begäranden:
- "Jag måste schemalägga en avtalad tid"
- "Vad är dina timmar?"
- "Kan jag boka om min avtalade tid?"
Begäranden utanför omfånget:
- "Vilken medicin ska jag ta?" (bör avböja och föreslå samråd med en leverantör)
- "Kan du komma åt mina journaler?" (bör förklara sekretessgränser)
Tvetydiga indata:
- "Jag behöver hjälp" (bör ställa klargörande frågor)
- "avtalad tid" (bör samla in mer kontext)
Feltillstånd:
- Verktygsfel eller tidsgränser
- Begäranden som kräver otillgänglig information
- Systemfel under bearbetningen
Genom att registrera testresultat kan du spåra förbättringar över tid och se till att regressioner inte återinför gamla problem.
Arbeta med konversationer
Genom att förstå hur API för svar hanterar konversationer kan du utforma bättre agentupplevelser och felsöka problem effektivt.
Konversationslivscykel
Konversationsskapande – En ny konversation startar när en användare interagerar med din agent. Varje konversation upprätthåller sin egen meddelandehistorik, separat från andra användares interaktioner.
Meddelandeutbyte – När användarna skickar meddelanden bearbetar svars-API:et dem med agentens konfiguration och genererar svar baserat på konversationskontext.
Kontextbevarande – Konversationer bevarar den fullständiga meddelandehistoriken, vilket gör det möjligt för agenter att referera till tidigare utbyten och upprätthålla kontinuitet.
Konversationsavslut – Konversationer kan uttryckligen avslutas eller tillåtas att upphöra baserat på inaktivitet. Slutförda konversationer bevarar sin historik för granskning.
Hantera konversationer i produktion
När du distribuerar agenter bör du överväga strategier för konversationshantering:
Sessionsgränser – Bestäm när nya konversationer ska starta. Kundtjänstagenter kan skapa nya konversationer för varje supportärende, medan produktivitetsassistenter kan ha längre konversationer.
Kontextgränser – Konversationer kan växa sig stora under långa interaktioner. Övervaka konversationslängden och implementera strategier för att sammanfatta eller arkivera gamla kontexter när det behövs.
Sekretess och kvarhållning – Definiera kvarhållningsprinciper för konversationsdata. Avgör hur länge meddelandehistoriken ska bevaras och när de ska tas bort.
Du kan visa och hantera konversationer via Foundry-portalen eller programmatiskt via SVARS-API:et, vilket ger insyn i hur användare interagerar med dina distribuerade agenter.
Distributionsmetoder
Microsoft Foundry stöder flera distributionsmetoder för att matcha olika driftbehov och teamarbetsflöden.
Distribuera från Foundry-portalen
Portaldistribution ger en visuell, guidad upplevelse:
- Navigera till din agent i Foundry-portalen
- Kontrollera att konfigurations- och testresultaten är tillfredsställande
- Välj Distribuera från agentens sida
- Bekräfta distributionsinställningar
- Vänta tills distributionen har slutförts
Distribuerade agenter visas i projektets resurslista med aktiva statusindikatorer.
Distribuera från Visual Studio Code
VS Code-distributionen integreras med ditt utvecklingsarbetsflöde:
- Öppna din agent i agentdesignern
- Välj Uppdatera på Microsoft Foundry för att push-överföra dina konfigurationsändringar
- För värdbaserade agenter använder du alternativet Distribuera värdbaserade agenter i avsnittet Verktyg
- Vänta på distributionsbekräftelse
- Uppdatera vyn Resurser för att se den uppdaterade agenten
Den här effektiviserade processen håller dig i utvecklingsmiljön, vilket eliminerar kontextväxlar under distributionen.
Distributionsöverväganden
När du distribuerar agenter bör du tänka på:
Modelltillgänglighet – Se till att den valda modelldistributionen har tillräcklig kapacitet för förväntad belastning. Övervaka användning och skalning efter behov.
Verktygsberoenden – Kontrollera att alla verktyg som agenten använder är korrekt konfigurerade. Filsökning kräver vektorlager med uppladdade dokument, API-verktyg behöver giltiga autentiseringsuppgifter.
Tydlighet i instruktionen – Dubbelkolla instruktionerna före distributionen. Ändringar efter distributionen kräver omdistribution och kan påverka användarupplevelser.
Testverifiering – Bekräfta att omfattande testning har slutförts. Distribution av otestade ändringar riskerar produktionsproblem.
Generera integrationskod
När agenterna har distribuerats måste de ansluta till dina program. Microsoft Foundry-tillägget genererar exempelintegreringskod som påskyndar den här processen.
Process för kodgenerering
Så här genererar du integrationskod:
- Välj din distribuerade agent i vyn Azure Resurser (VS Code)
- Välj Öppna kodfil från de tillgängliga åtgärderna
- Tillägget presenterar strukturerade alternativ:
- Välj önskad SDK – Välj SDK-ramverket för din integrering
- Välj ditt språk – Välj programmeringsspråk (Python, JavaScript, C#osv.)
- Välj din autentiseringsmetod – Välj hur programmet autentiserar (hanterad identitet, tjänstens huvudnamn, interaktiv osv.)
- Tillägget genererar exempelkod som visar hur du:
- Autentisera med Microsoft Foundry
- Ansluta till din specifika agent
- Skicka meddelanden med hjälp av svars-API:et
- Bearbeta agentsvar
Mönster för produktionsintegrering
Olika program kräver olika integreringsmetoder. Vanliga mönster är:
Integrering av webbprogram
Integrera agenter i webbprogram för att tillhandahålla AI-baserade funktioner:
- Starta konversationer när användare interagerar med din agent
- Skicka användarmeddelanden till agenten via svars-API:et
- Visa agentens svar i ditt användargränssnitt
- Underhålla konversationskontext mellan användarsessioner
API-drivna arbetsflöden
Använd agenter i serverdelsarbetsflöden som utlöses av händelser eller scheman:
- Skicka strukturerade data som meddelanden med hjälp av svars-API:et
- Bearbeta agentsvar programmatiskt
- Använda agentutdata för att köra nästa steg i arbetsflöden
Chatbot-implementeringar
Skapa konversationsgränssnitt som drivs av agenter:
- Mappa användarsessioner till agentkonversationer
- Hantera meddelandeutbyte i realtid via svars-API:et
- Implementera skrivindikatorer medan agenter bearbetar begäranden
- Stöd för rich media i svaren
Automatisering i bakgrunden
Distribuera agenter för automatiserade uppgifter som körs utan användarinteraktion:
- Schemalägg agentkörningar för vanliga uppgifter
- Mata in data från system till agenter med hjälp av svars-API:et
- Bearbeta agentutdata för att uppdatera affärssystem
- Övervaka agentens prestanda och resultat
Produktionsöverväganden
För att framgångsrikt köra agenter i produktion måste du uppmärksamma driftaspekterna.
Övervakning och observerbarhet
Spåra viktiga mått:
- Svarstider och latens
- Framgångsfrekvens för verktygsanrop
- Felfrekvenser och felmönster
- Antal konversationsvolymer och meddelanden
- Förbrukning av modelltoken
Dessa mått hjälper dig att identifiera prestandaproblem och optimera agentbeteendet.
Säkerhet och regelefterlevnad
Implementera metodtips för säkerhet:
- Använda hanterade identiteter eller tjänstens huvudnamn för autentisering
- Tillämpa åtkomstkontroller med lägsta behörighet
- Kryptera känsliga data under överföring och i vila
- Granska agentåtgärder och konversationer
- Implementera datakvarhållningsprinciper som är kompatibla med regler
Kostnadshantering
Övervaka och optimera kostnader:
- Spåra tokenanvändning mellan agenter och konversationer
- Ange svarslängdsgränser för att kontrollera kostnader
- Välj lämpliga modeller som balanserar kapacitet och kostnad
- Implementera hastighetsbegränsning för att förhindra oväntade användningstoppar
- Hantera kvarhållning av konversationshistorik för att minska lagringskostnaderna
Prestandaoptimering
Optimera agentprestanda:
- Frekvent efterfrågad information lagrad i cache
- Optimera instruktioner för tydlighet och koncishet
- Ta bort onödiga verktyg som lägger till svarstid
- Övervaka modellval eftersom vissa modeller är snabbare än andra
- Implementera tidsgränshantering för långvariga operationer
Felhantering och återhämtning
Robusta agentimplementeringar hanterar fel på ett korrekt sätt:
Nätverksfel – Implementera omprövningslogik med exponentiell backoff när API-anrop misslyckas på grund av tillfälliga nätverksproblem.
Verktygsfel – När verktygen överskrider tidsgränsen eller fel, ska du kontrollera att agenterna tillhandahåller användbara reservsvar i stället för att misslyckas tyst.
Rate limiting – Hantera hastighetsbegränsningssvar från Azure genom att implementera backoff-strategier och kömekanismer.
Ogiltiga indata – Verifiera användarindata innan du skickar till agenter, filtrerar skadligt innehåll eller formateringsproblem.
Uppdatera produktionsagenter
När kraven utvecklas måste du uppdatera distribuerade agenter:
- Göra ändringar i utvecklingsmiljön
- Testa noggrant innan du distribuerar uppdateringar
- Distribuera uppdateringar under perioder med låg trafik när det är möjligt
- Övervaka problem efter distributionen
- Ha återställningsplaner om uppdateringar orsakar problem
Agent-ID:t förblir konstant mellan uppdateringar, så befintliga integreringar fortsätter att fungera med uppdaterat beteende.
Testning, distribution och integrering av agenter omvandlar utvecklingsinsatser till produktionsvärde. Genom att följa systematiska testmetoder, använda integrerade distributionsverktyg och implementera robusta integrationsmönster kan du med säkerhet leverera AI-agenter som förbättrar dina program och automatiserar arbetsflöden samtidigt som tillförlitlighet och säkerhet i företagsklass bibehålls.