Agenti v Microsoft Foundry

Foundry Agent Service je spravovaná platforma pro sestavování, nasazování a škálování agentů AI. Sestavte s libovolnou architekturou, libovolným podporovaným modelem z katalogu modelů Foundry a jediným vstupním bodem pro odvozování modelů a nástroje.

Foundry vás podpoří v celém spektru od deklarativního přístupu až po plný kód: definujte promptového agenta nebo hlasového promptového agenta a nechte ho běžet ve Foundry, zabalte svůj vlastní kód jako hostovaného agenta nebo volejte Responses API z agenta, kterého už provozujete jinde. Volba způsobu sestavení pokrývá všechny možnosti.

Služba agenta na první pohled

Komponenty Co to dělá
Běhové prostředí agenta Hostuje a škáluje agenty pro prompty a hostované agenty. Spravuje konverzace, vyvolávání nástrojů a životní cyklus agenta.
Sady nástrojů Sestavte si sadu nástrojů jen jednou, například: vyhledávání na webu, vyhledávání souborů, interpret kódu, servery MCP a vlastní funkce. Pak je sdílejte mezi agenty prostřednictvím jednoho spravovaného koncového bodu MCP s centralizovaným ověřováním, zásadami správného řízení a správou verzí.
Modely Pracuje s mnoha modely z katalogu modelů Foundry, jako je GPT-4o, Llama a DeepSeek. Vyměňte modely bez změny kódu agenta.
Pozorovatelnost Kompletní trasování, metriky, vyhodnocení a integrace Application Insights Podívejte se na každé rozhodnutí, které váš agent dělá, a změřte jeho kvalitu.
Optimalizace Optimalizátor agentů (verze Preview) vyhodnocuje chování agenta a automaticky generuje lepší pokyny, dovednosti, popisy nástrojů a volbu modelů pro agenty Prompt a hostované agenty.
Identita a zabezpečení Identita Microsoft Entra, řízení přístupu na základě rolí (RBAC), filtrování obsahu a izolace virtuální sítě. Důvěra na podnikové úrovni je součástí systému.
Publikování Agenti verzí, vytváření stabilních koncových bodů a sdílení prostřednictvím Microsoft Teams, Microsoft Copilot a registru agenta Entra.

Zvolte způsob sestavení

Tip

Vytváříte svého prvního agenta? Začněte s prompt agentem buď v portálu Foundry, nebo pomocí rychlého průvodce pro vytvoření prompt agenta pomocí kódu.

Foundry vám nabízí několik způsobů, jak vytvářet řešení – od jediného volání modelu až po plně kontejnerizovaného agenta. Zvolte cestu na základě toho, co se pokoušíte udělat:

  • Chcete při práci s textem co nejméně správy?Začněte s agentem pro prompty. Konfigurace instrukcí, modelu a nástrojů; Foundry ho spouští bez kódu nebo infrastruktury.
  • Chcete mít spravované hlasové prostředí v reálném čase?Vytvořte agenta výzvy založeného na hlasu. Nakonfigurujte hlasové prostředí a připojte ho prostřednictvím služby Voice Live bez hostování kódu orchestrace sami.
  • Chcete úplné řízení v Foundry?Nasaďte hostovaného agenta. Přineste si vlastní kód a architekturu jako kontejner; Foundry ji spouští se spravovaným koncovým bodem, škálováním a identitou.
  • Už provozujete kód agenta jinde?Volejte rozhraní Responses API přímo a používejte modely a nástroje Foundry bez nutnosti spravovat prostředek agenta.

Agenti promptů, hlasoví agenti promptů a hostovaní agenti jsou typy agentů popsané v tomto přehledu. V další části se rozdělí hodnota každého z nich, abyste si mohli vybrat s jistotou.

Typy agentů

Služba agenta nabízí tři typy agentů. Vaše volba určuje, kolik si vytvoříte sami a kolik bude spravovat Foundry:

  • Promptovací agenti: nejrychlejší cesta. Definujte pokyny, model a nástroje a Foundry spustí agenta, který nebude spravovat žádný kód ani infrastrukturu.
  • Agenti založení na hlasových pokynech: spravovaní hlasoví agenti v reálném čase. Nakonfigurujte model, pokyny, zvuk a nástroje a pak se připojte k agentu přes Voice Live.
  • Hostovaní agenti: největší kontrola. Přineste si vlastní kód a architekturu a Foundry ho spouští jako kontejner se spravovaným koncovým bodem, škálováním a identitou.

Pobídnout agenty

Agenty výzvy definujete zcela prostřednictvím konfigurace, včetně pokynů, výběru modelu a nástrojů. Vytvořte je na portálu Foundry pro rychlý start nebo je definujte programově pomocí sad SDK nebo rozhraní REST API pro integraci s pracovními postupy CI/CD. V každém případě Foundry agenta spustí za vás. Neexistuje žádný kód aplikace, který by se zachoval a žádné kontejnery ani balíčky pro optimalizaci, škálování nebo monitorování zabezpečení.

Dvě cesty, jak začít:

  • Nejprve portál: na portálu Foundry interaktivně vytvořte agenta, otestujte ho v dětském prostředí a pak ho volejte z kódu aplikace.
  • Nejprve kód: Definujte agenta pomocí sady SDK nebo rozhraní REST API v kanálu nasazení, povolte správu verzí, kontrolu kódu a automatizované zavedení.

Nejlepší pro: Rychlé zahájení práce s interními nástroji, produkčními agenty, kteří nepotřebují vlastní logiku orchestrace, a týmy, které chtějí spravovaný modul runtime bez režie na infrastrukturu.

Hlasoví agenti pro výzvy

Agenti založení na hlasových pokynech jsou spravovaní agenti pro hlasové konverzace v reálném čase. Nakonfigurujte model, pokyny, nastavení zvuku, volitelné pozdravy a nástroje v definici agenta. Služba Foundry Agent service spravuje životní cyklus agenta a používá Voice Live pro rozpoznávání řeči, otáčení, interakci modelu a syntézu řeči.

Agenti pro hlasové prompty podporují spravované modely a tam, kde je to podporováno, i vaše vlastní nasazení modelu. Místo odesílání jednotlivých textových požadavků se připojujete k agentu přes protokol WebSocket v reálném čase. Informace o nastavení a podporovaných jazycích klienta najdete v tématu Rychlý start: Vytvoření agenta výzvy založeného na hlasu. Informace o hlasových architekturách, zdrojích a aktuálních omezeních verze Preview naleznete v článku Jak fungují agenti založení na hlasu.

Nejvhodnější pro: hlasová řešení určená pro komunikaci se zákazníky, scénáře call center a aplikace, které vyžadují nízkolatenční zvukovou interakci, aniž byste sami museli implementovat službu pro orchestraci hlasu.

Hostovaní agenti

Hostovaní agenti jsou agenti založené na kódu, které vytvoříte pomocí Agent Framework, LangGraph, Sdk pro agentyOpenAIAnthropic Agent SDK, GitHub Copilot SDK> nebo vlastní kód. Agenta můžete nasadit buď jako image kontejneru, nebo jako soubor .zip se zdrojovým kódem (pokud dodáte soubor .zip, Foundry za vás image sestaví) a Foundry ho spustí pomocí spravovaného koncového bodu, automatického škálování, vyhrazené identity Microsoft Entra, zachování stavu na úrovni relace a komplexního end-to-end monitorování.

Kód agenta volá koncový bod projektu Foundry pro odvozování modelů a orchestraci nástrojů, který umožňuje přístup k modelům Foundry z katalogu a sjednocené sadě nástrojů platformy: standardní nástroje, jako je vyhledávání souborů, interpret kódu a webové vyhledávání, a další nástroje, jako jsou SharePoint, WorkIQ a Fabric IQ.

Nejvhodnější pro: Agenty, které volají váš vlastní kód; dále také pro vlastní logiku orchestrace, víceagentní systémy a vlastní protokoly (webhooky, hlasová rozhraní, AG-UI), kde chcete mít plnou kontrolu nad logikou agenta, zatímco Foundry zajišťuje hostování, škálování a správu identity.

Porovnání typů agentů

Pobídnout agenty Hlasoví agenti pro výzvy Hostovaní agenti
Plocha pro vytváření obsahu Portál, SDK nebo REST Definice agenta prostřednictvím portálu, sady SDK nebo REST Agent Framework, LangGraph, OpenAI Agents SDK, Anthropic Agent SDK, GitHub Copilot SDK, vlastní kód
Modely Foundry + nástroje platformy Ano Ano, prostřednictvím služby Voice Live a nástrojů nakonfigurovaných pro agenta Ano (prostřednictvím rozhraní API odpovědí na koncovém bodu projektu Foundry)
Podpora dovedností Ano Ano Ano
Kód modulu runtime, který se má udržovat None Žádná pro spravovanou orchestraci hlasu Ano, logika vašeho agenta
Výpočetní prostředky pro správu Žádné, plně spravované Žádné, plně spravované Kontejnerové výpočetní prostředky, spravované platformou Foundry
Spravované koncové zařízení Ano Ano, webSocket v reálném čase Ano
Autoscale Automatické, spravované službou Foundry; škáluje se podle objemu požadavků Spravuje ho Foundry a Voice Live Automatické, spravované platformou Foundry; škáluje počet instancí kontejnerů podle relace a objemu požadavků
Identita agenta (Entra) Ano Ano Automatické, vyhrazené pro každého agenta
Model nákladů Inference na jedno volání + použití nástrojů Využití Voice Live a modelu; viz ceny služeb Odvození podle volání + využití nástroje + výpočetní prostředky kontejneru
Nejlepší pro Rychlé spuštění, produkční agenti bez vlastní orchestrace Mluvené interakce v reálném čase bez hostování kódu orchestrace hlasu Agenti, kteří volají vlastní kód; sekundárně vlastní logiku pro orchestraci

Použijte Responses API pro dočasné agenty

Při volání rozhraní API pro odpovědi přímo z vlastního kódu vytvoříte dočasného agenta: definice agenta (pokyny, nástroje a model) se nachází ve vašem kódu aplikace místo jako trvalý prostředek v Foundry. Každé volání sestaví agenta ve vašem procesu a spustí ho s rozhraním API pro odpovědi, takže v Foundry neexistuje žádný agent k vytvoření, aktualizaci nebo odstranění.

Tento vzor použijte, pokud chcete:

  • Logika agenta, která je součástí vaší aplikace. Verze definic společně se zbytkem kódu prostřednictvím správy zdrojového kódu a kontroly kódu, nikoli jako samostatný prostředek Foundry, který musí někdo synchronizovat s aplikací.
  • Možnosti Foundry bez režie spojené se zdroji. Stále máte k dispozici katalogové modely, platformní nástroje, data v rámci projektu, ověřování typu On-Behalf-Of a pozorovatelnost i zásady správného řízení na úrovni projektu. To vše přes endpoint projektu Foundry.

Viz Rychlý start: Informace získáte pomocí rozhraní API pro odpovědi .

Jak fungují hlasoví agenti

Agenti založení na hlasových promptech vedou mluvené konverzace v reálném čase. Agenta nakonfigurujete na portálu Foundry nebo prostřednictvím sady SDK, otestujete ho pomocí mikrofonu a zpřístupníte ho prostřednictvím prohlížeče nebo kanálu telefonního čísla. Foundry spravuje životní cyklus agenta a orchestraci hlasu, takže tuto infrastrukturu nehostujete sami.

Important

Hlasové agenty a některé související funkce monitorování, vyhodnocení, avataru, WebRTC a telefonie jsou ve verzi Preview. Funkce ve verzi Preview se poskytují bez smlouvy o úrovni služeb a nedoporučuje se pro produkční úlohy, dokud nekontrolujete požadavky na jejich podporu, zabezpečení, dodržování předpisů a dostupnost.

Hlasová agenti podporují dvě architektury modelů.

Nativní převod řeči na řeč

Caller audio
  -> realtime speech model
  -> spoken response

Tato architektura je optimalizovaná pro přirozenou konverzaci s nízkou latencí. Model v reálném čase zpracovává mluvený vstup a výstup přímo. Podporovaná nastavení a rodiny hlasových hovorů závisí na vybraném modelu.

Kaskádový textový model

Caller audio
  -> speech recognition
  -> text model
  -> speech synthesis
  -> spoken response

Tato architektura nabízí širší výběr textových modelů a hlasů Azure. Poskytuje také explicitní kontrolu nad přepisem, seznamy frází, detekcí otáčení a dočasnými odpověďmi, ale každá fáze přispívá k celkové latenci.

Základní prostředky

Typický hlasový agent vytvořený na portálu používá:

  • Zdroj a projekt Foundry.
  • Verzovaný agent založený na hlasových pokynech.
  • Plně spravovaný model Voice Live nebo oprávněný model nasazený zákazníkem.
  • Funkce Azure Speech v nástroji Foundry Tools pro přepis nebo syntézu, pokud to vyžaduje vybraná architektura.
  • Application Insights pro trasování, monitorování a vyhodnocování dat.
  • Azure Communication Services a Azure Event Grid pro příchozí hovory v rámci rozšiřitelnosti Teams Phone nebo připojení projektu Twilio pro kanály telefonních čísel Twilio.

Pokud používáte plně spravovaný model Voice Live, nemusíte nasazovat samostatný zvukový model. Dostupnost a chování modelu se načítají dynamicky pro váš prostředek a oblast.

Hranice podpory na aktuálním portálu

Capability Aktuální chování na základě hlasu
Testování prohlížeče Podporováno v testovacím prostředí agenta.
Náhled webové aplikace K dispozici, když koncový bod agenta podporuje protokol Odpovědi.
Telefonní čísla Rozšiřitelnost telefonů Teams a Twilio
Direct SIP V současné době se nenabízí jako podporovaný tok zákazníka.
publikování aplikací Microsoft Teams a Microsoft 365 Copilot Standardní karta textového agenta se aktuálně nezobrazuje v rozvržení Kanálů pro hlasovou komunikaci. Nepopisujte to jako cestu integrace telefonu.
Avatar Výstup vizuálu prohlížeče přes WebRTC; telefonní volající přijímá pouze zvuk.
Monitoring Souhrnné karty specifické pro hlas, rozpisy tokenů a grafy latence připojení vyžadují Application Insights.
Tracing Hlasové stopy používají jedno zobrazení zaměřené na stopy, protože hlasové stopy nemají rozhraní Responses API response_id.
Hodnocení Podporuje se vyhodnocení celé konverzace z existujících konverzací. U hlasových agentů se v současné době nepodporuje jednorázové a simulované vyhodnocení konverzací.
Vytvoření datové sady z tras Akce „trace-page“ není v současné době pro hlasové agenty k dispozici.

Dostupnost a ceny

Dostupnost závisí na oblasti prostředků Foundry, vybraném modelu, vybraném hlasu, předplatném a povolených funkcích Preview. Než budete spoléhat na konkrétní model, zkontrolujte portál.

Mezi potenciální poplatky patří vstupy a výstupy generativního modelu AI, rozpoznávání a syntéza řeči, trénování a hostování vlastních hlasů, používání avatarů, příjem a uchovávání dat ve službě Application Insights, volání a telefonní čísla ve službě Azure Communication Services, služby Microsoft Teams a telefonie a připojené nástroje a datové služby. Podrobnosti o nákladech najdete v tématu Ceny pro hlasové agenty.

Dokumentace k hlasovému agentu

Article Použijte ho k
Vytvořte hlasového agenta pro zadávání pokynů Vytvořte spravovaného hlasového agenta, připojte se k živé relaci a dokončete mluvenou akci.
Konfigurace hlasového agenta Zvolte model a nakonfigurujte přepis, jazyky, hlasy, avatary, detekci otáčení, vylepšení zvuku, dočasné odpovědi a nástroje.
Integrace telefonního kanálu Integrujte rozšiřitelnost telefonu Teams nebo Twilio s hlasovým agentem.
Trasování, monitorování a vyhodnocování hlasových agentů Trasování, monitorování a vyhodnocování hlasových konverzací
Osvědčené postupy pro hlasové agenty Použijte ovládací prvky pro pokyny, latenci, rozpoznávání, bezpečnost, ochranu soukromí, předávání, testování a vydání.

Podpora modelů

Služba agenta funguje s mnoha modely dostupnými v katalogu modelů Foundry. Úplný seznam najdete na portálu Foundry.

Nástroje a sady nástrojů

Agenti fungují na světě prostřednictvím nástrojů. Foundry nabízí integrované nástroje, jako je vyhledávání na webu, vyhledávání souborů, interpret kódu a paměť, a zároveň umožňuje přidávat vlastní nástroje prostřednictvím funkcí, specifikací OpenAPI a serverů MCP. Úplnou sadu najdete v přehledu panelu nástrojů.

Panel nástrojů tyto nástroje seskupí do jedné opakovaně použitelné jednotky. Nástroje stačí vybrat a spravovat jen jednou a Foundry je zpřístupní prostřednictvím jednoho spravovaného endpointu kompatibilního s MCP, který může využívat libovolný agent nebo běhové prostředí bez ohledu na použitý framework. Sady nástrojů centralizují ověřování, zásady správného řízení a správu verzí, takže nástroje aktualizujete na jednom místě místo toho, abyste znovu posílali všechny agenty. Vytvořte novou verzi, otestujte ji a jakmile budete připraveni, nastavte ji jako výchozí. Další informace najdete v tématu Co je sada nástrojů v Foundry?.

Připojení ke vzdáleným serverům MCP a jejich ověření

Foundry podporuje vzdálené servery MCP, které můžete přidat do svého agenta, jako je Azure DevOps MCP Server. Připojte Azure DevOps organizaci, abyste povolili přístup k agentům, a nakonfigurujte podmnožinu dostupných nástrojů, abyste mohli řídit, které akce můžou agenti provádět. Vlastní servery MCP hostované na Azure Functions můžete také připojit pomocí koncového bodu webhooku Functions MCP (/runtime/webhooks/mcp) a zpřístupnit tak vašim agentům vlastní nástroje.

Mezi podporované možnosti ověřování pro servery MCP a další připojení nástrojů patří:

  • Přístup založený na klíčích
  • Microsoft Entra (pomocí spravované identity agenta nebo spravované identity projektu)
  • Předávání identity OAuth (jako Prostředník)
  • Neověřený přístup, pokud je to vhodné

Tyto možnosti ověřování platí také při připojování vzdálených serverů MCP s přihlašovacími údaji a obory spravovanými v konfiguraci nástroje.

Životní cyklus vývoje

Služba agenta podporuje úplný pracovní postup sestavení-testování-nasazení-monitorování:

  1. Vytvoření: Definujte agenta výzvy na portálu nebo pomocí sady SDK nebo napište hostovaného agenta, který volá rozhraní API pro odpovědi.
  2. Test: Chatujte s vaším agentem na hřišti agentů nebo spusťte místně. Integrace serverů MCP, včetně vlastních serverů MCP hostovaných ve službě Azure Functions, lze testovat přímo v Playgroundu a před publikací tak ověřit konektivitu nástrojů, oprávnění a jejich chování.
  3. Trasování: Zkontrolujte každé volání modelu, vyvolání nástrojů a rozhodování pomocí trasování agenta.
  4. Vyhodnoťte: Spusťte vyhodnocení, abyste změřili kvalitu a odhalili regrese.
  5. Optimalizace: Automaticky vylepšete pokyny hostovaného agenta pomocí optimalizátoru agenta.
  6. Publikovat: Převeďte svého agenta na spravovaný prostředek se stabilním koncovým bodem
  7. Monitorování: Sledování výkonu a spolehlivosti pomocí metrik služeb a řídicích panelů

Podrobný návod najdete v tématu Životní cyklus vývoje agenta.

Podnikové možnosti

Služba agenta poskytuje infrastrukturu na podnikové úrovni pro každého nasazeného agenta:

  • Identita agenta: Každý agent může mít vyhrazenou Microsoft Entra identitu, která umožňuje zabezpečený a vymezený přístup k prostředkům a rozhraním API bez sdílení přihlašovacích údajů. Identity agentů se můžou ověřit na externích serverech MCP, včetně těch hostovaných na Azure Functions, a předávání OAuth on-Behalf-Of (OBO) se podporuje při konfiguraci.
  • Privátní sítě: Spouštění agentů ve vaší Azure virtuální síti pro úplnou izolaci sítě a dodržování požadavků na rezidenci dat. Privátní síťování je k dispozici pro agenty promptů. Hostovaní agenti podporují vlastní Azure Virtual Network (BYO VNet), kde každá relace běží v izolovaném sandboxu virtuálního počítače připojeném k vaší virtuální síti.
  • Řízení přístupu na základě role: Jemně odstupňovaná oprávnění prostřednictvím Microsoft Entra a Azure RBAC. Určete, kdo může vytvářet, volat a spravovat agenty.
  • Bezpečnost obsahu: Integrované filtry obsahu pomáhají zmírňovat rizika injektáže promptu (včetně injektáže mezi prompty) a předcházet nebezpečným výstupům.

Pokyny k nastavení prostředí najdete v tématu Nastavení prostředí.

Publikování a sdílení

Služba agentů poskytuje integrované správy verzí a publikování, aby se vaši agenti mohli přesunout z vývoje do produkčního prostředí s jistotou.

  • Verzování: Při úpravách agenta se automaticky vytvářejí snímky verzí. Vraťte se zpět na předchozí verzi nebo porovnejte změny mezi verzemi.
  • Publikování: Zvýšení úrovně agenta na spravovaný prostředek se stabilním koncovým bodem Publikované agenty dědí identitu organizace a řízení přístupu nakonfigurované pro váš projekt a dají se vyvolat programově.
  • Distribuce: Sdílejte publikované agenty prostřednictvím Microsoft Copilotu a Teams a Registru agentů Entra a umístěte své agenty tam, kde vaši uživatelé již pracují. Služba Foundry Agent podporuje protokoly OpenResponses a activity pro publikování Microsoft 365, protokol vyvolání pro flexibilní integraci koncových bodů s vlastními aplikacemi a službami a protokol A2A pro komunikaci mezi agenty. A2A verze 1.0 je obecně dostupná a verze v0.3 zůstává ve verzi Preview.

Zabezpečení, ochrana osobních údajů a dodržování předpisů

Služba agenta je určená pro podnikové úlohy, kde potřebujete silné kontroly nad identitou, sítěmi, zpracováním dat a bezpečností.

  • Bezpečnostní prvky: Pomocí integrovaných mantinelí můžete snížit nebezpečné výstupy a zmírnit rizika injektáže výzvy, včetně útoků prostřednictvím injektáže mezi výzvami (XPIA).
  • Řízení izolace sítě a rezidence dat: K splnění vašich požadavků použijte virtuální sítě a přineste si vlastní prostředky.
  • Přineste si vlastní prostředky: Použijte své vlastní prostředky Azure (například úložiště, Azure AI Vyhledávač a Azure Cosmos DB pro stav konverzací), abyste splnili požadavky na soulad s předpisy a provozní potřeby. Viz Použití vlastních prostředků.
  • Pokyny pro zodpovědnou AI: Širší sadu doporučení a zdrojů pro řízení najdete v tématu Zodpovědná AI pro Microsoft Foundry.