Co je služba Foundry Agent Service? (klasický)

Právě zobrazeno:Verze portálu Foundry (klasická) - Přepnout na verzi nového portálu Foundry

Většina firem nechce jen chatovací roboty. Chtějí, aby automatizace byla rychlejší a má méně chyb. To může znamenat shrnutí dokumentů, zpracování faktur, správu lístků podpory nebo publikování blogových příspěvků. Ve všech případech je cíl stejný: uvolnění lidí a prostředků, aby se zaměřily na práci s vyšší hodnotou přenesením opakujících se a předvídatelných úkolů.

Velké jazykové modely (LLM) představují nový typ automatizace se systémy, které umí porozumět nestrukturovaným datům, rozhodovat se a generovat obsah. V praxi můžou firmy mít potíže s přesunem nad rámec ukázek a do produkce. LLMs může být posunut, být nesprávný a nemá zodpovědnost. Bez viditelnosti, vynucení zásad a orchestrace jsou tyto modely obtížné důvěřovat skutečným obchodním pracovním postupům.

Microsoft Foundry je navržený tak, aby ho změnil. Jedná se o platformu, která kombinuje modely, nástroje, architektury a zásady správného řízení do sjednoceného systému pro vytváření inteligentních agentů. Centrem tohoto systému je služba Foundry Agent Service, která umožňuje provoz agentů napříč vývojem, nasazením a produkčním prostředím.

Diagram znázorňující Službu agenta Foundry jako centrální centrum spojující čtyři komponenty: modely AI vlevo, nástroje a architektury v horní části, zásady správného řízení a dodržování předpisů vpravo a orchestrace v dolní části Šipky označují, že služba agenta umožňuje agentům přejít z vývoje přes nasazení do produkčního prostředí.

Služba agenta propojuje základní části Foundry, jako jsou modely, nástroje a architektury, do jednoho modulu runtime. Spravuje konverzace, orchestruje volání nástrojů, vynucuje bezpečnost obsahu a integruje se se systémy identit, sítí a pozorovatelnosti. Tyto funkce vám pomůžou sestavovat agenty, které jsou zabezpečené, škálovatelné a připravené pro produkční prostředí.

Díky abstrakci složitosti infrastruktury a vynucování důvěryhodnosti a bezpečnosti návrhem vám může služba agentů pomoct přejít z prototypu na produkční prostředí s jistotou.

Předpoklady

  • Předplatné Azure s oprávněním k vytváření a správě prostředků Foundry.
  • Projekt Foundry. Pokud jste ho ještě nevytvořili, začněte nastavením prostředí.
  • Nasazený model, který může váš agent používat. Dostupnost modelu a oblasti se může lišit; viz modely, které informují agenty.

Dostupnost, oblasti a limity

Možnosti služby agenta se můžou lišit v závislosti na prostředí Foundry, které používáte, a podle modelu a oblasti, kterou zvolíte.

Pokud vytváříte svého prvního agenta, začněte s odkazy na rychlý průvodce v části Začínáme se službou Foundry Agent Service, abyste se ujistili, že jste na správné cestě s rozhraním API pro vaši práci v prostředí Foundry.

Co je agent AI?

Agenti rozhodují, vyvolávají nástroje a účastní se pracovních postupů. Tyto úlohy provádějí někdy nezávisle a někdy ve spolupráci s jinými agenty nebo lidmi. Jsou základem pro skutečnou automatizaci procesů.

Agenti, které vytvoříte prostřednictvím Foundry, nejsou monolitické. Jsou to kompozibilní jednotky. Každý agent má určitou roli, využívá správný model a je vybaven správnými nástroji. Každý agent nasadíte v rámci zabezpečeného, pozorovatelného a řízeného modulu runtime.

Agent má tři základní komponenty:

  • Model (LLM): Umožňuje pochopení rozumu a jazyka.
  • Pokyny: Definujte cíle, chování a omezení agenta. Můžou mít následující typy:
    • Deklarativní:
      • Na základě výzvy: Deklarativní, definovaný jeden agent, který kombinuje konfiguraci modelu, instrukce, nástroje a výzvy v přirozeném jazyce pro řízení chování.
      • Pracovní postup: Agentický pracovní postup, který lze vyjádřit jako YAML nebo jiný kód pro orchestraci více agentů společně nebo aktivaci akce s určitými kritérii.
    • Hostované: Kontejnerizované agenty vytvořené a nasazené v kódu a jsou hostovány Foundry.
  • Nástroje: Umožněte agentovi načíst znalosti nebo provést akci.

Diagram znázorňující agenta, který přijímá vstupy uživatelů na levé straně, zpracovává je prostřednictvím modelu a instrukcí ve středu a vytváří výstupy vpravo. Obousměrná šipka pod agentem se připojuje k nástrojům, což označuje, že agent může během zpracování volat nástroje za účelem načtení znalostí nebo provádění akcí.

Agenti přijímají nestrukturované vstupy, jako jsou výzvy uživatelů, výstrahy nebo zprávy od jiných agentů. Vytvářejí výstupy ve formě výsledků nebo zpráv nástroje. Cestou mohou volat nástroje pro načítání nebo spuštění akcí.

Jak fungují agenti v Foundry?

Foundry si můžete představit jako montážní linku pro inteligentní agenty. Stejně jako každá moderní továrna, Foundry spojuje specializované stanice, které jsou zodpovědné za tvarování části konečného výrobku. Místo strojů a dopravníkových pásů používá továrna na agenty modely, nástroje, politiky a orchestraci k sestavování agentů, kteří jsou bezpeční, testovatelní a připravení na produkci. Tady je postup, jak továrna funguje krok za krokem:

Diagram znázorňující továrnu agenta jako šestistupňovou montážní linku. Krok 1: Modely ukazují výběr LLM. Krok 2: Přizpůsobení ukazuje jemné ladění a návrhy. Krok 3: Znalosti a nástroje ukazují připojení k podnikovým datům a akcím. Krok 4: Orchestrace zobrazuje koordinační pracovní postupy agenta. Krok 5: Pozorovatelnost ukazuje protokolování a trasování. Krok 6: Důvěra ukazuje kontrolní mechanismy zabezpečení. Kroky se přecházejí zleva doprava a vytvářejí agenta připraveného pro produkční prostředí.

1. Modely

Montážní linka se spustí, když zvolíte model, jenž vašemu agentovi dodá jeho inteligenci. Vyberte si z rostoucího katalogu rozsáhlých jazykových modelů (LLM), včetně GPT-4o, GPT-4, GPT-3.5 (Azure OpenAI) a dalších, jako je Llama. Model je ústředním mechanismem uvažování agenta, který ovlivňuje jeho rozhodnutí.

2. Přizpůsobitelnost

Tvarujte model tak, aby odpovídal vašemu případu použití. Přizpůsobte si agenta pomocí ladění, destilace nebo doménově specifických podnětů. Zakódujte chování agenta, znalosti specifické pro role a vzory z předchozího výkonu pomocí dat zachycených z reálného obsahu konverzace a výsledků nástrojů.

3. Znalosti a nástroje

Vybavení vašeho agenta nástroji. Tyto nástroje umožňují agentům přistupovat k podnikovým znalostem (jako je Bing, SharePoint a Azure AI Search) a provádět skutečné akce (prostřednictvím Azure Logic Apps, Azure Functions, OpenAPI a dalších). Tento krok vylepšuje schopnost agenta rozšířit jeho schopnosti.

4. Orchestrace

Agent potřebuje koordinaci. Připojení agenti orchestrují celý životní cyklus, jako je zpracování volání nástrojů, aktualizace stavu konverzace, správa opakovaných pokusů a výstupy protokolování.

5. Pozorovatelnost

Testování a monitorování agentů Foundry může zachytávat protokoly, trasovací logy a hodnocení v každém kroku. Díky úplné viditelnosti na úrovni konverzací a integraci Application Insights můžou týmy kontrolovat každé rozhodnutí a průběžně zlepšovat agenty v průběhu času.

6. Důvěřovat

Ujistěte se, že jsou agenti vhodní a spolehliví pro úlohu, ke které jsou přiřazeni. Foundry používá funkce důvěryhodnosti na podnikové úrovni, včetně identity prostřednictvím Microsoft Entra, řízení přístupu na základě role (RBAC), filtrů obsahu, šifrování a izolace sítě. Zvolíte, jak a kde vaši agenti běží, pomocí infrastruktury spravované platformou nebo vlastní infrastruktury.

Výsledkem je agent, který je připravený pro produkční prostředí: spolehlivý, rozšiřitelný a bezpečný pro nasazení napříč pracovními postupy.

Proč používat službu Foundry Agent Service?

Služba agenta poskytuje základ připravený pro produkční prostředí pro nasazení inteligentních agentů v podnikových prostředích. Tady je postup, jak porovnává mezi klíčovými funkcemi:

Schopnost Služba agenta
Viditelnost do konverzací Úplný přístup ke strukturovaným konverzacím, včetně zpráv mezi uživateli a agenty i mezi samotnými agenty. Ideální pro uživatelská rozhraní, ladění a trénování.
Koordinace více agentů Integrovaná podpora zasílání zpráv mezi agenty
Orchestrace nástrojů Spouštění na straně serveru a opakování volání nástrojů se strukturovaným protokolováním Nevyžaduje se žádná ruční orchestrace.
Důvěryhodnost a bezpečnost Integrované filtry obsahu, které pomáhají předcházet zneužití a zmírňují rizika injektáže do výzvy, včetně útoků pomocí přenosu mezi výzvami (XPIA). Všechny výstupy se řídí zásadami.
Podniková integrace Možnost přinést si vlastní úložiště, index Azure AI Search a virtuální síť pro splnění požadavků na dodržování předpisů.
Sledování a ladění Úplná sledovatelnost konverzací, vyvolání nástrojů a trasování zpráv; Integrace Application Insights pro data o využití
Řízení identit a zásad Postavená na Microsoft Entra s plnou podporou RBAC, protokolů auditu a podmíněného přístupu podniku.

Zabezpečení, ochrana osobních údajů a dodržování předpisů

Služba agenta je určená pro podnikové úlohy, kde potřebujete silné kontroly nad identitou, sítěmi, zpracováním dat a bezpečností.

  • Bezpečnostní prvky: Použití integrovaných filtrů obsahu k omezení nebezpečných výstupů a zmírnění rizik útoků pomocí injektáže přes příkaz, včetně útoků pomocí křížové injektáže přes příkazy (XPIA).
  • Řízení izolace sítě a rezidence dat: K splnění vašich požadavků použijte virtuální sítě a přineste si vlastní prostředky.
  • Použití vlastních prostředků: Použijte vlastní prostředky Azure (například úložiště, Azure AI Search a Azure Cosmos DB pro stav konverzace), abyste splnili požadavky na dodržování předpisů a provoz. Viz Použití vlastních prostředků.
  • Zodpovědné pokyny k umělé inteligenci: Širší sadu doporučení a zdrojů zásad správného řízení najdete v tématu Zodpovědná AI pro Microsoft Foundry.

Začněte s Foundry Agent Service

Pokud chcete začít používat službu Agent Service, vytvořte ve svém Azure předplatném projekt Foundry.

Pokud vytváříte v kódu, pak se podívejte na možnosti a pokyny Microsoft Foundry SDKs.

Pokud službu používáte poprvé, začněte nastavením prostředí a úvodními příručkami.

Vytvořte projekt s požadovanými zdroji. Po vytvoření projektu nasaďte kompatibilní model, například GPT-4o. Jakmile máte nasazený model, můžete začít volat API služby agenta pomocí SDK.

BCDR pro agenty

Aby služba agenta podporovala odolnost služeb, spoléhá na zákazníky zřízené účty Azure Cosmos DB pro provozní kontinuitu a zotavení po havárii (BCDR). Pomocí tohoto přístupu můžete zajistit, že váš stav agenta bude zachován a obnoven v případě regionálního výpadku.

Jako zákazník Azure Standard zřídíte a spravujete vlastní účet Azure Cosmos DB s jedním tenantem. Do tohoto účtu uložíte veškerý stav agenta. Zálohování a obnovení řídíte prostřednictvím nativních funkcí v Azure Cosmos DB.

Pokud primární oblast přestane být dostupná, agent se automaticky připojí ke stejnému účtu Azure Cosmos DB v sekundární oblasti. Vzhledem k tomu, že Cosmos DB zachovává veškerou historii, může agent pokračovat v provozu s minimálním přerušením.

Zřiďte a udržujte účet Azure Cosmos DB a nakonfigurujte odpovídající zásady zálohování a obnovení. Toto úsilí pomáhá zajistit bezproblémovou kontinuitu, pokud primární oblast přestane být k dispozici.

Pokyny ke konfiguraci najdete v tématu Použití vlastních prostředků a virtuálních sítí.

Náklady

Používání služby agenta může účtovat náklady z modelu, který nasazujete, a z Azure prostředků, které používáte pro váš projekt (například protokolování a všechny prostředky, které jsou spravovány zákazníkem a připojujete je).

Vysvětlení a správa nákladových faktorů najdete v tématu Plánování a správa nákladů.

Řešení problémů

Pokud máte potíže se začátkem, podívejte se na tyto běžné problémy:

Související obsah

  • Last updated on