Co je služba agenta Azure AI Foundry?

Většina firem nechce jenom chatovací roboty – chtějí automatizaci, která je rychlejší a s menším počtem chyb. To může znamenat shrnutí dokumentů, zpracování faktur, správu lístků podpory nebo publikování blogových příspěvků. Ve všech případech je cíl stejný: uvolnění lidí a prostředků, aby se zaměřily na práci s vyšší hodnotou přenesením opakujících se a předvídatelných úkolů.

Velké jazykové modely (LLM) otevřely dveře novému typu automatizace pomocí systémů, které umí porozumět nestrukturovaným datům, rozhodovat se a generovat obsah. V praxi může být obtížné, aby firmy přecházely mimo ukázky a do produkce. LLMs může být posunut, být nesprávný a nemá zodpovědnost. Bez viditelnosti, vynucení zásad a orchestrace jsou tyto modely obtížné důvěřovat skutečným obchodním pracovním postupům.

Služba Azure AI Foundry je navržená tak, aby ji změnila. Jedná se o platformu, která kombinuje modely, nástroje, architektury a zásady správného řízení do sjednoceného systému pro vytváření inteligentních agentů. Centrem tohoto systému je služba agenta Azure AI Foundry, která umožňuje provoz agentů napříč vývojem, nasazením a produkčním prostředím.

Služba agenta AI Foundry propojuje základní části Azure AI Foundry, jako jsou modely, nástroje a architektury, do jednoho modulu runtime. Spravuje vlákna, orchestruje volání nástrojů, vynucuje bezpečnost obsahu a integruje se se systémy identit, sítí a pozorovatelnosti, aby se zajistilo, že agenti jsou zabezpečení, škálovatelní a připraveni na produkční prostředí.

Díky abstrakci složitosti infrastruktury a vynucování důvěry a bezpečnosti návrhem služba agenta AI Foundry usnadňuje přechod z prototypu na produkční prostředí s jistotou.

Co je agent AI?

Agenti rozhodují, vyvolávají nástroje a účastní se pracovních postupů. Někdy nezávisle, někdy ve spolupráci s jinými agenty nebo lidmi. To, co agenty odděluje od asistentů, je autonomie: asistenti podporují lidi, agenti dokončí cíle. Jsou základem pro skutečnou automatizaci procesů.

Agenti vytvořená pomocí AI Foundry nejsou monolitické. Jedná se o složitelné jednotky. Každý s konkrétní rolí, který využívá správný model a je vybaven správnými nástroji, a nasazený v zabezpečeném, pozorovatelném a řízeném provozním prostředí.

Každý agent má tři základní komponenty:

• Model (LLM): Umožňuje pochopení rozumu a jazyka
• Pokyny: Definování cílů, chování a omezení agenta
• Nástroje: Umožněte agentovi získat znalosti nebo provést akci.

Agenti přijímají nestrukturované vstupy, jako jsou výzvy uživatelů, výstrahy nebo zprávy od jiných agentů. Vytvářejí výstupy ve formě výsledků nebo zpráv nástroje. Po cestě mohou volat nástroje k provádění načítání nebo vyvolávat akce.

Jak fungují agenti v AI Foundry?

Azure AI Foundry si můžete představit jako montážní linku pro inteligentní agenty. Stejně jako každá moderní továrna spojuje různé specializované stanice, které jsou zodpovědné za tvarování části konečného výrobku. Místo strojů a dopravníkových pásů používá Agent Factory modely, nástroje, zásady a orchestraci k sestavování agentů, které jsou zabezpečené, testovatelné a připravené pro produkční prostředí. Tady je postup, jak továrna funguje krok za krokem:

1. Modely

Montážní linka začíná výběrem modelu, který propůjčuje agentovi jeho inteligenci. Vyberte si z rostoucího katalogu velkých jazykových modelů, včetně GPT-4o, GPT-4, GPT-3.5 (Azure OpenAI) a dalších, jako je Llama. Toto je jádro uvažování agenta, které pohání jeho rozhodnutí.

2. Přizpůsobení

Dále tvarujte model tak, aby odpovídal vašemu případu použití. Přizpůsobte si agenta pomocí ladění, destilace nebo doménově specifických podnětů. Tento krok umožňuje zakódovat chování agenta, znalosti specifické pro role a vzory z předchozího výkonu pomocí dat zachycených z reálného obsahu vlákna a výsledků nástrojů.

3. Nástroje AI

Pak svého agenta vybavit nástroji. Umožňují přístup k podnikovým znalostem (jako je Bing, SharePoint, Azure AI Search) a provádění skutečných akcí (prostřednictvím Logic Apps, Azure Functions, OpenAPI a dalších). Tím se zlepší schopnost agenta rozšířit jeho schopnosti.

4. Orchestrace

Dále agent potřebuje koordinaci. Připojení agenti orchestrují celý životní cyklus, jako je zpracování volání nástrojů, aktualizace stavu vlákna, správa opakovaných pokusů a výstupy protokolování.

5. Pozorovatelnost

Nakonec se agenti testují a monitorují. AI Foundry může zaznamenávat protokoly, sledovat trasování a hodnotit v každém kroku. Díky úplné viditelnosti na úrovni vláken a integraci Application Insights můžou týmy kontrolovat každé rozhodnutí a průběžně vylepšovat agenty v průběhu času.

6. Důvěřovat

Je důležité zajistit, aby agenti byli vhodní a spolehliví pro pracovní zátěž, ke které jsou přiřazeni. AI Foundry používá funkce důvěryhodnosti na podnikové úrovni, včetně identity prostřednictvím Microsoft Entra, RBAC, filtrů obsahu, šifrování a izolace sítě. Zvolíte, jak a kde vaši agenti běží – pomocí platformy spravované nebo přineste si vlastní infrastrukturu.

Výsledek? Agent, který je připravený pro produkční prostředí: spolehlivý, rozšiřitelný a bezpečný pro nasazení napříč pracovními postupy.

Proč používat službu agenta Azure AI Foundry?

Služba agenta Azure AI Foundry poskytuje základ připravený do provozu pro nasazení inteligentních agentů v podnikových prostředích. Tady je postup, jak porovnává mezi klíčovými funkcemi:

Schopnost	Služba agenta Azure AI Foundry
1. Viditelnost konverzací	Úplný přístup k strukturovaným vláknům, včetně zpráv mezi uživatelem a agentem a mezi agentem a agentem. Ideální pro uživatelská rozhraní, ladění a trénování
2. Koordinace více agentů	Integrovaná podpora zasílání zpráv mezi agenty
3. Orchestrace nástrojů	Spouštění na straně serveru a opakování volání nástrojů se strukturovaným protokolováním Nevyžaduje se žádná ruční orchestrace.
4. Důvěryhodnost a bezpečnost	Integrované filtry obsahu pomáhají zabránit zneužití a zmírnit rizika spojená s vkládáním nechtěných výzev (XPIA). všechny výstupy se řídí zásadami.
5. Podniková integrace	Přineste si vlastní úložiště, index Služby Azure AI Search a virtuální síť , abyste splnili požadavky na dodržování předpisů.
6. Pozorovatelnost a ladění	Vlákna, vyvolání nástrojů a trasování zpráv jsou plně trasovatelné a integrace Application Insights slouží pro telemetrii.
7. Řízení identit a zásad	Založená na Microsoft Entra s plnou podporou RBAC, protokolů auditu a podmíněného přístupu podniku.

Začněte s Foundry Agent Service

Pokud chcete začít se službou Foundry Agent Service, musíte ve svém předplatném Azure vytvořit projekt Azure AI Foundry.

Začněte nastavením prostředí a úvodní příručkou, pokud ji poprvé používáte.

1. Můžete vytvořit projekt s požadovanými zdroji.
2. Po vytvoření projektu můžete nasadit kompatibilní model, jako je GPT-4o.
3. Když máte nasazený model, můžete také začít volat rozhraní API do služby pomocí sad SDK.

Další kroky

Přečtěte si další informace o modelech, které power agents.