Co je Microsoft Foundry Control Plane?

Řídicí letadlo Microsoft Foundry je jednotné rozhraní pro správu, které poskytuje viditelnost, řízení a kontrolu pro agenty AI, modely a nástroje v rámci vaší podnikové Foundry. Controlní rovina Foundry centralizuje správu vaší flotily AI agentů, od návrhu až po produkci.

Vzhledem k tomu, že se vaše organizace vyvíjí od izolovaných kopilotů až po autonomní flotily více agentů, potřebujete sjednocený dohled. Řídicí rovina Foundry poskytuje viditelnost, správu a kontrolu, které potřebujete pro spolehlivé škálování.

Tento článek je určený pro podnikové správce a vývojáře umělé inteligence, kteří spravují agenty AI napříč několika projekty. Dozvíte se, co nabízí Foundry Control Plane, včetně správy zařízení, monitorování, zajištění souladu s předpisy a možnosti zabezpečení.

V tomto článku se dozvíte, co nabízí Foundry Control Plane, včetně správy zařízení, monitorování, prosazování dodržování předpisů a funkcí zabezpečení.

Předpoklady

K prozkoumání kontrolní roviny Foundry potřebujete:

• Předplatné Azure. Kreate si ho zdarma.
• Projekt Foundry. Další informace naleznete v části Vytvoření projektu.
• Brána AI nakonfigurovaná pro pokročilé funkce správy.
• Příslušná oprávnění RBAC (Role-Based Access Control) Azure pro vaše předplatné.

Kdy použít kontrolní rovinu Foundry

Zvažte použití Foundry Control Plane, pokud vaše organizace:

• Spravuje více agentů umělé inteligence v různých projektech nebo týmech.
• Vyžaduje centralizovanou viditelnost dodržování předpisů a vynucování zásad napříč flotilou AI.
• Integruje Microsoft Defender a Microsoft Purview pro zásady správného řízení AI a ochranu před hrozbami.
• Provozuje agenty z více platforem, včetně Foundry, Microsoftu a jiných zdrojů než Microsoftu.
• Potřebuje sledovat náklady, využití tokenů a spotřebu prostředků v celém prostředí AI.

Bez Foundry Control Plane spravujete agenty, modely a dodržování předpisů prostřednictvím jednotlivých prostředí Azure Portalu a samostatných zobrazení pro jednotlivé projekty. Kontrolní rovina Foundry přidává viditelnost napříč projekty, jednotné vynucení souladu a integrované bezpečnostní signály v jednom rozhraní.

Možnosti roviny řízení sléváry

Řídicí rovina Foundry integruje správu majetku, pozorovatelnost, zajištění souladu a bezpečnost do jednoho rozhraní přizpůsobeného uživatelským rolím. Integruje se se systémy zabezpečení a zásad správného řízení Microsoftu (Microsoft Defender, Microsoft Purview, Microsoft Entra) a poskytuje zásady správného řízení ve velkém měřítku.

Následující diagram znázorňuje, jak Ovládací rovina Foundry poskytuje jednotnou viditelnost flotily s agenty, modely a nástroji uvedenými napříč projekty v rámci předplatného.

Rovina řízení Foundry podporuje následující úlohy.

Správa flotily agentů pro více platforem

• Sledujte klíčové ukazatele výkonu, jako jsou aktivní agenti, dokončení spuštění, stav dodržování předpisů, nákladová efektivita a zakázané chování napříč podporovanými platformami agentů.

• Pomocí hlubokých odkazů můžete získat přístup k vyhodnocovacím a monitorovacím prostředím pro rychlé ladění, diagnostiku a nápravu.

• Vizualizujte stav vozového parku pomocí řídicích panelů, které zobrazují trendy a anomálie.

Monitorování a zlepšení výkonu agenta

• Korelujte výstrahy, výsledky vyhodnocení a data trasování za účelem rychlé identifikace problémů.

• Nepřetržitě vyhodnocujte výkon, kvalitu a rizikové dimenze agenta. Mezi rizikové dimenze můžou patřit dodržování úkolů, řešení záměrů, úspěch volání nástroje, relevantnost, únik citlivých dat a vystavení útokům prostřednictvím injektáží promptů napříč doménami (XPIA).

• Pomocí agenta seskupování AI Red Teaming a analýzy clusteru můžete automatizovat zjišťování ohrožení zabezpečení a zjištění původní příčiny chyb.

• Podívejte se na doporučení pro vylepšení výzvy, upgrady verzí modelu a změny konfigurace.

Vynucení pravidel pro dodržování předpisů

• Definujte zásady ochranné mantinely na podnikové úrovni pro zabezpečení, dodržování předpisů a kvalitu.

• Můžete použít hromadnou nápravu k opravě nevyhovujících konfigurací ve vašem systému.

Zabezpečení agentů

• Pro průběžné testování agentů naplánujte automatizované kontroly červeného týmu a monitorování odchylek.

• Zobrazte si výstrahy Defenderu a Microsoft Purview přímo na Foundry Control Plane dashboardu.

• Sledujte limity rychlosti, využití tokenů a anomálie nákladů, abyste zabránili neefektivitě nebo zneužití.

Klíčové funkce

Možnosti popsané dříve náleží podoken, které zpřístupníte výběrem možnosti Operate v pravém horním panelu nástrojů pracovního prostoru ve Foundry. Z provozu můžete monitorovat, řídit a optimalizovat všechny agenty, modely a nasazení v rámci vašeho předplatného.

Každé podokno v rámci operace je navržené kolem konkrétní úlohy. Tato podokna pomáhají různým rolím, od tvůrců po správce, spravovat systémy AI ve velkém měřítku.

Přehled

V podokně Přehled můžete přehledně porozumět stavu, výkonu a dodržování předpisů pro flotilu.

Toto podokno poskytuje vysokoúrovňový přehled vašich prostředků AI shromažďováním klíčových metrik provozu a dodržování předpisů v jednom pohledu. Můžete:

• Zobrazit klíčové statistiky, jako jsou aktivní agenti, trendy nákladů, míra úspěšného dokončení spuštění a zabráněné chování.
• Procházení anomálií nebo špiček nákladů prostřednictvím kontextových grafů a přímých odkazů na informace o inventáři, pozorovatelnosti nebo zásadách
• Počáteční identifikace potenciálních rizik s využitím skóre stavu založeného na trendu a souhrnů výstrah

Aktiva

Pomocí podokna Prostředky můžete sledovat, analyzovat a spravovat všechny agenty, modely a nástroje z jednoho místa.

Toto podokno poskytuje jednotnou prohledávatelnou tabulku všech prostředků AI napříč projekty v rámci předplatného. Spojuje důležitá metadata a indikátory stavu, takže můžete efektivně vyhodnocovat a reagovat na prostředky umělé inteligence. Můžete:

• Můžete filtrovat a řadit podle klíčových atributů, jako jsou verze, značky, skóre stavu (procento), náklady, výstrahy a využití tokenů a rychle vyhledat prostředky.
• Přechod k podrobnostem z libovolné položky v tabulce inventáře agenta na kartě Vyhodnocení nebo Monitorování pro přehledy před nasazením a po nasazení
• Zobrazit doporučení v textu pro zpřesnění pokynů, upgrade modelů nebo optimalizaci konfigurací na základě výkonnostních a nákladových signálů.
• Korelujte protokoly modulu runtime s výsledky vyhodnocení a odhalujte původní příčiny chyb nebo snížení výkonu.
• Vizualizujte clustery odchylek, latence a chyb napříč běhy nebo buildy za účelem včasné detekce vznikajících problémů.
• Integrujte se s agentem pro red teaming umělé inteligence, abyste automatizovali testování zranitelností, regresní testování a reprodukci problému.
• Sledujte a upravte model a omezení agentů.

Compliance

V podokně Dodržování předpisů můžete řídit systémy AI a vynucovat správné mantinely.

Podokno Dodržování předpisů umožňuje definovat, používat a průběžně monitorovat mantinely a zásady dodržování předpisů napříč prostředky AI. Poskytuje jednotné rozhraní pro zprovoznění zodpovědných principů umělé inteligence a zároveň pomáhá zajistit bezpečnost a dodržování právních předpisů na podnikové úrovni. Můžete:

• Definujte a vynucujte ochranu prostřednictvím hloubkových integrací s Azure Policy, Defenderem a Microsoft Purview. Tyto integrace pomáhají zajistit, aby ochrana identit, dat a hrozeb fungovala společně.
• Použijte zásady správy verzí a sledujte přiřazení, abyste zachovali úplnou auditovatelnost a sledovatelnost napříč agenty a prostředími.
• Sledujte stav dodržování předpisů v reálném čase, abyste mohli identifikovat nevyhovující prostředky a umožnit hromadnou nápravu přímo z Foundry Control Plane.

Správa zásad v Foundry umožňuje správcům a vývojářům vkládat požadavky na kvalitu a bezpečnost do životního cyklu vývoje a nasazení. Tyto zásady pomáhají zajistit, aby všechny modely fungovaly bezpečně a dodržovaly organizační a regulační standardy.

Kvóta

Pomocí podokna Kvóta můžete zobrazit, upravit a vyžádat kvóty.

V podokně Kvóta se zobrazí nasazení modelu a kolik kvót každé nasazení spotřebuje. Poskytuje přehled o vzorech využití a pomáhá efektivně spravovat prostředky.

Admin

Podokno Správce slouží k zobrazení, uspořádání a správě všech projektů, uživatelů a připojených prostředků v prostředí Foundry.

Toto podokno rozšiřuje provozní zobrazení nad rámec jednoho project. Většina práce v Foundry probíhá v kontextu project. Podokno Admin poskytuje přehled a konfiguraci více projektů, uživatelských oprávnění a propojených Azure zdrojů z jednoho místa.

Z prostředí Admin mohou správci a pokročilí uživatelé:

• Získejte přehled o všech projektech v rámci svého předplatného nebo tenanta, včetně aktivních, neaktivních a archivovaných pracovních prostorů.
• Prohlédněte si podrobné project informace, jako jsou vlastníci, oblast, připojené služby a stav dodržování předpisů.
• Přidejte nebo odeberte uživatele přímo z project a definujte podrobné úrovně access, které jsou v souladu s rolemi organizace.
• Připojte nebo spravujte připojené prostředky, jako jsou účty storage, výpočetní clustery a nástroje Foundry, aby projekty zůstaly správně zřízené.
• Přiřaďte přístup v nadřazeném oboru (v rámci předplatného nebo skupiny prostředků), abyste mohli zajistit konzistentní dědičnost řízení a oprávnění napříč více projekty.

Začněte s Foundry Control Plane

Řídicí rovina Foundry je k dispozici v portálu Foundry. Pro začátek používání Foundry Control Plane prozkoumejte tyto materiály:

• Konfigurace brány AI: Povolení pokročilých funkcí zásad správného řízení v projektech Foundry
• Konfigurace monitorování pro flotilu agentů: Povolte metriky a diagnostické informace pomocí funkcí pozorovatelnosti.
• Zjištění agentů ve vašem předplatném: Zjistěte, kteří agenti jsou k dispozici a spravujte je centrálně.
• Registrace vlastních agentů: Import externích agentů do registru Control Plane Foundry.

Související obsah

• Spravujte dodržování předpisů a zabezpečení v Microsoft Foundry: Vynucujte zodpovědné zásady umělé inteligence, integrujte signály Defenderu a Microsoft Purview a reagujte na výstrahy dodržování předpisů.
• Optimalizace nákladů a výkonu modelu: Analyzujte ovladače nákladů, využití tokenů a spotřebu prostředků, abyste maximalizovali návratnost investic z vašeho portfolia agentů.
• Správa agentů ve velkém měřítku: Sledování a správa agentů z podporovaných platforem v jednom jednotném zobrazení
• Průběžné vyhodnocování agentů AI (Preview):: Automaticky monitorujte výkon agenta, kvalitu a rizikové dimenze.