Zásady správného řízení AI s využitím brány Unity AI

Důležité

Tato stránka popisuje novou bránu Unity AI (zobrazenou na bočním panelu uživatelského rozhraní), která je aktuálně v beta verzi. Správci účtů můžou povolit přístup k této funkci na stránce náhledů konzoly účtu. Viz Manage Azure Databricks preview.

Podrobnosti o předchozí verzi služby AI Gateway (nikoli Unity AI Gateway) najdete v tématu AI Gateway pro obsluhu koncových bodů.

Unity AI Gateway je řešení zásad správného řízení Azure Databricks pro podnikovou AI. Postavený na Unity Catalog rozšiřuje správu nad rámec vašich dat a AI prostředků i na běhové interakce mezi modely, agenty, servery MCP a nástroji. Určete, které týmy služeb AI můžou používat, směrovat a spravovat provoz umělé inteligence, nastavit mantinely a monitorovat využití z jedné řídicí roviny.

Začínáme

Nastavení a použití zásad správného řízení AI napříč prostředky AI, provozem a chováním služeb

Téma Description
Průvodce zásadami správného řízení AI Ucelená cesta pro správce, která správcům umožňuje řídit přístup k prostředkům AI, přenosům a nákladům a obsahu požadavků a odpovědí.
Kurz: Řízení přístupu agenta pro kódování GitHub MCP Omezte přístup agenta kódování k nástrojům GitHub MCP pomocí oprávnění katalogu Unity a předdefinovaných zásad služby.
Kurz: Implementace mantinely v modelové službě pomocí zásad služby Implementujte v modelové službě ochranné mantinely pomocí předdefinovaných a vlastních zásad služeb.

Určete, které služby AI mohou týmy používat

Zaregistrujte prostředky AI jako zabezpečitelné objekty katalogu Unity a pak udělte a odvolejte přístup se stejnými oprávněními, která používáte pro tabulky a svazky. Agenti podléhají správě prostřednictvím těchto stejných zabezpečitelných objektů: agent je zaregistrován jako model v katalogu Unity a nástroje, které volá, podléhají správě jako služby, funkce a připojení MCP.

Téma Description
Modely Řízení registrovaných modelů ML, včetně základních modelů hostovaných Azure Databricks, s oprávněními katalogu Unity
Oprávnění pro základní model Omezte, ke kterým základním modelům hostovaným ve službě Azure Databricks může vaše organizace přistupovat, a to v rámci celého účtu nebo pro jednotlivé skupiny.
Nástroje MCP Spravujte servery MCP registrované jako zabezpečitelné objekty v katalogu Unity Catalog pomocí filtrování nástrojů a zásad služeb.
Vlastní nástroje Řízení funkcí katalogu Unity, které agenti používají jako nástroje, se stejnými oprávněními, která používáte pro data.
Připojení HTTP Řízení připojení katalogu Unity, která se používají k přístupu k externím rozhraním API a serverům MCP
Vytváření služeb modelu Definujte a sdílejte služby modelu jako zabezpečitelné objekty katalogu Unity napříč pracovními prostory.

Směrování a správa provozu AI

Unity AI Gateway směruje požadavky na služby modelu a MCP z centrální řídicí roviny, abyste mohli spravovat kapacitu, dostupnost a výdaje napříč poskytovateli.

Téma Description
Použijte omezení rychlosti Vynucujte limity spotřeby u modelových služeb a služeb MCP, abyste mohli spravovat kapacitu a náklady.
Nakonfigurujte rozdělení provozu a záložní varianty Distribuujte požadavky mezi více backendů modelu a přidejte mechanismus převzetí služeb při selhání pro zvýšení dostupnosti.
Správa rozpočtů Monitorujte útratu a nastavte prahové hodnoty pro jednotlivé uživatele a pevné limity napříč Azure Databricks hostovanými a externími poskytovateli.

Poznámka:

Za funkce Unity AI Gateway se během beta verze neúčtují poplatky.

Nastavení mantinely a zásad přístupu

Zásady služeb, označované také jako mantinely, řídí, jak jednotlivé požadavky a odpovědi probíhají, na základě jejího obsahu a na tom, kdo hovor provádí.

Téma Description
Zásady služeb pro zabezpečitelné AI Jak zásady služeb řídí obsah požadavků a odpovědí na služby AI pomocí předdefinovaných a vlastních zásad.
Vytvořte a připojte zásadu služby Jak napsat funkci zásad služby a připojit ji ke službě MCP nebo modelové službě.

Monitorování využití, nákladů a rizik

Sledujte aktivity, výdaje a výsledky ve všech službách Unity AI Gateway.

Téma Description
Monitorování využití Sledujte požadavky, využití tokenů a latenci služeb modelu pomocí systémových tabulek.
Analýza nákladů Přiřaďte náklady na Azure Databricks ke službám, cílovým modelům, identitám a značkám.
Žádosti a odpovědi auditu Zaznamenávejte požadavky a odpovědi do tabulek Unity Catalog Delta pro monitorování a ladění.

Model obsluhující koncové body (předchozí)

Předchozí verze služby AI Gateway obsahuje funkce zásad správného řízení pro model obsluhující koncové body na úrovni pracovního prostoru, včetně koncových bodů externího modelu, koncových bodů rozhraní API pro základní model a koncových bodů vlastního modelu.

Téma Description
AI Gateway pro obsluhu koncových bodů Seznamte se s funkcemi služby AI Gateway pro obsluhu koncových bodů, včetně podporovaných funkcí a omezení.
Nakonfigurujte AI bránu na koncových bodech pro poskytování modelů Nakonfigurujte funkce služby AI Gateway, jako je sledování využití, protokolování datové části, omezení rychlosti a mantinely v koncovém bodu obsluhy modelu.
Monitorujte nasazené modely pomocí inferenčních tabulek s AI Gateway Monitorujte obsluhované modely pomocí tabulek odvozování s podporou brány AI.