Modelové služby v katalogu Unity

Important

Tato funkce je v beta verzi. Správci účtů můžou řídit přístup k této funkci ze stránky účtu Previews. Viz Manage Azure Databricks preview.

Note

Unity AI Gateway není v Azure Government podporována.

Modelová služba je zabezpečitelný objekt katalogu Unity, který představuje řízený koncový bod LLM. Modelové služby umožňují definovat, sdílet a řídit přístup k LLM centrálně v Katalogu Unity společně s vašimi daty a hranicemi pracovních prostorů.

Ve verzi beta podporují modelové služby následující:

  • Základní modely plateb za tokeny hostované v Databricks, jako služby poskytované system.ai systémem a jako služby, které vytvoříte.
  • Vytváření a správa služeb modelu pomocí uživatelského rozhraní brány Unity AI, Průzkumníka katalogu a rozhraní REST API katalogu Unity
  • Dotazování služeb modelu napříč pracovními prostory uvnitř a mimo Azure Databricks

Co je modelová služba?

Modelová služba se nachází ve schématu Unity Catalog a odkazuje na jeden nebo více nasazených modelů jako na cíle, mezi nimiž probíhá směrování a přepnutí na záložní cíl. Volající vyvolávají modelovou službu pomocí jejího plně kvalifikovaného názvu a Unity AI Gateway směruje každý požadavek na cílový model.

Vzhledem k tomu, že modelová služba je zabezpečitelným objektem katalogu Unity, je to:

  • Žije v katalogu a schématu, kde dědí nastavení schématu, jako jsou vazby pracovního prostoru.
  • Přenáší standardní metadata katalogu Unity, jako je název, vlastník, komentář a značky.
  • Řídí se oprávněními katalogu Unity, takže udělíte přístup pomocí stejných GRANT příkazů a REVOKE příkazů, které používáte pro tabulky, funkce a modely.
  • Lze najít v Catalog Exploreru spolu s ostatními prostředky v Unity Catalogu.

Stejná modelová služba se také zobrazuje jako koncový bod v uživatelském rozhraní brány Unity AI, kde týmy umělé inteligence můžou konfigurovat funkce, jako jsou omezení rychlosti, tabulky odvozování a mantinely. Další informace o těchto funkcích najdete v tématu Zásady správného řízení AI v Unity AI Gateway.

Proč řídit LLM v katalogu Unity?

Koncové body brány Unity AI vytvořené v rámci pracovního prostoru jsou omezené na daný pracovní prostor. Pokud chcete sdílet koncový bod mezi pracovními prostory, musíte ho duplikovat v každém pracovním prostoru a spravovat každou kopii samostatně.

Modelové služby přesouvají zásady správného řízení do katalogu Unity, abyste mohli:

  • Definujte koncový bod LLM jednou a použijte ho z libovolného pracovního prostoru připojeného ke stejnému metastoru.
  • Řízení přístupu centrálně pomocí oprávnění katalogu Unity místo oprávnění pro jednotlivé pracovní prostory.
  • Objevte modely , které jsou pro vás dostupné napříč pracovními prostory z jednoho umístění.
  • Sledujte využití a náklady služeb modelů v systémových tabulkách služby Unity Catalog.

Služby modelu poskytované systémem

Azure Databricks poskytuje službu modelu připravenou k použití ve schématu system.ai pro každý základní model hostovaný službou Databricks, například system.ai.databricks-claude-opus-4-6. Azure Databricks přidá nové služby modelu systému, jakmile budou k dispozici nové základní modely.

Služby modelu poskytované systémem mají následující charakteristiky:

  • Ve výchozím nastavení mají všichni uživatelé účtu oprávnění EXECUTE, takže se jich můžete dotazovat bez dalšího nastavení.
  • Jejich vlastníkem je systémový uživatel a nemůžete je odstranit.
  • Ve výchozím nastavení je můžou upravovat jenom správci metastoru. Správce metastoru MANAGE může delegovat správu udělením oprávnění.

Pokud chcete omezit přístup ke službám modelu poskytovaným systémem, přečtěte si téma řízení služeb modelu.

Privilegia

Služby modelů používají standardní model oprávnění služby Unity Catalog. Platí následující oprávnění:

Oprávnění Description
USE CATALOG, USE SCHEMA Přístup k katalogu a schématu, které obsahují modelovou službu. Vyžaduje se pro všechny operace.
CREATE SERVICE Vytvořte ve schématu modelové služby. Uděleno v katalogu nebo schématu.
EXECUTE Dotazovat službu modelu
MANAGE Upravte nebo odstraňte službu modelu a spravujte její oprávnění. Majitel vlastní nadmnožinu MANAGE.

Když uživatel odešle dotaz modelové službě, Azure Databricks zkontroluje, zda má vlastníkEXECUTE k odkazovaným modelům (práva definujícího). Volající nepotřebuje přímý přístup k podkladovým modelům.

Limitations

Během beta verze nejsou k dispozici následující funkce:

  • Zřízené modely propustnosti a externí poskytovatelé modelů
  • Vytváření a správa služeb modelu pomocí Terraformu nebo SQL
  • Zjišťování služeb modelu pouze s oprávněními BROWSE
  • Původ a globální vyhledávání služeb modelů

Další kroky

  • Last updated on