Vytváření a správa služeb modelu

Important

Tato funkce je v beta verzi. Správci účtů můžou řídit přístup k této funkci ze stránky účtu Previews. Viz Manage Azure Databricks preview.

Tato stránka popisuje, jak vytvářet, sdílet a spravovat služby modelu v katalogu Unity.

Requirements

  • Pro váš účet je povolená verze Preview služby Unity AI Gateway. Viz Manage Azure Databricks preview.
  • Pracovní prostor Azure Databricks v oblasti podporované řešením Unity AI Gateway.
  • Služba Unity Catalog je pro váš pracovní prostor povolená. Viz také Povolit pracovní prostor pro Unity Catalog.
  • Pokud chcete vytvořit modelovou službu, musíte mít:
    • USE CATALOG, USE SCHEMA a CREATE SERVICE pro katalog a schéma, kde vytváříte službu modelu.
    • EXECUTE pro každý model, který služba modelů uvádí jako cíl.
    • USE CATALOG, USE SCHEMA a CREATE TABLE v katalogu a schématu, kde se vytvoří inferenční tabulka, pokud povolíte protokolování inference.

Vytvořte službu modelu

Službu modelu můžete vytvořit v uživatelském rozhraní brány Unity AI nebo v Průzkumníku katalogu.

Služby modelu a služby poskytovatele modelů sdílejí obor názvů s jedním názvem ve schématu katalogu Unity. Název pro modelovou službu nemůžete použít, pokud už ji služba poskytovatele modelu ve schématu používá a naopak.

Použití uživatelského rozhraní

  1. Udělejte jednu z těchto věcí:
    • Na bočním panelu pracovního prostoru klikněte na AI Gateway a potom na Vytvořit.
    • V Průzkumníku katalogu přejděte do schématu, ve kterém chcete vytvořit službu modelu, a poté klikněte na Vytvořit>Služba>Služba modelu.
  2. Zadejte název služby modelu a vyberte katalog a schéma, ve které ho chcete vytvořit. Pokud začnete z Průzkumníka katalogů, Průzkumník katalogu předvyplní katalog a schéma.
  3. Vyberte primární model, který chcete nasadit, z modelů hostovaných v Databricks, k nimž máte EXECUTE a které může obsluhovat Unity AI Gateway.
  4. Klikněte na Vytvořit.

Po vytvoření služby modelu Azure Databricks otevře stránku s přehledem, kde můžete začít nebo konfigurovat další funkce, jako je protokolování odvozování.

Udělení přístupu ke službě modelu

Chcete-li ostatním umožnit dotazovat modelovou službu, udělte jim pro modelovou službu oprávnění EXECUTE a pro její katalog a schéma oprávnění USE CATALOG a USE SCHEMA. Pokud služba modelu zapisuje protokoly do inferenční tabulky, udělte jí oprávnění SELECT k tabulce, aby mohla číst zaznamenané požadavky a odpovědi.

Udělení přístupu v Průzkumníku katalogu:

  1. V Průzkumníku katalogu otevřete modelovou službu.
  2. Na kartě Oprávnění klikněte na Udělit.
  3. Vyberte uživatele nebo skupiny, pro které chcete udělit přístup, vyberte EXECUTE oprávnění a klikněte na Udělit.

Ujistěte se, že stejné objekty zabezpečení mají oprávnění USE CATALOG a USE SCHEMA pro katalog a schéma služby modelu. Pokud jim chcete umožnit číst zaprotokolované požadavky a odpovědi, udělte jim v tabulce inferencí oprávnění SELECT na kartě Oprávnění.

Další informace o udělování a zjišťování přístupu najdete v tématu řízení služeb modelu.

Konfigurace funkcí v modelové službě

Funkce, jako jsou omezení rychlosti, protokolování odvozování a mantinely v modelové službě, konfigurujete z uživatelského rozhraní brány Unity AI stejným způsobem, jako je nakonfigurujete na koncovém bodu brány Unity AI. Viz:

Protokolování inference

Když povolíte protokolování inference, Azure Databricks vytvoří novou prázdnou tabulku Unity Catalog s předdefinovaným schématem v umístění, které zadáte. Je potřeba upozornit na následující:

  • Musíte mít USE CATALOG, USE SCHEMAa CREATE TABLE v cílovém katalogu a schématu.
  • Tvůrce služby modelu je vlastníkem tabulky odvozování. Žádný jiný uživatel nemá přístup, pokud ho neudělíte.
  • Pokud tabulka již v zadaném umístění existuje, vytvoření služby modelu selže.
  • Inferenční tabulka má životní cyklus nezávislý na službě modelu. Pokud tabulku odstraníte, služba modelu bude dál fungovat, ale přestane zaznamenávat.

Další informace o odvozování tabulek najdete v tématu Monitorování služeb modelu pomocí odvozovacích tabulek.

Odstraňte službu modelu

Chcete-li smazat službu modelu, musíte k ní mít alespoň oprávnění MANAGE. Majitel vlastní nadmnožinu MANAGE.

Pokud chcete odstranit službu modelu, otevřete ji v Průzkumníku katalogu a v nabídce kebab vyberte Odstranit .

Systémem poskytované služby modelu v system.ai nelze odstranit.

Další kroky

  • Last updated on