Modelservices in Unity Catalog

Important

Deze functie bevindt zich in de bètaversie. Accountbeheerders kunnen de toegang tot deze functie beheren via de pagina Previews van de accountconsole. Zie Azure Databricks previews beheren.

Note

Unity AI Gateway wordt niet ondersteund op Azure Government.

Een modelservice is een beveiligbaar Unity Catalog-object dat een beheerd LLM-eindpunt vertegenwoordigt. Met modelservices kunt u de toegang tot LLM's centraal in Unity Catalog definiëren, delen en beheren, samen met uw gegevens en tussen werkruimtegrenzen.

Tijdens de bètaversie ondersteunen modelservices het volgende:

  • Door Databricks gehoste basismodellen voor betalen per token, als door het systeem geleverde services in system.ai en als services die u maakt.
  • Modelservices maken en beheren met de UNITY AI Gateway UI, Catalog Explorer en de Unity Catalog REST API.
  • Aanroepen van modelservices in verschillende werkruimten, vanuit Azure Databricks en daarbuiten.

Wat is een modelservice?

Een modelservice bevindt zich in een Unity Catalog-schema en verwijst naar een of meer modellen als bestemmingen, met routering en terugval tussen deze modellen. Aanroepers roepen de modelservice aan via de volledig gekwalificeerde naam, en Unity AI Gateway leidt elk verzoek naar een doelmodel.

Omdat een modelservice een beveiligbaar object voor Unity Catalog is, is het:

  • Woont in een catalogus en schema, waar schema-instellingen, zoals werkruimtebindingen, worden overgenomen.
  • Bevat standaard metagegevens van Unity Catalog, zoals naam, eigenaar, opmerking en tags.
  • Wordt beheerd door Unity Catalog-bevoegdheden, zodat u toegang verleent met behulp van dezelfde GRANT en REVOKE instructies die u gebruikt voor tabellen, functies en modellen.
  • Kan worden gedetecteerd in Catalog Explorer, naast de rest van uw Unity Catalog-assets.

Dezelfde modelservice wordt ook weergegeven als een eindpunt in de unity AI Gateway-gebruikersinterface, waar AI-teams functies kunnen configureren, zoals frequentielimieten, deductietabellen en kaders. Zie AI-governance met Unity AI Gateway voor meer informatie over deze functies.

Waarom llms beheren in Unity Catalog?

Unity AI Gateway-eindpunten die in een werkruimte zijn gemaakt, zijn gericht op die werkruimte. Als u een eindpunt wilt delen tussen werkruimten, moet u dit dupliceren in elke werkruimte en elke kopie afzonderlijk beheren.

Modelservices verplaatsen governance naar Unity Catalog, zodat u het volgende kunt doen:

  • Definieer eenmaal een LLM-eindpunt en gebruik dit vanuit elke werkruimte die is gekoppeld aan dezelfde metastore.
  • Beheer de toegang centraal met behulp van Unity Catalog-bevoegdheden, in plaats van machtigingen per werkruimte.
  • Ontdek modellen die beschikbaar zijn voor u in werkruimten vanaf één locatie.
  • Gebruik en kosten bijhouden voor modelservices in Unity Catalog-systeemtabellen.

Door het systeem geleverde modelservices

Azure Databricks biedt een kant-en-klare modelservice in het system.ai schema voor elk door Databricks gehost basismodel, zoals system.ai.databricks-claude-opus-4-6. Azure Databricks voegt nieuwe systeemmodelservices toe wanneer er nieuwe basismodellen beschikbaar komen.

Door het systeem geleverde modelservices hebben de volgende kenmerken:

  • Standaard hebben alle accountgebruikers de EXECUTE bevoegdheid, zodat u query's kunt uitvoeren zonder extra instellingen.
  • Een systeemgebruiker is de eigenaar van deze items en u kunt deze niet verwijderen.
  • Standaard kunnen alleen metastore-beheerders deze wijzigen. Een metastore-beheerder kan beheer delegeren door de MANAGE bevoegdheid te verlenen.

Zie Modelservices beheren om de toegang tot door het systeem geleverde modelservices te beperken.

Privileges

Modelservices maken gebruik van het standaard privilegemodel voor Unity Catalog. De volgende bevoegdheden zijn van toepassing:

Voorrecht Beschrijving
USE CATALOG, USE SCHEMA Open de catalogus en het schema die de modelservice bevatten. Vereist voor alle bewerkingen.
CREATE SERVICE Modelservices maken in een schema. Verleend op de catalogus of het schema.
EXECUTE Een query uitvoeren op een modelservice.
MANAGE Een modelservice wijzigen of verwijderen en de bijbehorende subsidies beheren. De eigenaar heeft een superset van MANAGE.

Wanneer een gebruiker een query op een modelservice opvraagt, controleert Azure Databricks of de eigenaarEXECUTE beschikt over de modellen waarnaar wordt verwezen (de rechten van de definieerer). De beller heeft geen directe toegang tot de onderliggende modellen nodig.

Limitations

De volgende mogelijkheden zijn niet beschikbaar tijdens de bètaversie:

  • Modellen met geconfigureerde doorvoer en externe modelaanbieders.
  • Modelservices maken en beheren met Terraform of SQL.
  • Modelservices detecteren met alleen de BROWSE bevoegdheid.
  • Herkomst en globaal zoeken naar modelservices.

Volgende stappen 

  • Last updated on