Modelservices maken en beheren

Important

Deze functie bevindt zich in de bètaversie. Accountbeheerders kunnen de toegang tot deze functie beheren via de pagina Previews van de accountconsole. Zie Azure Databricks previews beheren.

Op deze pagina wordt beschreven hoe u modelservices maakt, deelt en beheert in Unity Catalog.

Requirements

  • Unity AI Gateway Preview ingeschakeld voor uw account. Zie Azure Databricks previews beheren.
  • Een Azure Databricks-werkruimte in een Unity AI Gateway-ondersteunde regio.
  • Unity Catalog ingeschakeld voor uw werkruimte. Zie Een werkruimte inschakelen voor Unity Catalog.
  • Als u een modelservice wilt maken, moet u het volgende hebben:
    • USE CATALOG, USE SCHEMAen CREATE SERVICE in de catalogus en het schema waar u de modelservice maakt.
    • EXECUTE op elk model waarnaar de modelservice verwijst als een bestemming.
    • USE CATALOG, USE SCHEMA en CREATE TABLE op de catalogus en het schema waarin de inferentietabel wordt gemaakt, als u inferentielogboekregistratie inschakelt.

Een modelservice maken

U kunt een modelservice maken in de gebruikersinterface van Unity AI Gateway of in Catalog Explorer.

Modelservices en modelproviderservices delen één naamruimte binnen een Unity Catalog-schema. U kunt geen naam voor een modelservice gebruiken als een modelproviderservice in het schema dit al gebruikt en omgekeerd.

De gebruikersinterface gebruiken

  1. Ga op een van de volgende manieren te werk:
    • Klik in de zijbalk van de werkruimte op AI Gateway en klik vervolgens op Maken.
    • Ga in Catalog Explorer naar het schema waarin u de modelservice wilt maken en klik vervolgensop >Servicemodel>maken.
  2. Voer een naam in voor de modelservice en selecteer de catalogus en het schema waarin u deze wilt maken. Als u begint met Catalog Explorer, vult Catalog Explorer de catalogus en het schema vooraf in.
  3. Selecteer het primaire model dat u wilt inzetten uit de door Databricks gehoste modellen waarvoor u EXECUTE hebt en die Unity AI Gateway kan serveren.
  4. Klik op Create.

Nadat u de modelservice hebt gemaakt, opent Azure Databricks de overzichtspagina, waar u aan de slag kunt gaan of aanvullende functies kunt configureren, zoals deductielogboekregistratie.

Toegang verlenen tot een modelservice

Als u anderen een modelservice wilt laten bevragen, verleent u hun EXECUTE voor de modelservice en USE CATALOG en USE SCHEMA voor de catalogus en het schema ervan. Als de modelservice naar een inferentietabel logt, verleen dan SELECT op de tabel zodat de gelogde verzoeken en antwoorden kunnen worden gelezen.

Toegang geven in Catalog Explorer:

  1. Open de modelservice in Catalog Explorer.
  2. Klik op het tabblad Machtigingen op Verlenen.
  3. Selecteer de gebruikers of groepen waaraan u toegang wilt verlenen, selecteer de EXECUTE bevoegdheid en klik op Verlenen.

Zorg ervoor dat dezelfde principals ook over USE CATALOG en USE SCHEMA beschikken voor de catalogus en het schema van de modelservice. Als u wilt dat zij gelogde aanvragen en antwoorden kunnen lezen, verleent u SELECT voor de inferentietabel op het tabblad Machtigingen.

Zie modelservices beheren voor meer informatie over het verlenen en detecteren van toegang.

Functies configureren in een modelservice

U configureert functies zoals frequentielimieten, deductielogboeken en kaders voor de modelservice vanuit de ui van de Unity AI Gateway, op dezelfde manier als u ze configureert op een Unity AI Gateway-eindpunt. See:

Logboekregistratie van inferentie

Wanneer u deductielogboekregistratie inschakelt, maakt Azure Databricks een nieuwe, lege Unity Catalog-tabel met een vooraf gedefinieerd schema op de locatie die u opgeeft. Houd rekening met het volgende:

  • U moet USE CATALOG, USE SCHEMA en CREATE TABLE hebben op de doelcatalogus en het schema.
  • De maker van de modelservice is de eigenaar van de inferentietabel. Geen andere gebruikers hebben toegang, tenzij u deze verleent.
  • Als er al een tabel bestaat op de opgegeven locatie, mislukt het maken van de modelservice.
  • De inferentietabel heeft een levenscyclus die onafhankelijk is van de modelservice. Als u de tabel verwijdert, blijft de modelservice werken, maar stopt deze met loggen.

Zie Modelservices bewaken met behulp van deductietabellen voor meer informatie over deductietabellen.

Een modelservice verwijderen

Als u een modelservice wilt verwijderen, moet u ten minste over de MANAGE bevoegdheid beschikken. De eigenaar heeft een superset van MANAGE.

Als u een modelservice wilt verwijderen, opent u deze in Catalog Explorer en selecteert u Verwijderen in het kebabmenu.

Door het systeem aangeboden modelservices in system.ai kunnen niet worden verwijderd.

Volgende stappen 

  • Last updated on