Een model voor eindpuntresource toevoegen aan een Databricks-app

Voeg model voor eindpunten toe als Databricks Apps-resources, zodat uw app machine learning-modellen kan opvragen voor deductie. Model voor eindpunten verwerken modelvoorspellingen en bieden een consistente interface voor toegang tot geïmplementeerde modellen.

Een model voor eindpuntresource toevoegen

Voordat u een model toevoegt dat als een resource fungeert, controleert u de vereisten voor de app-resource.

1. Klik in de sectie App-resources wanneer u een app maakt of bewerkt op + Resource toevoegen>Bedieningseindpunt.
2. Kies een modelserver-eindpunt uit de beschikbare eindpunten in uw werkruimte.
3. Selecteer het juiste machtigingsniveau voor uw app:
   • Kan bekijken: Eindpuntmetagegevens weergeven, waaronder modelnamen, versies en workloadconfiguratie. Kan geen deductieaanvragen verzenden.
   • Kan een query uitvoeren op: Verzend deductieaanvragen en bekijk metagegevens. Gebruik dit voor de meeste apps die modelvoorspellingen nodig hebben.
   • Kan het volgende beheren: Volledig beheer, inclusief weergave,bewerken, query's, verwijderen en beheren van machtigingen.
4. (Optioneel) Geef een aangepaste resourcesleutel op. Dit is de wijze waarop u verwijst naar het model dat het eindpunt in uw app-configuratie bedient. De standaardsleutel is serving-endpoint.

Opmerking

Het service-eindpunt van het model moet een READY status hebben om deductieaanvragen van uw app te verwerken.

Omgevingsvariabelen

Wanneer u een app implementeert met een model voor eindpuntresources, Azure Databricks de naam van het servereindpunt beschikbaar maakt via omgevingsvariabelen waarnaar u kunt verwijzen met behulp van het veld valueFrom.

Voorbeeld:

SERVING_ENDPOINT=<your-serving-endpoint-name>

Zie Omgevingsvariabelen gebruiken voor toegang tot resources voor meer informatie.

Een eindpuntresource voor een model verwijderen

Wanneer u een model voor eindpuntresource uit een app verwijdert, verliest de service-principal van de app de toegang tot het eindpunt. Het model dat het eindpunt zelf bedient, blijft ongewijzigd en blijft beschikbaar voor andere gebruikers en toepassingen met de juiste machtigingen.

Aanbevolen werkwijzen

Houd rekening met de volgende punten wanneer u werkt met eindpunten die modellen leveren.

• Minimale machtigingen verlenen. Gebruik Can view voor de minste toegang of Can query voor de meeste apps die inferentieverzoeken moeten verzenden, tenzij uw app specifiek beheertaken op het eindpunt moet uitvoeren.
• Vermijd langdurige query's indien mogelijk, omdat er een time-out optreedt voor deductieaanvragen.
• Controleer de eindpuntstatus voordat u aanvragen verzendt. Eindpunten moeten de READY status hebben om query's te verwerken.
• Overweeg om limieten in te stellen voor uw invoer aanvragen om de endpoint niet te overbelasten, vooral tijdens drukke periodes.