Een model voor eindpuntresource toevoegen aan een Databricks-app

Voeg model voor eindpunten toe als Databricks Apps-resources, zodat uw app machine learning-modellen kan opvragen voor deductie. Model voor eindpunten verwerken modelvoorspellingen en bieden een consistente interface voor toegang tot geïmplementeerde modellen.

Een model voor eindpuntresource toevoegen

Voordat u een model toevoegt dat als een resource fungeert, controleert u de vereisten voor de app-resource.

1. Wanneer u een app maakt of bewerkt, gaat u naar de stap Configureren .
2. Klik in de sectie App-resources op + Resource toevoegen.
3. Selecteer Het servereindpunt als het resourcetype.
4. Kies een modelserver-eindpunt uit de beschikbare eindpunten in uw werkruimte.
5. Selecteer het juiste machtigingsniveau voor uw app:
   • Kan bekijken: Eindpuntmetagegevens weergeven, waaronder modelnamen, versies en workloadconfiguratie. Kan geen deductieaanvragen verzenden.
   • Kan een query uitvoeren op: Verzend deductieaanvragen en bekijk metagegevens. Gebruik dit voor de meeste apps die modelvoorspellingen nodig hebben.
   • Kan het volgende beheren: Volledig beheer, inclusief weergave,bewerken, query's, verwijderen en beheren van machtigingen.
6. (Optioneel) Geef een aangepaste resourcesleutel op. Dit is de wijze waarop u verwijst naar het model dat het eindpunt in uw app-configuratie bedient. De standaardsleutel is serving-endpoint.

Opmerking

Het service-eindpunt van het model moet een READY status hebben om deductieaanvragen van uw app te verwerken.

Omgevingsvariabelen

Wanneer u een app met een model voor eindpuntresource implementeert, maakt Azure Databricks de naam van het servereindpunt beschikbaar via omgevingsvariabelen waarnaar u kunt verwijzen met behulp van het valueFrom veld.

Voorbeeld:

SERVING_ENDPOINT=<your-serving-endpoint-name>

Zie Omgevingsvariabelen gebruiken voor toegang tot resources voor meer informatie.

Een eindpuntresource voor een model verwijderen

Wanneer u een model voor eindpuntresource uit een app verwijdert, verliest de service-principal van de app de toegang tot het eindpunt. Het model dat het eindpunt zelf bedient, blijft ongewijzigd en blijft beschikbaar voor andere gebruikers en toepassingen met de juiste machtigingen.

Aanbevolen procedures

Houd rekening met de volgende punten wanneer u werkt met eindpunten die modellen leveren.

• Minimale machtigingen verlenen. Gebruik Can view voor de minste toegang of Can query voor de meeste apps die inferentieverzoeken moeten verzenden, tenzij uw app specifiek beheertaken op het eindpunt moet uitvoeren.
• Vermijd langdurige query's indien mogelijk, omdat er een time-out optreedt voor deductieaanvragen.
• Controleer de eindpuntstatus voordat u aanvragen verzendt. Eindpunten moeten de READY status hebben om query's te verwerken.
• Overweeg om limieten in te stellen voor uw invoer aanvragen om de endpoint niet te overbelasten, vooral tijdens drukke periodes.