Migreren naar serverloze realtime deductie

Belangrijk

  • Deze documentatie is buiten gebruik gesteld en wordt mogelijk niet bijgewerkt. De producten, services of technologieën die in deze inhoud worden genoemd, worden niet meer ondersteund.
  • De richtlijnen in dit artikel zijn bedoeld voor de preview-versie van de modelserver, voorheen serverloze realtime deductie, functionaliteit. Databricks raadt u aan uw model te migreren met werkstromen naar de algemeen beschikbare functionaliteit. Zie Model dat wordt geleverd met Azure Databricks.

Belangrijk

Deze functie is beschikbaar als openbare preview.

In dit artikel wordt gedemonstreert hoe u serverloze realtime deductie inschakelt in uw werkruimte en uw modellen kunt overschakelen van het gebruik van verouderde MLflow-modellen tot modellering met serverloze realtime deductie.

Zie Model voor serverloze realtime deductie met serverloze realtime deductie.

Vereisten

  • Geregistreerd model in het MLflow-modelregister.
  • Machtigingen voor cluster maken in uw werkruimte. Zie Rechten beheren.
  • KAN MACHTIGINGEN VOOR PRODUCTIEVERSIEs beheren voor het geregistreerde model. Zie MLFlow-model-ACL's.

Belangrijke wijzigingen

  • In serverloze realtime deductie is de indeling van de aanvraag voor het eindpunt en de reactie van het eindpunt iets anders dan het verouderde MLflow-model. Zie Scoren van een modeleindpunt voor meer informatie over het nieuwe indelingsprotocol.
  • In serverloze realtime deductie bevat model-endpoint de eindpunt-URL in plaats van model
  • Serverloze realtime deductie bevat volledige ondersteuning voor het beheren van resources met API-werkstromen en is gereed voor productie.

Serverloze realtime deductie inschakelen voor uw werkruimte

Belangrijk

Serverloze realtime deductie moet zijn ingeschakeld voor uw werkruimte. De eerste keer dat deze is ingeschakeld voor de werkruimte, moet de werkruimtebeheerder de voorwaarden lezen en accepteren.

Serverloze realtime deductie inschakelen voor uw werkruimte:

  1. Schrijf u in voor de preview.
    1. Neem contact op met uw Azure Databricks-accountteam om u aan te vragen om deel te nemen aan de openbare preview van serverloze realtime deductie.
    2. Databricks stuurt u een Google-formulier.
    3. Vul het formulier in en verzend het naar Databricks. Het formulier bevat informatie over welke werkruimte moet worden ingeschreven.
    4. Wacht totdat Databricks u op de hoogte stelt dat uw werkruimte is ingeschreven in de preview-versie.
  2. Als werkruimtebeheerder opent u de pagina met beheerdersinstellingen.
  3. Selecteer Werkruimte Instellingen.
  4. Selecteer serverloze realtime deductie inschakelen van MLflow.

Verouderde MLflow-modellen voor uw modellen uitschakelen

Voordat u serverloze realtime deductie voor uw modellen kunt inschakelen, moet u verouderde MLflow-modelverdiening uitschakelen op uw momenteel bediende modellen.

In de volgende stappen ziet u hoe u dit kunt doen met de gebruikersinterface.

  1. Navigeer naar Modellen op de zijbalk van uw Machine Learning-werkruimte.
  2. Selecteer het model waarvoor u legacy MLflow Model Serving wilt uitschakelen.
  3. Selecteer Stoppen op het tabblad Serveren.
  4. Er wordt een bericht weergegeven om te bevestigen. Selecteer Stoppen met serveren.

Serverloze realtime deductie inschakelen voor uw modellen

Zodra serverloze realtime deductie is ingeschakeld in uw werkruimte, ziet u het volgende scherm op het tabblad Server van uw geregistreerde modellen. Als u serverloze realtime deductie voor dat model wilt inschakelen, klikt u op de knop Serverloze realtime deductie inschakelen.

Deelvenster Voorzitten

Belangrijk

Als u die knop niet ziet, maar in plaats daarvan een knop Server inschakelen ziet, gebruikt u eindpunten voor verouderde MLflow-modeleindpunten die geen serverloze modeleindpunten leveren. Neem contact op met een werkruimtebeheerder om de functie in deze werkruimte in te schakelen.

Aanvullende bronnen