Databricks uygulamasına uç nokta kaynağı sunan model ekleme

Uygulamanızın makine öğrenmesi modellerini çıkarsama için sorgulayabilmesi amacıyla model sunum uç noktalarını Databricks Apps kaynakları olarak ekleyin. Model sunma uç noktaları, model tahminlerini işler ve dağıtılan modellere erişmek için tutarlı bir arabirim sağlar.

Uç nokta kaynağı sunan bir model ekleme

Uç noktayı kaynak olarak sunan bir model eklemeden önce uygulama kaynağı önkoşullarını gözden geçirin.

1. Bir uygulama oluşturduğunuzda veya düzenlediğinizde Yapılandır adımına gidin.
2. Uygulama kaynakları bölümünde + Kaynak ekle'ye tıklayın.
3. Kaynak türü olarak Hizmet uç noktası seçin.
4. Çalışma alanınızdaki kullanılabilir uç noktalardan uç noktaya hizmet veren bir model seçin.
5. Uygulamanız için uygun izin düzeyini seçin:
   • Görüntüleyebilir: Model adları, sürümler ve iş yükü yapılandırması dahil olmak üzere uç nokta meta verilerini görüntüleyin. Çıkarım istekleri gönderilemiyor.
   • Sorgulanabilir: Çıkarım istekleri gönderin ve meta verileri görüntüleyin. Model tahminlerine ihtiyaç duyan çoğu uygulama için bunu kullanın.
   • Yönetilebilir: İzinleri görüntüleme, düzenleme, sorgulama, silme ve yönetme dahil olmak üzere tam yönetim denetimi.
6. (İsteğe bağlı) Uygulama yapılandırmanızda uç noktaya hizmet veren modele nasıl başvuracağınız için özel bir kaynak anahtarı belirtin. Varsayılan anahtardır serving-endpoint.

Uyarı

Uygulamanızdan gelen çıkarım isteklerini işlemek için uç noktaya hizmet veren modelin bir READY durumda olması gerekir.

Ortam değişkenleri

Uç nokta kaynağına hizmet veren bir modele sahip bir uygulama dağıttığınızda Azure Databricks, alan kullanarak valueFrom başvurabileceğiniz ortam değişkenleri aracılığıyla hizmet veren uç nokta adını kullanıma sunar.

Örneğin:

SERVING_ENDPOINT=<your-serving-endpoint-name>

Daha fazla bilgi için bkz. Kaynaklara erişmek için ortam değişkenlerini kullanma.

Uç nokta kaynağını sunan modeli kaldırma

Bir uygulamadan uç nokta kaynağı sunan bir modeli kaldırdığınızda, uygulamanın hizmet sorumlusu uç noktaya erişimi kaybeder. Uç nokta sunan model değişmeden kalır ve uygun izinlere sahip diğer kullanıcılar ve uygulamalar için kullanılabilir olmaya devam eder.

En iyi yöntemler

Uç nokta kaynaklarını sunan modelle çalışırken aşağıdakileri göz önünde bulundurun:

• En düşük izinleri verin. Uygulamanızın özellikle uç noktada yönetim görevleri gerçekleştirmesi gerekmediği sürece, en az erişim gerektiren durumlar için Can view veya çıkarım istekleri göndermesi gereken çoğu uygulama için Can query kullanın.
• Uzun süre çalışan sorgulardan mümkün olduğunca kaçının, çünkü çıkarım talepleri zaman aşımına uğrayabilir.
• İstek göndermeden önce uç nokta durumunu denetleyin. Sorguları işlemek için uç noktaların READY durumunda olması gerekir.
• Özellikle yüksek trafikli dönemlerde uç noktanın aşırıya kaçmasını önlemek için çıkarım isteklerinizi hız sınırlamayı göz önünde bulundurun.