تكوين تحسين المسار على نقاط نهاية الخدمة

توضح هذه المقالة كيفية تكوين تحسين المسار على خدمة النموذج أو نقاط نهاية خدمة الميزة وكيفية الاستعلام عنها. يؤدي توجيه نقاط نهاية الخدمة المحسنة إلى تقليل زمن الانتقال الزائد بشكل كبير والسماح بإجراء تحسينات كبيرة في معدل النقل الذي تدعمه نقطة النهاية الخاصة بك.

يوصى بتحسين المسار لأحمال العمل الحساسة ذات معدل النقل العالي أو زمن الانتقال.

المتطلبات

• لتحسين المسار على نقطة نهاية خدمة نموذج، راجع المتطلبات.
• لتحسين المسار على نقطة نهاية خدمة ميزة، راجع المتطلبات.

تمكين تحسين المسار على نقطة نهاية خدمة نموذج

حدد المعلمة أثناء route_optimized إنشاء نقطة نهاية خدمة النموذج لتكوين نقطة النهاية لتحسين المسار. يمكنك فقط تحديد هذه المعلمة أثناء إنشاء نقطة النهاية، ولا يمكنك تحديث نقاط النهاية الموجودة لتحسين المسار.

POST /api/2.0/serving-endpoints

{
  "name": "my-endpoint",
  "config":{
    "served_entities": [{
      "entity_name": "ads1",
      "entity_version": "1",
      "workload_type": "CPU",
      "workload_size": "Small",
      "scale_to_zero_enabled": true,
    }],
  },
  "route_optimized": true
}

يمكنك تمكين تحسين المسار لنقطة نهاية في واجهة مستخدم الخدمة. إذا كنت تستخدم Python، يمكنك استخدام دفتر الملاحظات التالي لإنشاء نقطة نهاية خدمة محسنة للمسار.

إنشاء نقطة نهاية خدمة محسنة للمسار باستخدام دفتر ملاحظات Python

الحصول على دفتر الملاحظات

تمكين تحسين المسار على نقطة نهاية خدمة الميزة

لاستخدام تحسين المسار لخدمة الميزة والدالة، حدد الاسم الكامل لمواصفات الميزة في entity_name الحقل لخدمة طلبات إنشاء نقطة النهاية. entity_version غير مطلوب ل FeatureSpecs.

POST /api/2.0/serving-endpoints

{
  "name": "my-endpoint",
  "config": {
    "served_entities": [
      {
        "entity_name": "catalog_name.schema_name.feature_spec_name",
        "workload_type": "CPU",
        "workload_size": "Small",
        "scale_to_zero_enabled": true
      }
    ]
  },
  "route_optimized": true
}

نموذج محسن لمسار الاستعلام يخدم نقاط النهاية

توضح الخطوات التالية كيفية اختبار الاستعلام عن نموذج محسن للمسار يخدم نقطة النهاية.

لاستخدام الإنتاج، مثل استخدام نقطة النهاية المحسنة للمسار في أحد التطبيقات، يجب إنشاء رمز OAuth المميز. توضح الخطوات التالية كيفية إحضار رمز مميز في واجهة مستخدم العرض. بالنسبة إلى مهام سير العمل البرمجية، راجع إحضار رمز OAuth برمجيا.

1. إحضار رمز OAuth المميز من واجهة مستخدم تقديم مساحة العمل الخاصة بك.
   1. انقر فوق تقديم في الشريط الجانبي لعرض واجهة مستخدم العرض.
   2. في صفحة نقاط نهاية العرض، حدد نقطة النهاية المحسنة للمسار للاطلاع على تفاصيل نقطة النهاية.
   3. في صفحة تفاصيل نقطة النهاية، انقر فوق زر نقطة نهاية الاستعلام.
   4. حدد علامة التبويب Fetch Token.
   5. حدد زر إحضار رمز OAuth المميز . هذا الرمز المميز صالح لمدة ساعة واحدة. إحضار رمز مميز جديد إذا انتهت صلاحية الرمز المميز الحالي.
2. احصل على عنوان URL لنقطة نهاية خدمة النموذج من صفحة تفاصيل نقطة النهاية من واجهة مستخدم العرض .
3. استخدم رمز OAuth المميز من الخطوة 1 وعنوان URL لنقطة النهاية من الخطوة 2 لملء التعليمات البرمجية المثال التالي الذي يستعلم عن نقطة النهاية المحسنة للمسار.

url="your-endpoint-url"
OAUTH_TOKEN=xxxxxxx

curl -X POST -H 'Content-Type: application/json' -H "Authorization: Bearer $OAUTH_TOKEN" -d@data.json $url

لكي يقوم Python SDK بالاستعلام عن نقطة نهاية محسنة للمسار، تواصل مع فريق حساب Databricks.

إحضار رمز OAuth برمجيا

توفر مصادقة الوصول إلى Azure Databricks باستخدام كيان خدمة باستخدام OAuth (OAuth M2M) إرشادات حول كيفية إحضار رمز OAuth المميز برمجيا. بالإضافة إلى هذه الخطوات، يجب تحديد authorization_details في الطلب.

• استبدل <token-endpoint-URL> بعنوان URL لنقطة نهاية الرمز المميز السابق.
• استبدل <client-id> بمعرف عميل كيان الخدمة، والذي يعرف أيضا باسم معرف التطبيق.
• استبدل <client-secret> بسر OAuth الخاص بكيان الخدمة الذي قمت بإنشائه.
• استبدل <endpoint-id> بمعرف نقطة النهاية لنقطة النهاية المحسنة للمسار. يمكنك إحضار هذا من hostName في عنوان url لنقطة النهاية.
• استبدل <action> بإذن الإجراء الممنوح لمدير الخدمة. يمكن أن يكون query_inference_endpoint الإجراء أو manage_inference_endpoint.

على سبيل المثال:

      export CLIENT_ID=<client-id>
      export CLIENT_SECRET=<client-secret>
      export ENDPOINT_ID=<endpoint-id>
      export ACTION=<action>

      curl --request POST \
      --url <token-endpoint-URL> \
      --user "$CLIENT_ID:$CLIENT_SECRET" \
      --data 'grant_type=client_credentials&scope=all-apis'
      --data-urlencode 'authorization_details=[{"type":"workspace_permission","object_type":"serving-endpoints","object_path":"'"/serving-endpoints/$ENDPOINT_ID"'","actions": ["'"$ACTION"'"]}]'

القيود

• يتوفر تحسين المسار فقط لنقاط نهاية خدمة النموذج المخصص ونقاط نهاية خدمة الميزات. لا يتم دعم واجهات برمجة تطبيقات نموذج الأساس والنماذج الخارجية.
• الرموز المميزة ل OAuth الداخلية ل Databricks هي المصادقة الوحيدة المدعومة لتحسين المسار. الرموز المميزة للوصول الشخصي غير مدعومة.
• لا يفرض تحسين المسار أي قيود على شبكة Private Link قمت بتكوينها في مساحة عمل Azure Databricks. إذا كنت تتطلب أن يكون النموذج الذي يخدم حركة المرور مرتبطا بعناصر التحكم هذه، فلا تمكن تحسين المسار. إذا كانت لديك متطلبات الشبكة هذه وما زلت ترغب في محاولة توجيه خدمة النموذج المحسن، فتواصل مع فريق حساب Databricks الخاص بك.
• لا يتوفر تحسين المسار في مناطق معينة. إذا كنت لا ترى خيار تمكين تحسين المسار في واجهة مستخدم الخدمة، فتواصل مع فريق حساب Databricks الخاص بك.