مشاركة عبر

البرنامج التعليمي: نشر نموذج مخصص والاستعلام عنه

  • مقالة

توفر هذه المقالة الخطوات الأساسية لنشر نموذج مخصص والاستعلام عنه، وهو نموذج التعلم الآلي التقليدي، باستخدام الفسيفساء الذكاء الاصطناعي خدمة النموذج. يجب تسجيل النموذج في كتالوج Unity أو في سجل نموذج مساحة العمل.

للتعرف على خدمة ونشر نماذج الذكاء الاصطناعي التوليدية بدلا من ذلك، راجع المقالات التالية:

الخطوة 1: تسجيل النموذج إلى سجل النموذج

هناك طرق مختلفة لتسجيل النموذج الخاص بك لخدمة النموذج:

تقنية التسجيل ‏‏الوصف
التسجيل التلقائي يتم تشغيل هذا تلقائيا عند استخدام Databricks Runtime للتعلم الآلي. إنها أسهل طريقة ولكنها تمنحك تحكما أقل.
التسجيل باستخدام نكهات MLflow المضمنة يمكنك تسجيل النموذج يدويا باستخدام نكهات النموذج المضمنة في MLflow.
تسجيل مخصص باستخدام pyfunc استخدم هذا إذا كان لديك نموذج مخصص أو إذا كنت بحاجة إلى خطوات إضافية قبل الاستدلال أو بعده.

يوضح المثال التالي كيفية تسجيل نموذج MLflow الخاص بك باستخدام النكهة transformer وتحديد المعلمات التي تحتاجها للنموذج الخاص بك.

with mlflow.start_run():
    model_info = mlflow.transformers.log_model(
        transformers_model=text_generation_pipeline,
        artifact_path="my_sentence_generator",
        inference_config=inference_config,
        registered_model_name='gpt2',
        input_example=input_example,
        signature=signature
    )

بعد تسجيل النموذج الخاص بك تأكد من التحقق من أن النموذج الخاص بك مسجل في كتالوج MLflow Unity أو Model Registry.

الخطوة 2: إنشاء نقطة نهاية باستخدام واجهة مستخدم الخدمة

بعد تسجيل النموذج المسجل وتكون جاهزا لخدمته، يمكنك إنشاء نقطة نهاية خدمة نموذج باستخدام واجهة مستخدم العرض .

  1. انقر فوق تقديم في الشريط الجانبي لعرض واجهة مستخدم العرض.

  2. انقر فوق Create serving endpoint.

    جزء خدمة النموذج في واجهة مستخدم Databricks

  3. في حقل الاسم ، أدخل اسما لنقطة النهاية.

  4. في قسم الكيانات التي تم تقديمها

    1. انقر فوق الحقل Entity لفتح نموذج Select served entity .
    2. حدد نوع النموذج الذي تريد تقديمه. يتم تحديث النموذج ديناميكيا استنادا إلى اختيارك.
    3. حدد النموذج وإصدار النموذج الذي تريد تقديمه.
    4. حدد النسبة المئوية لنسبة استخدام الشبكة لتوجيهها إلى النموذج الذي تم تقديمه.
    5. حدد حجم الحساب الذي تريد استخدامه. يمكنك استخدام حسابات وحدة المعالجة المركزية أو وحدة معالجة الرسومات لأحمال العمل الخاصة بك. يتوفر دعم خدمة النموذج على وحدة معالجة الرسومات في المعاينة العامة. راجع أنواع حمل عمل وحدة معالجة الرسومات للحصول على مزيد من المعلومات حول حسابات وحدة معالجة الرسومات المتوفرة.
    6. ضمن Compute Scale-out، حدد حجم مقياس الحساب الذي يتوافق مع عدد الطلبات التي يمكن أن يعالجها هذا النموذج المقدم في نفس الوقت. يجب أن يكون هذا الرقم مساويا تقريبا لوقت تنفيذ نموذج QPS x.
      1. الأحجام المتوفرة صغيرة للطلبات من 0 إلى 4 وطلبات متوسطة من 8 إلى 16 وطلبات كبيرة ل 16-64 طلبا.
    7. حدد ما إذا كان يجب تغيير حجم نقطة النهاية إلى الصفر عندما لا تكون قيد الاستخدام.

  5. انقر فوق Create. تظهر صفحة نقاط نهاية العرض مع عرض حالة نقطة نهاية العرض على أنها غير جاهزة.

    إنشاء نقطة نهاية خدمة نموذج

إذا كنت تفضل إنشاء نقطة نهاية برمجيا باستخدام واجهة برمجة تطبيقات خدمة Databricks، فشاهد إنشاء نقاط نهاية لخدمة نموذج مخصص.

الخطوة 3: الاستعلام عن نقطة النهاية

أسهل وأسرع طريقة لاختبار طلبات تسجيل النقاط وإرسالها إلى نموذجك المقدم هي استخدام واجهة مستخدم العرض .

  1. من صفحة نقطة نهاية التقديم، حدد نقطة نهاية الاستعلام.

  2. أدرج بيانات إدخال النموذج بتنسيق JSON وانقر فوق إرسال طلب. إذا تم تسجيل النموذج باستخدام مثال إدخال، فانقر فوق إظهار مثال لتحميل مثال الإدخال.

       {
   "inputs" : ["Hello, I'm a language model,"],
   "params" : {"max_new_tokens": 10, "temperature": 1}
   }

لإرسال طلبات تسجيل النقاط، أنشئ JSON بأحد المفاتيح المدعومة وعنصر JSON المطابق لتنسيق الإدخال. راجع نقاط نهاية خدمة الاستعلام للنماذج المخصصة للتنسيقات المدعومة وإرشادات حول كيفية إرسال طلبات تسجيل النقاط باستخدام واجهة برمجة التطبيقات.

إذا كنت تخطط للوصول إلى نقطة نهاية العرض خارج واجهة مستخدم خدمة Azure Databricks، فأنت بحاجة إلى DATABRICKS_API_TOKEN.

هام

كأفضل ممارسة أمان لسيناريوهات الإنتاج، توصي Databricks باستخدام رموز OAuth المميزة من جهاز إلى جهاز للمصادقة أثناء الإنتاج.

للاختبار والتطوير، توصي Databricks باستخدام رمز وصول شخصي ينتمي إلى كيانات الخدمة بدلا من مستخدمي مساحة العمل. لإنشاء رموز مميزة لكيانات الخدمة، راجع إدارة الرموز المميزة لكيان الخدمة.

مثال دفاتر الملاحظات

راجع دفتر الملاحظات التالي لتقديم نموذج MLflow transformers مع خدمة النموذج.

نشر دفتر ملاحظات طراز Hugging Face transformers

الحصول على دفتر الملاحظات

راجع دفتر الملاحظات التالي لتقديم نموذج MLflow pyfunc مع خدمة النموذج. للحصول على تفاصيل إضافية حول تخصيص عمليات توزيع النموذج، راجع نشر التعليمات البرمجية ل Python باستخدام خدمة النموذج.

نشر دفتر ملاحظات نموذج MLflow pyfunc

الحصول على دفتر الملاحظات