حزم النموذج للنشر (معاينة)

بعد تدريب نموذج التعلم الآلي، تحتاج إلى نشره حتى يتمكن الآخرون من استهلاك تنبؤاته. ومع ذلك، يتطلب نشر نموذج أكثر من مجرد الأوزان أو البيانات الاصطناعية للنموذج. حزم النماذج هي قدرة في Azure التعلم الآلي تسمح لك بجمع جميع التبعيات المطلوبة لنشر نموذج التعلم الآلي إلى نظام أساسي لخدمة. يمكنك نقل الحزم عبر مساحات العمل وحتى خارج Azure التعلم الآلي.

هام

تُعد هذه الميزة قيد الإصدار الأولي العام في الوقت الحالي. يجري توفير إصدار المعاينة هذا دون اتفاقية على مستوى الخدمة، ولا نوصي باستخدامه لأحمال عمل الإنتاج. بعض الميزات ربما لا تكون مدعمة أو بها بعض القدرات المقيدة.

لمزيد من المعلومات، راجع ⁧⁩شروط الاستخدام التكميلية لمعاينات Microsoft Azure⁧⁩.

ما هي حزمة النموذج؟

كأفضل ممارسة قبل نشر نموذج، يجب جمع جميع التبعيات التي يتطلبها النموذج للتشغيل بنجاح وحلها حتى تتمكن من نشر النموذج في نهج قوي وقابل للتكرار.

عادة ما تتضمن تبعيات النموذج ما يلي:

• الصورة الأساسية أو البيئة التي يتم فيها تنفيذ النموذج الخاص بك.
• قائمة حزم Python والتبعيات التي يعتمد عليها النموذج للعمل بشكل صحيح.
• الأصول الإضافية التي قد يحتاجها نموذجك لإنشاء استدلال. يمكن أن تتضمن هذه الأصول خرائط التسمية ومعلمات المعالجة المسبقة.
• البرامج المطلوبة لخادم الاستدلال لخدمة الطلبات؛ على سبيل المثال، خادم flask أو TensorFlow Serving.
• روتين الاستدلال (إذا لزم الأمر).

وينبغي جمع كل هذه العناصر حتى يتم نشرها في البنية التحتية التي تخدمها. يسمى الأصل الناتج الذي تم إنشاؤه بعد جمع جميع التبعيات حزمة نموذج.

فوائد نماذج التعبئة والتغليف

نماذج التعبئة والتغليف قبل التوزيع لها المزايا التالية:

• قابلية النسخ: يتم جمع جميع التبعيات في وقت التعبئة، بدلا من وقت النشر. بمجرد حل التبعيات، يمكنك نشر الحزمة عدة مرات حسب الحاجة مع ضمان حل التبعيات بالفعل.
• حل تعارض أسرع: يكتشف Azure التعلم الآلي أي تكوينات خاطئة تتعلق بالتبعيات، مثل حزمة Python مفقودة، أثناء تعبئة النموذج. لا تحتاج إلى نشر النموذج لاكتشاف مثل هذه المشكلات.
• تكامل أسهل مع خادم الاستدلال: نظرا لأن خادم الاستدلال الذي تستخدمه قد يحتاج إلى تكوينات برامج محددة (على سبيل المثال، حزمة Torch Serve)، يمكن أن يؤدي هذا البرنامج إلى تعارضات مع تبعيات النموذج الخاص بك. التعلم الآلي تقوم حزم النماذج في Azure بإدخال التبعيات المطلوبة من قبل خادم الاستدلال لمساعدتك في اكتشاف التعارضات قبل نشر نموذج.
• قابلية النقل: يمكنك نقل حزم نماذج Azure التعلم الآلي من مساحة عمل إلى أخرى، باستخدام السجلات. يمكنك أيضا إنشاء حزم يمكن نشرها خارج Azure التعلم الآلي.
• دعم MLflow مع الشبكات الخاصة: بالنسبة لنماذج MLflow، يتطلب Azure التعلم الآلي اتصالا بالإنترنت لتتمكن من تثبيت حزم Python الضرورية ديناميكيا لتشغيل النماذج. من خلال حزم نماذج MLflow، يتم حل حزم Python هذه أثناء عملية حزم النموذج، بحيث لا تتطلب حزمة نموذج MLflow اتصالا بالإنترنت ليتم نشره.

تلميح

يوصى بشدة بتعبئة نموذج MLflow قبل النشر وحتى مطلوب لنقاط النهاية التي لا تحتوي على اتصال شبكة صادرة. يشير نموذج MLflow إلى تبعياته في النموذج نفسه، مما يتطلب تثبيتا ديناميكيا للحزم. عند حزم نموذج MLflow، يتم تنفيذ هذا التثبيت الديناميكي في وقت التعبئة بدلا من وقت التوزيع.

نشر حزم النماذج

يمكنك توفير حزم نموذج كمدخلات لنقاط النهاية عبر الإنترنت. يساعد استخدام حزم النماذج على تبسيط مهام سير عمل MLOps الخاصة بك عن طريق تقليل فرص الأخطاء في وقت النشر، حيث كان سيتم جمع جميع التبعيات أثناء عملية التعبئة والتغليف. يمكنك أيضا تكوين حزمة النموذج لإنشاء صور docker للنشر في أي مكان خارج Azure التعلم الآلي، إما محليا أو في السحابة.

الحزمة قبل النشر

أبسط طريقة للنشر باستخدام حزمة نموذج هي عن طريق تحديد Azure التعلم الآلي لنشر حزمة نموذج، قبل تنفيذ النشر. عند استخدام Azure CLI أو Azure التعلم الآلي SDK أو Azure التعلم الآلي studio لإنشاء نشر في نقطة نهاية عبر الإنترنت، يمكنك تحديد استخدام حزمة النموذج كما يلي:

Azure CLI

استخدم العلامة --with-package عند إنشاء عملية نشر:

az ml online-deployment create --with-package -f model-deployment.yml -e $ENDPOINT_NAME

Python

استخدم الوسيطة --with_package=True عند إنشاء عملية نشر:

deployment_package = ManagedOnlineDeployment(
    name="with-package-inline",
    endpoint_name=endpoint_name,
    model=model.id,
    instance_count=1,
    with_package=True,
)

استوديو

من صفحة تفاصيل النموذج في الاستوديو،

1. حدد Deploy.

2. حدد نقاط النهاية عبر الإنترنت.

3. تمكين خيار نموذج الحزمة (معاينة) في معالج الإنشاء لحزم النموذج قبل النشر.

إذا كنت تستخدم المعالج المتقدم للتوزيع، فستجد خيار نموذج الحزمة (معاينة) في علامة التبويب Deployment .

يقوم Azure التعلم الآلي بحزم النموذج أولا ثم تنفيذ النشر.

إشعار

عند استخدام الحزم، إذا كنت تشير إلى بيئة أساسية مع conda أو pip تبعيات، فلن تحتاج إلى تضمين تبعيات خادم الاستدلال (azureml-inference-server-http). بدلا من ذلك، تتم إضافة هذه التبعيات تلقائيا لك.

نشر نموذج مجمع

يمكنك نشر نموذج تم حزمه مباشرة إلى نقطة نهاية عبر الإنترنت. تضمن هذه الممارسة إمكانية إعادة إنتاج النتائج وهي أفضل ممارسة. راجع حزم النماذج ونشرها إلى نقاط النهاية عبر الإنترنت.

إذا كنت ترغب في نشر الحزمة خارج Azure التعلم الآلي، فشاهد حزم النماذج ونشرها خارج Azure التعلم الآلي.

الخطوة التالية

إنشاء حزمة النموذج الأولى