خدمة عالية الأداء مع Triton Inference Server

ينطبق على:ملحق ML Azure CLI v2 (الحالي)Python SDK azure-ai-ml v2 (الحالي)

تعرف على كيفية استخدام NVIDIA Triton Inference Server في Azure التعلم الآلي مع نقاط النهاية عبر الإنترنت.

Triton هو برنامج متعدد الأطر ومفتوح المصدر تم تحسينه للاستدلال. يدعم أطر عمل التعلم الآلي الشائعة مثل TensorFlow وONNX Runtime وPyTorch وNVIDIA TensorRT والمزيد. يمكن استخدامه لأحمال عمل وحدة المعالجة المركزية أو وحدة معالجة الرسومات.

هناك نهجان رئيسيان يمكنك اتباعهما للاستفادة من نماذج Triton عند نشرها في نقطة النهاية عبر الإنترنت: نشر بدون تعليمات برمجية أو نشر التعليمات البرمجية الكاملة (إحضار الحاوية الخاصة بك).

• يعد التوزيع بدون تعليمات برمجية لنماذج Triton طريقة بسيطة لتوزيعها حيث تحتاج فقط إلى إحضار نماذج Triton للتوزيع.
• يعد نشر التعليمات البرمجية الكاملة (إحضار الحاوية الخاصة بك) لنماذج Triton طريقة أكثر تقدما لنشرها حيث لديك تحكم كامل في تخصيص التكوينات المتاحة لخادم الاستدلال Triton.

لكلا الخيارين، سيقوم خادم الاستدلال Triton بإجراء الاستدلال استنادا إلى نموذج Triton كما هو محدد بواسطة NVIDIA. على سبيل المثال، يمكن استخدام نماذج المجموعة لسيناريوهات أكثر تقدما.

يتم دعم Triton في كل من نقاط النهاية المدارة عبر الإنترنت ونقاط نهاية Kubernetes عبر الإنترنت.

في هذه المقالة، ستتعلم كيفية نشر نموذج باستخدام نشر بدون تعليمات برمجية ل Triton إلى نقطة نهاية مدارة عبر الإنترنت. يتم توفير معلومات حول استخدام CLI (سطر الأوامر) وPython SDK v2 وAzure التعلم الآلي studio. إذا كنت ترغب في تخصيص المزيد مباشرة باستخدام تكوين خادم استدلال Triton، فراجع استخدام حاوية مخصصة لنشر نموذج ومثال BYOC ل Triton (تعريف النشر والبرنامج النصي الشامل).

إشعار

يخضع استخدام حاوية NVIDIA Triton Inference Server لاتفاقية ترخيص NVIDIA الذكاء الاصطناعي Enterprise Software ويمكن استخدامه لمدة 90 يوما دون اشتراك منتج مؤسسة. لمزيد من المعلومات، راجع NVIDIA الذكاء الاصطناعي Enterprise على Azure التعلم الآلي.

المتطلبات الأساسية

Azure CLI

قبل اتباع الخطوات الواردة في هذه المقالة، تأكد من توفر المتطلبات الأساسية التالية لديك:

• Azure CLI والملحق ml إلى Azure CLI. لمزيد من المعلومات، راجع تثبيت وإعداد واستخدام واجهة مستوى الاستدعاء (CLI) (الإصدار 2).

  هام

  تفترض أمثلة CLI في هذه المقالة أنك تستخدم Bash (أو متوافق). على سبيل المثال، من النظام الخاص بـ Linux أو نظام Windows الفرعي لـ Linux‬.

• مساحة عمل للتعلم الآلي من Microsoft Azure. إذا لم تكن لديك واحدة، فاستخدم الخطوات الواردة في تثبيت CLI (v2) وإعدادها واستخدامها لإنشاء واحدة.

• بيئة عمل Python 3.8 (أو أعلى).

• يجب أن يكون لديك حزم Python إضافية مثبتة لتسجيل النقاط وقد تقوم بتثبيتها مع التعليمات البرمجية أدناه. يشمل ذلك ما يلي:

  • Numpy - صفيف ومكتبة حوسبة رقمية
  • عميل Triton Inference Server - يسهل الطلبات إلى Triton Inference Server
  • وسادة - مكتبة لعمليات الصور
  • Gevent - مكتبة شبكات تستخدم عند الاتصال ب Triton Server

pip install numpy
pip install tritonclient[http]
pip install pillow
pip install gevent

• الوصول إلى الأجهزة الظاهرية من سلسلة NCv3 لاشتراك Azure الخاص بك.

  هام

  قد تحتاج إلى طلب زيادة الحصة النسبية لاشتراكك قبل أن تتمكن من استخدام هذه السلسلة من الأجهزة الظاهرية. لمزيد من المعلومات، راجع سلسلة NCv3.

يتطلب NVIDIA Triton Inference Server بنية مستودع نموذج محددة، حيث يوجد دليل لكل نموذج ودلائل فرعية لإصدار النموذج. يتم تحديد محتويات كل دليل فرعي لإصدار النموذج حسب نوع النموذج ومتطلبات الخلفية التي تدعم النموذج. لمشاهدة جميع بنية مستودع النموذج https://github.com/triton-inference-server/server/blob/main/docs/user_guide/model_repository.md#model-files

تستند المعلومات الموجودة في هذا المستند إلى استخدام نموذج مخزن بتنسيق ONNX، لذا فإن بنية الدليل لمستودع النموذج هي <model-repository>/<model-name>/1/model.onnx. على وجه التحديد، ينفذ هذا النموذج تعريف الصورة.

تستند المعلومات الواردة في هذه المقالة إلى نماذج التعليمات البرمجية الموجودة في مستودع azureml-examples. لتشغيل الأوامر محلياً دون الحاجة إلى نسخ/ لصق YAML والملفات الأخرى، قم باستنساخ المستودع ثم قم بتغيير الدلائل إلى الدليل cli في المستودع:

git clone https://github.com/Azure/azureml-examples --depth 1
cd azureml-examples
cd cli

إذا لم تكن قد قمت بالفعل بتعيين الإعدادات الافتراضية لـAzure CLI، فاحفظ الإعدادات الافتراضية. لتجنب تمرير قيم الاشتراك ومساحة العمل ومجموعة الموارد عدة مرات، قم باستخدام الأوامر التالية. قم باستبدال المعلمات التالية بقيم للتكوين المحدد:

• استبدل <subscription> بمعرف اشتراك Azure الخاص بك.
• استبدل <workspace> بمساحة عمل التعلم الآلي من Azure.
• استبدل <resource-group> بمجموعة موارد Azure التي تحتوي على مساحة العمل لديك.
• استبدل <location> بمنطقة Azure التي تحتوي على مساحة العمل.

تلميح

بإمكانك معرفة ما الإعدادات الافتراضية الحالية باستخدام الأمر az configure -l.

az account set --subscription <subscription>
az configure --defaults workspace=<workspace> group=<resource-group> location=<location>

Python

ينطبق على: Python SDK azure-ai-ml v2 (الحالي)

قبل اتباع الخطوات الواردة في هذه المقالة، تأكد من توفر المتطلبات الأساسية التالية لديك:

• مساحة عمل للتعلم الآلي من Microsoft Azure. إذا لم يكن لديك واحدة، فاستخدم الخطوات الواردة في مقالة التشغيل السريع: إنشاء موارد مساحة العمل لإنشاء واحدة.

• لتثبيت Python SDK v2، استخدم الأمر التالي:

  pip install azure-ai-ml azure-identity
  

  لتحديث تثبيت موجود من SDK إلى أحدث إصدار، استخدم الأمر التالي:

  pip install --upgrade azure-ai-ml azure-identity
  

  لمزيد من المعلومات، راجع تثبيت Python SDK v2 ل Azure التعلم الآلي.

• بيئة عمل Python 3.8 (أو أعلى).

• يجب أن يكون لديك حزم Python إضافية مثبتة لتسجيل النقاط وقد تقوم بتثبيتها مع التعليمات البرمجية أدناه. يشمل ذلك ما يلي:

  • Numpy - صفيف ومكتبة حوسبة رقمية
  • عميل Triton Inference Server - يسهل الطلبات إلى Triton Inference Server
  • وسادة - مكتبة لعمليات الصور
  • Gevent - مكتبة شبكات تستخدم عند الاتصال ب Triton Server

  pip install numpy
  pip install tritonclient[http]
  pip install pillow
  pip install gevent
  

• الوصول إلى الأجهزة الظاهرية من سلسلة NCv3 لاشتراك Azure الخاص بك.

  هام

  قد تحتاج إلى طلب زيادة الحصة النسبية لاشتراكك قبل أن تتمكن من استخدام هذه السلسلة من الأجهزة الظاهرية. لمزيد من المعلومات، راجع سلسلة NCv3.

تستند المعلومات الواردة في هذه المقالة إلى دفتر الملاحظات online-endpoints-triton.ipynb المضمن في مستودع azureml-examples . لتشغيل الأوامر محليا دون الحاجة إلى نسخ/لصق الملفات، قم باستنساخ المستودع، ثم قم بتغيير الدلائل إلى sdk/endpoints/online/triton/single-model/ الدليل في المستودع:

git clone https://github.com/Azure/azureml-examples --depth 1
cd azureml-examples/sdk/python/endpoints/online/triton/single-model/

استوديو

• اشتراك Azure. في حال لم يكن لديك اشتراك Azure، فأنشئ حساباً مجانيّاً قبل البدء. جرّب الإصدار المجاني أو المدفوع من «التعلم الآلي» من Azure.

• مساحة عمل للتعلم الآلي من Microsoft Azure. إذا لم يكن لديك واحدة، فاستخدم الخطوات في إدارة مساحات عمل Azure التعلم الآلي في المدخل، أو مع Python SDK لإنشاء واحدة.

تحديد تكوين التوزيع

Azure CLI

ينطبق على:ملحق CLI للتعلم الآلي من Microsoft Azure v2 (الحالي)

يوضح هذا القسم كيف يمكنك النشر إلى نقطة نهاية مدارة عبر الإنترنت باستخدام Azure CLI مع ملحق التعلم الآلي (v2).

هام

بالنسبة لتوزيع Triton بدون تعليمات برمجية، الاختبار عبر نقاط النهاية المحلية غير مدعوم حالياً.

1. لتجنب الكتابة في مسار لأوامر متعددة، استخدم الأمر التالي لتعيين متغير بيئة BASE_PATH. يشير هذا المتغير إلى الدليل حيث يوجد النموذج وملفات تكوين YAML المقترنة:

   BASE_PATH=endpoints/online/triton/single-model
   

2. استخدم الأمر التالي لتعيين اسم نقطة النهاية التي سيتم إنشاؤها. في هذا المثال، يتم إنشاء اسم عشوائي لنقطة النهاية:

   export ENDPOINT_NAME=triton-single-endpt-`echo $RANDOM`
   

3. قم بإنشاء ملف تكوين YAML لنقطة النهاية الخاصة بك. يقوم المثال التالي بتكوين الاسم ووضع المصادقة لنقطة النهاية. يقع المستخدم في الأوامر التالية في /cli/endpoints/online/triton/single-model/create-managed-endpoint.yml داخل مستودع أمثلة azureml الذي قمت باستنساخه سابقاً:

   create-managed-endpoint.yaml

   $schema: https://azuremlschemas.azureedge.net/latest/managedOnlineEndpoint.schema.json
   name: my-endpoint
   auth_mode: aml_token
   

4. قم بإنشاء ملف تكوين YAML للتوزيع. يقوم المثال التالي بتكوين نشر يسمى الأزرق إلى نقطة النهاية المحددة في الخطوة السابقة. يقع المستخدم في الأوامر التالية في /cli/endpoints/online/triton/single-model/create-managed-deployment.yml داخل مستودع أمثلة azureml الذي قمت باستنساخه سابقاً:

   هام

   لكي يعمل Triton بدون توزيع التعليمات البرمجية (NCD)، يكون الإعداد type إلى triton_model​ مطلوباً، type: triton_model​. لمزيد من المعلومات، قم بمراجعة مخطط CLI (v2) لطراز YAML.

   يستخدم هذا التوزيع جهازاً ظاهرياً Standard_NC6s_v3. قد تحتاج إلى طلب زيادة الحصة النسبية لاشتراكك قبل أن تتمكن من استخدام هذا الجهاز الظاهري. لمزيد من المعلومات، راجع سلسلة NCv3.

   $schema: https://azuremlschemas.azureedge.net/latest/managedOnlineDeployment.schema.json
   name: blue
   endpoint_name: my-endpoint
   model:
     name: sample-densenet-onnx-model
     version: 1
     path: ./models
     type: triton_model
   instance_count: 1
   instance_type: Standard_NC6s_v3
   

Python

ينطبق على: Python SDK azure-ai-ml v2 (الحالي)

يوضح هذا القسم كيف يمكنك تعريف توزيع Triton للنشر إلى نقطة نهاية مدارة عبر الإنترنت باستخدام Azure التعلم الآلي Python SDK (v2).

هام

بالنسبة لتوزيع Triton بدون تعليمات برمجية، الاختبار عبر نقاط النهاية المحلية غير مدعوم حالياً.

1. للاتصال بمساحة عمل، نحتاج إلى معلمات معرف - اشتراك ومجموعة موارد واسم مساحة عمل.

   subscription_id = "<SUBSCRIPTION_ID>"
   resource_group = "<RESOURCE_GROUP>"
   workspace_name = "<AML_WORKSPACE_NAME>"
   

2. استخدم الأمر التالي لتعيين اسم نقطة النهاية التي سيتم إنشاؤها. في هذا المثال، يتم إنشاء اسم عشوائي لنقطة النهاية:

   import random
   
   endpoint_name = f"endpoint-{random.randint(0, 10000)}"
   

3. نستخدم هذه التفاصيل أعلاه في MLClient من azure.ai.ml للحصول على مؤشر إلى مساحة عمل Azure التعلم الآلي المطلوبة. تحقق من دفتر ملاحظات التكوين لمزيد من التفاصيل حول كيفية تكوين بيانات الاعتماد والاتصال بمساحة عمل.

   from azure.ai.ml import MLClient
   from azure.identity import DefaultAzureCredential
   
   ml_client = MLClient(
       DefaultAzureCredential(),
       subscription_id,
       resource_group,
       workspace_name,
   )
   

4. إنشاء كائن ManagedOnlineEndpoint لتكوين نقطة النهاية. يقوم المثال التالي بتكوين الاسم ووضع المصادقة لنقطة النهاية.

   from azure.ai.ml.entities import ManagedOnlineEndpoint
   
   endpoint = ManagedOnlineEndpoint(name=endpoint_name, auth_mode="key")
   

5. إنشاء كائن ManagedOnlineDeployment لتكوين النشر. يقوم المثال التالي بتكوين عملية نشر باسم أزرق إلى نقطة النهاية المعرفة في الخطوة السابقة ويحدد نموذجا محليا مضمنا.

   from azure.ai.ml.entities import ManagedOnlineDeployment, Model
   
   model_name = "densenet-onnx-model"
   model_version = 1
   
   deployment = ManagedOnlineDeployment(
       name="blue",
       endpoint_name=endpoint_name,
       model=Model(
           name=model_name, 
           version=model_version,
           path="./models",
           type="triton_model"
       ),
       instance_type="Standard_NC6s_v3",
       instance_count=1,
   )
   

استوديو

يوضح هذا القسم كيف يمكنك تعريف توزيع Triton على نقطة نهاية مدارة عبر الإنترنت باستخدام Azure التعلم الآلي studio.

1. سجل نموذجك بتنسيق Triton باستخدام الأمر YAML وCLI التالي. يستخدم YAML نموذج densenet-onnx من https://github.com/Azure/azureml-examples/tree/main/cli/endpoints/online/triton/single-model

   create-triton-model.yaml

   name: densenet-onnx-model
   version: 1
   path: ./models
   type: triton_model​
   description: Registering my Triton format model.
   

   az ml model create -f create-triton-model.yaml
   

   توضح لقطة الشاشة التالية كيف سيبدو النموذج المسجل في صفحة النماذج في استوديو التعلم الآلي من Azure.

   

2. من الاستوديو، قم بتحديد مساحة عملك، ثم استخدم إما صفحة نقاط النهاية أو صفحة النماذج لإنشاء توزيع لنقطة النهاية:

   صفحة نقاط النهاية

   1. من صفحة نقاط النهاية، حدد إنشاء.

      

   2. أدخل اسما ونوع مصادقة لنقطة النهاية، ثم قم بتحديد التالي.

   3. عند تحديد نموذج، حدد نموذج Triton المسجل مسبقاً. حدد التالي للمتابعة.

   4. عند تحديد نموذج مسجل بتنسيق Triton، في خطوة «البيئة» للمعالج، لا تحتاج إلى برنامج نصي لتسجيل النقاط والبيئة.

      

   صفحة النماذج

   1. حدد نموذج Triton، ثم حدد توزيع. عندما يُطلب منك، حدد Deploy to real-time endpoint.

      

نشر في Azure

Azure CLI

ينطبق على:ملحق CLI للتعلم الآلي من Microsoft Azure v2 (الحالي)

1. لإنشاء نقطة نهاية جديدة باستخدام تكوين YAML، قم باستخدام الأمر التالي:

   az ml online-endpoint create -n $ENDPOINT_NAME -f $BASE_PATH/create-managed-endpoint.yaml
   

2. لإنشاء نقطة نهاية جديدة باستخدام تكوين YAML، استخدم الأمر التالي:

   az ml online-deployment create --name blue --endpoint $ENDPOINT_NAME -f $BASE_PATH/create-managed-deployment.yaml --all-traffic
   

Python

ينطبق على: Python SDK azure-ai-ml v2 (الحالي)

1. لإنشاء نقطة نهاية جديدة باستخدام ManagedOnlineEndpoint الكائن، استخدم الأمر التالي:

   endpoint = ml_client.online_endpoints.begin_create_or_update(endpoint)
   

2. لإنشاء النشر باستخدام ManagedOnlineDeployment الكائن، استخدم الأمر التالي:

   ml_client.online_deployments.begin_create_or_update(deployment)
   

3. بمجرد اكتمال النشر، سيتم تعيين قيمة نسبة استخدام الشبكة الخاصة به إلى 0%. تحديث نسبة استخدام الشبكة إلى 100٪.

   endpoint.traffic = {"blue": 100}
   ml_client.online_endpoints.begin_create_or_update(endpoint)
   

استوديو

1. أكمل المعالج للنشر إلى نقطة النهاية.

   

2. بمجرد اكتمال النشر، سيتم تعيين قيمة نسبة استخدام الشبكة الخاصة به إلى 0%. قم بتحديث نسبة استخدام الشبكة إلى 100٪ من صفحة نقطة النهاية بالنقر فوق Update Traffic صف القائمة الثاني.

اختبار نقطة النهاية

Azure CLI

ينطبق على:ملحق CLI للتعلم الآلي من Microsoft Azure v2 (الحالي)

بمجرد اكتمال النشر، استخدم الأمر التالي لعمل طلب تسجيل لنقطة النهاية التي تم نشرها.

تلميح

يتم استخدام الملف /cli/endpoints/online/triton/single-model/triton_densenet_scoring.py في مستودع أمثلة azureml لتسجيل النقاط. تحتاج الصورة التي تم تمريرها إلى نقطة النهاية إلى معالجة مسبقة لتلبية متطلبات الحجم والنوع والتنسيق والمعالجة اللاحقة لإظهار التسمية المتوقعة. يستخدم triton_densenet_scoring.py المكتبة tritonclient.http للاتصال بخادم الاستدلال Triton. يتم تشغيل هذا الملف على جانب العميل.

1. للحصول على uri لتسجيل نقاط النهاية، استخدم الأمر التالي:

   scoring_uri=$(az ml online-endpoint show -n $ENDPOINT_NAME --query scoring_uri -o tsv)
   scoring_uri=${scoring_uri%/*}
   

2. للحصول على مفتاح مصادقة، استخدم الأمر التالي:

   auth_token=$(az ml online-endpoint get-credentials -n $ENDPOINT_NAME --query accessToken -o tsv)
   

3. لتسجيل البيانات باستخدام نقطة النهاية، استخدم الأمر التالي. يرسل صورة الطاووس (https://aka.ms/peacock-pic) إلى نقطة النهاية:

   python $BASE_PATH/triton_densenet_scoring.py --base_url=$scoring_uri --token=$auth_token --image_path $BASE_PATH/data/peacock.jpg
   

   الاستجابة من البرنامج النصي مشابهة للنص التالي:

   Is server ready - True
   Is model ready - True
   /azureml-examples/cli/endpoints/online/triton/single-model/densenet_labels.txt
   84 : PEACOCK
   

Python

ينطبق على: Python SDK azure-ai-ml v2 (الحالي)

1. للحصول على uri لتسجيل نقاط النهاية، استخدم الأمر التالي:

   endpoint = ml_client.online_endpoints.get(endpoint_name)
   scoring_uri = endpoint.scoring_uri
   

2. للحصول على مفتاح مصادقة، استخدم الأمر التالي: keys = ml_client.online_endpoints.list_keys(endpoint_name) auth_key = keys.primary_key

3. تستخدم التعليمات البرمجية التالية لتسجيل النقاط عميل Triton Inference Server لإرسال صورة الطاووس إلى نقطة النهاية. يتوفر هذا البرنامج النصي في دفتر الملاحظات المصاحب لهذا المثال - نشر نموذج إلى نقاط النهاية عبر الإنترنت باستخدام Triton.

   # Test the blue deployment with some sample data
   import requests
   import gevent.ssl
   import numpy as np
   import tritonclient.http as tritonhttpclient
   from pathlib import Path
   import prepost
   
   img_uri = "http://aka.ms/peacock-pic"
   
   # We remove the scheme from the url
   url = scoring_uri[8:]
   
   # Initialize client handler
   triton_client = tritonhttpclient.InferenceServerClient(
       url=url,
       ssl=True,
       ssl_context_factory=gevent.ssl._create_default_https_context,
   )
   
   # Create headers
   headers = {}
   headers["Authorization"] = f"Bearer {auth_key}"
   
   # Check status of triton server
   health_ctx = triton_client.is_server_ready(headers=headers)
   print("Is server ready - {}".format(health_ctx))
   
   # Check status of model
   model_name = "model_1"
   status_ctx = triton_client.is_model_ready(model_name, "1", headers)
   print("Is model ready - {}".format(status_ctx))
   
   if Path(img_uri).exists():
       img_content = open(img_uri, "rb").read()
   else:
       agent = f"Python Requests/{requests.__version__} (https://github.com/Azure/azureml-examples)"
       img_content = requests.get(img_uri, headers={"User-Agent": agent}).content
   
   img_data = prepost.preprocess(img_content)
   
   # Populate inputs and outputs
   input = tritonhttpclient.InferInput("data_0", img_data.shape, "FP32")
   input.set_data_from_numpy(img_data)
   inputs = [input]
   output = tritonhttpclient.InferRequestedOutput("fc6_1")
   outputs = [output]
   
   result = triton_client.infer(model_name, inputs, outputs=outputs, headers=headers)
   max_label = np.argmax(result.as_numpy("fc6_1"))
   label_name = prepost.postprocess(max_label)
   print(label_name)
   

4. الاستجابة من البرنامج النصي مشابهة للنص التالي:

   Is server ready - True
   Is model ready - True
   /azureml-examples/sdk/endpoints/online/triton/single-model/densenet_labels.txt
   84 : PEACOCK
   

استوديو

يتطلب Triton Inference Server استخدام Triton Client للاستدلال، ويدعم الإدخال الذي تكتبه tensor. لا يدعم Azure التعلم الآلي studio هذا حاليا. بدلا من ذلك، استخدم CLI أو SDK لاستدعاء نقاط النهاية باستخدام Triton.

حذف نقطة النهاية والنموذج

Azure CLI

ينطبق على:ملحق CLI للتعلم الآلي من Microsoft Azure v2 (الحالي)

1. بمجرد الانتهاء من نقطة النهاية، استخدم الأمر التالي لحذفها:

   az ml online-endpoint delete -n $ENDPOINT_NAME --yes
   

2. استخدم الأمر التالي لأرشفة النموذج الخاص بك:

   az ml model archive --name $MODEL_NAME --version $MODEL_VERSION
   

Python

ينطبق على: Python SDK azure-ai-ml v2 (الحالي)

1. حذف نقطة النهاية. يؤدي حذف نقطة النهاية أيضا إلى حذف أي عمليات نشر تابعة، ولكنها لن تقوم بأرشفة البيئات أو النماذج المقترنة.

   ml_client.online_endpoints.begin_delete(name=endpoint_name)
   

2. أرشفة النموذج باستخدام التعليمات البرمجية التالية.

   ml_client.models.archive(name=model_name, version=model_version)
   

استوديو

1. من صفحة نقطة النهاية، انقر في Delete الصف الثاني أسفل اسم نقطة النهاية.

2. من صفحة النموذج، انقر في Delete الصف الأول أسفل اسم النموذج.

الخطوات التالية

لمعرفة المزيد، راجع هذه المقالات:

• توزيع النماذج باستخدام REST
• إنشاء واستخدام نقاط النهاية المدارة عبر الإنترنت في الاستوديو
• إطلاق آمن لنقاط النهاية عبر الإنترنت
• كيفية القياس التلقائي لنقاط النهاية عبر الإنترنت المُدارة
• عرض تكاليف نقطة نهاية عبر الإنترنت مُدارة من Azure Machine Learning
• الوصول إلى موارد Azure باستخدام نقطة نهاية مدارة عبر الإنترنت وهوية مدارة
• استكشاف أخطاء توزيع نقاط النهاية المدارة عبر الإنترنت وإصلاحها