نشر النماذج كنقاط نهاية API بلا خادم

في هذه المقالة، ستتعلم كيفية نشر نموذج من كتالوج النموذج كواجهة برمجة تطبيقات بلا خادم مع الفوترة المستندة إلى الرمز المميز للدفع أولا بأول.

يمكن نشر نماذج معينة في كتالوج النموذج كواجهة برمجة تطبيقات بلا خادم مع فوترة الدفع أولا بأول. يوفر هذا النوع من النشر طريقة لاستهلاك النماذج كواجهة برمجة تطبيقات دون استضافتها على اشتراكك، مع الحفاظ على أمان المؤسسة والامتثال الذي تحتاجه المؤسسات. لا يتطلب خيار النشر هذا حصة نسبية من اشتراكك.

المتطلبات الأساسية

• اشتراك Azure مع طريقة دفع صالحة. لن تعمل اشتراكات Azure المجانية أو التجريبية. إذا لم يكن لديك اشتراك Azure، فبادر بإنشاء حساب Azure مدفوع للبدء.

• مساحة عمل للتعلم الآلي من Microsoft Azure.

• يتم استخدام عناصر التحكم في الوصول المستندة إلى الدور في (Azure RBAC) لمنح الوصول إلى العمليات في التعلم الآلي من Microsoft Azure. لتنفيذ الخطوات الواردة في هذه المقالة، يجب تعيين دور Azure الذكاء الاصطناعي Developer لحساب المستخدم الخاص بك في مجموعة الموارد. لمزيد من المعلومات حول الأذونات، راجع التحكم في الوصول المستند إلى الدور في Azure التعلم الآلي.

• تحتاج إلى تثبيت البرنامج التالي للعمل مع Azure التعلم الآلي:

  استوديو

  يمكنك استخدام أي مستعرض ويب متوافق للتنقل في Azure التعلم الآلي.

  Azure CLI

  Azure CLI وملحق ml ل Azure التعلم الآلي.

  az extension add -n ml
  

  إذا كان لديك بالفعل الملحق مثبتا، فتأكد من تثبيت أحدث إصدار.

  az extension update -n ml
  

  بمجرد تثبيت الملحق، قم بتكوينه:

  az account set --subscription <subscription>
  az configure --defaults workspace=<workspace-name> group=<resource-group> location=<location>
  

  Python SDK

  تثبيت Azure التعلم الآلي SDK ل Python.

  pip install -U azure-ai-ml
  

  بمجرد التثبيت، قم باستيراد مساحات الأسماء الضرورية وإنشاء عميل متصل بمساحة العمل الخاصة بك:

  from azure.ai.ml import MLClient
  from azure.identity import InteractiveBrowserCredential
  from azure.ai.ml.entities import MarketplaceSubscription, ServerlessEndpoint
  
  client = MLClient(
      credential=InteractiveBrowserCredential(tenant_id="<tenant-id>"),
      subscription_id="<subscription-id>",
      resource_group_name="<resource-group>",
      workspace_name="<workspace-name>",
  )
  

  ARM

  يمكنك استخدام أي مستعرض ويب متوافق لنشر قوالب ARM في مدخل Microsoft Azure أو استخدام أي من أدوات النشر. يستخدم هذا البرنامج التعليمي Azure CLI.

اشترك في مساحة العمل الخاصة بك في عرض النموذج

بالنسبة للنماذج المقدمة من خلال Azure Marketplace، يمكنك نشرها في نقاط نهاية API بلا خادم لاستهلاك تنبؤاتها. إذا كانت هذه هي المرة الأولى التي تقوم فيها بنشر النموذج في مساحة العمل، يجب عليك الاشتراك في مساحة العمل الخاصة بك لعرض النموذج المحدد من Azure Marketplace. كل مساحة عمل لها اشتراكها الخاص في عرض Azure Marketplace المحدد للنموذج، والذي يسمح لك بالتحكم في الإنفاق ومراقبته.

إشعار

تتوفر النماذج المقدمة من خلال Azure Marketplace للنشر إلى نقاط نهاية API بلا خادم في مناطق معينة. تحقق من توفر المنطقة للنماذج في نقاط نهاية واجهة برمجة التطبيقات بلا خادم للتحقق من المناطق المتوفرة. إذا لم يتم سرد تلك التي تحتاج إليها، يمكنك النشر إلى مساحة عمل في منطقة مدعومة ثم استهلاك نقاط نهاية API بلا خادم من مساحة عمل مختلفة.

1. تسجيل الدخول إلى Azure Machine Learning studio

2. تأكد من أن حسابك لديه أذونات دور Azure الذكاء الاصطناعي Developer على مجموعة الموارد، أو أنك تستوفي الأذونات المطلوبة للاشتراك في عروض النموذج.

3. انتقل إلى مساحة العمل الخاصة بك.

4. حدد كتالوج النموذج من الشريط الجانبي الأيسر وابحث عن بطاقة النموذج للنموذج الذي تريد نشره. في هذه المقالة، يمكنك تحديد نموذج Meta-Llama-3-8B-Instruct .

   1. إذا كنت تقوم بنشر النموذج باستخدام Azure CLI أو Python SDK أو ARM، فانسخ معرف النموذج.

   هام

   لا تقم بتضمين الإصدار عند نسخ معرف النموذج. تنشر نقاط نهاية واجهة برمجة التطبيقات بلا خادم دائما أحدث إصدار متوفر للنموذج. على سبيل المثال، لمعرف azureml://registries/azureml-meta/models/Meta-Llama-3-8B-Instruct/versions/3النموذج ، انسخ azureml://registries/azureml-meta/models/Meta-Llama-3-8B-Instruct.

   

5. إنشاء اشتراك سوق النموذج. عند إنشاء اشتراك، فإنك تقبل الشروط والأحكام المقترنة بعرض النموذج.

   استوديو

   1. في صفحة Details الخاصة بالنموذج، حدد Deploy ثم حدد Serverless API لفتح معالج التوزيع.

   2. حدد خانة الاختيار للإقرار بنهج الشراء من Microsoft.

      

   3. إذا رأيت الملاحظة لديك بالفعل اشتراك Azure Marketplace لمساحة العمل هذه، فلن تحتاج إلى إنشاء الاشتراك نظرا لأن لديك بالفعل اشتراكا. يمكنك المتابعة إلى نشر النموذج إلى نقطة نهاية API بلا خادم.

   4. في معالج النشر، حدد الارتباط إلى شروط Azure Marketplace لمعرفة المزيد حول شروط الاستخدام. يمكنك أيضا تحديد علامة التبويب Pricing and terms للتعرف على أسعار النموذج المحدد.

   5. في معالج التوزيع، حدد الارتباط إلى شروط Azure Marketplace لمعرفة المزيد حول شروط الاستخدام. يمكنك أيضا تحديد علامة تبويب تفاصيل عرض Marketplace للتعرف على أسعار النموذج المحدد.

   6. حدد الاشتراك والنشر.

   Azure CLI

   subscription.yml

   name: meta-llama3-8b-qwerty
   model_id: azureml://registries/azureml-meta/models/Meta-Llama-3-8B-Instruct
   

   استخدم ملف subscription.yml لإنشاء الاشتراك:

   az ml marketplace-subscription create -f subscription.yml
   

   Python SDK

   model_id="azureml://registries/azureml-meta/models/Meta-Llama-3-8B-Instruct"
   subscription_name="Meta-Llama-3-8B-Instruct"
   
   marketplace_subscription = MarketplaceSubscription(
       model_id=model_id,
       name=subscription_name,
   )
   
   marketplace_subscription = client.marketplace_subscriptions.begin_create_or_update(
       marketplace_subscription
   ).result()
   

   ARM

   استخدم القالب التالي لإنشاء اشتراك نموذج:

   template.json

   {
       "$schema": "https://schema.management.azure.com/schemas/2019-04-01/deploymentTemplate.json#",
       "contentVersion": "1.0.0.0",
       "parameters": {
           "workspace_name": {
               "defaultValue": "my-workspace",
               "type": "String"
           },
           "subscription_name": {
               "defaultValue": "Meta-Llama-3-8B-Instruct",
               "type": "String"
           },
           "model_id": {
               "defaultValue": "azureml://registries/azureml-meta/models/Meta-Llama-3-8B-Instruct",
               "type": "String"
           }
       },
       "variables": {},
       "resources": [
           {
               "type": "Microsoft.MachineLearningServices/workspaces/marketplaceSubscriptions",
               "apiVersion": "2024-04-01",
               "name": "[concat(parameters('workspace_name'), '/', parameters('subscription_name'))]",
               "location": "[parameters('location')]",
               "properties": {
                   "modelId": "[parameters('model_id')]"
               }
           }
       ]
   }
   

6. بمجرد تسجيل مساحة العمل لعرض Azure Marketplace المحدد، لا تتطلب عمليات النشر اللاحقة لنفس العرض في نفس مساحة العمل الاشتراك مرة أخرى.

7. في أي وقت، يمكنك مشاهدة عروض النموذج التي تم الاشتراك في مساحة العمل فيها حاليا:

   استوديو

   1. انتقل إلى مدخل Azure

   2. انتقل إلى مجموعة الموارد حيث تنتمي مساحة العمل.

   3. في عامل تصفية النوع، حدد SaaS.

   4. ترى جميع العروض التي اشتركت فيها حاليا.

   5. حدد أي مورد لمشاهدة التفاصيل.

   Azure CLI

   az ml marketplace-subscription list
   

   Python SDK

   marketplace_sub_list = client.marketplace_subscriptions.list()
   
   for sub in marketplace_sub_list:
       print(sub.as_dict())
   

   ARM

   يمكنك استخدام أدوات إدارة الموارد للاستعلام عن الموارد. تستخدم التعليمات البرمجية التالية Azure CLI:

   az resource list \
       --query "[?type=='Microsoft.SaaS']"
   

نشر النموذج إلى نقطة نهاية API بلا خادم

بمجرد إنشاء اشتراك نموذج، يمكنك نشر النموذج المقترن إلى نقطة نهاية API بلا خادم. توفر نقطة نهاية واجهة برمجة التطبيقات بلا خادم طريقة لاستهلاك النماذج كواجهة برمجة تطبيقات دون استضافتها على اشتراكك، مع الحفاظ على حاجة مؤسسات أمان المؤسسة وتوافقها. لا يتطلب خيار النشر هذا حصة نسبية من اشتراكك.

في هذه المقالة، يمكنك إنشاء نقطة نهاية باسم meta-llama3-8b-qwerty.

1. إنشاء نقطة نهاية بلا خادم

   استوديو

   1. من المعالج السابق، حدد Deploy (إذا كنت قد اشتركت للتو في مساحة العمل في عرض النموذج في القسم السابق)، أو حدد Continue to deploy (إذا كان معالج النشر الخاص بك يحتوي على الملاحظة لديك بالفعل اشتراك Azure Marketplace لمساحة العمل هذه).

      

   2. امنح النشر اسما. يصبح هذا الاسم جزءا من عنوان URL الخاص بواجهة برمجة التطبيقات للتوزيع. يجب أن يكون عنوان URL هذا فريدا في كل منطقة من مناطق Azure.

      

   3. حدد نشر. انتظر حتى تصبح عملية النشر جاهزة ثم تتم إعادة توجيهك إلى صفحة Deployments.

   Azure CLI

   endpoint.yml

   name: meta-llama3-8b-qwerty
   model_id: azureml://registries/azureml-meta/models/Meta-Llama-3-8B-Instruct
   

   استخدم ملف endpoint.yml لإنشاء نقطة النهاية:

   az ml serverless-endpoint create -f endpoint.yml
   

   Python SDK

   endpoint_name="meta-llama3-8b-qwerty"
   
   serverless_endpoint = ServerlessEndpoint(
       name=endpoint_name,
       model_id=model_id
   )
   
   created_endpoint = client.serverless_endpoints.begin_create_or_update(
       serverless_endpoint
   ).result()
   

   ARM

   استخدم القالب التالي لإنشاء نقطة نهاية:

   template.json

   {
       "$schema": "https://schema.management.azure.com/schemas/2019-04-01/deploymentTemplate.json#",
       "contentVersion": "1.0.0.0",
       "parameters": {
           "workspace_name": {
               "defaultValue": "my-workspace",
               "type": "String"
           },
           "endpoint_name": {
               "defaultValue": "meta-llama3-8b-qwerty",
               "type": "String"
           },
           "location": {
               "defaultValue": "eastus2",
               "type": "String"
           },
           "model_id": {
               "defaultValue": "azureml://registries/azureml-meta/models/Meta-Llama-3-8B-Instruct",
               "type": "String"
           }
       },
       "variables": {},
       "resources": [
           {
               "type": "Microsoft.MachineLearningServices/workspaces/serverlessEndpoints",
               "apiVersion": "2024-04-01",
               "name": "[concat(parameters('workspace_name'), '/', parameters('endpoint_name'))]",
               "location": "[parameters('location')]",
               "sku": {
                   "name": "Consumption"
               },
               "properties": {
                   "modelSettings": {
                       "modelId": "[parameters('model_id')]"
                   }
               }
           }
       ]
   }
   

   ثم قم بإنشاء النشر:

   az deployment group create \
       --name model-subscription-deployment \
       --resource-group <resource-group> \
       --template-file template.json
   

   قد يستغرق قالب توزيع Azure بضع دقائق للاكتمال. عند الانتهاء، سترى رسالة تتضمن النتيجة:

   "provisioningState": "Succeeded",
   

2. في أي وقت، يمكنك مشاهدة نقاط النهاية المنشورة في مساحة العمل الخاصة بك:

   استوديو

   1. انتقل إلى مساحة العمل الخاصة بك.

   2. حدد نقاط النهاية.

   3. حدد علامة التبويب نقاط النهاية بلا خادم لعرض نقاط نهاية واجهة برمجة التطبيقات بلا خادم.

   Azure CLI

   az ml serverless-endpoint list
   

   Python SDK

   endpoint_name="meta-llama3-8b-qwerty"
   
   serverless_endpoint = ServerlessEndpoint(
       name=endpoint_name,
       model_id=model_id
   )
   
   created_endpoint = client.serverless_endpoints.begin_create_or_update(
       serverless_endpoint
   ).result()
   

   ARM

   يمكنك استخدام أدوات إدارة الموارد للاستعلام عن الموارد. تستخدم التعليمات البرمجية التالية Azure CLI:

   az resource list \
       --query "[?type=='Microsoft.MachineLearningServices/workspaces/serverlessEndpoints']"
   

3. تستخدم نقطة النهاية التي تم إنشاؤها مصادقة المفتاح للتخويل. استخدم الخطوات التالية للحصول على المفاتيح المقترنة بنقطة نهاية معينة.

   استوديو

   1. للعودة إلى صفحة النشر، حدد اسم نقطة النهاية من قائمة نقاط النهاية بلا خادم.
   2. لاحظ URI الهدف والمفتاح لنقطة النهاية. استخدمها لاستدعاء النشر وإنشاء التنبؤات.

   إشعار

   عند استخدام مدخل Microsoft Azure، لا يتم عرض نقاط نهاية واجهة برمجة التطبيقات بلا خادم بشكل افتراضي على مجموعة الموارد. استخدم الخيار إظهار الأنواع المخفية لعرضها على مجموعة الموارد.

   Azure CLI

   az ml serverless-endpoint get-credentials -n meta-llama3-8b-qwerty
   

   Python SDK

   endpoint_keys = client.serverless_endpoints.get_keys(endpoint_name)
   print(endpoint_keys.primary_key)
   print(endpoint_keys.secondary_key)
   

   ARM

   استخدم واجهات برمجة تطبيقات REST للاستعلام عن هذه المعلومات.

4. عند هذه النقطة، تكون نقطة النهاية الخاصة بك جاهزة للاستخدام.

5. إذا كنت بحاجة إلى استهلاك هذا النشر من مساحة عمل مختلفة، أو كنت تخطط لاستخدام تدفق المطالبة لإنشاء تطبيقات ذكية، فأنت بحاجة إلى إنشاء اتصال بنشر واجهة برمجة التطبيقات بلا خادم. لمعرفة كيفية تكوين نقطة نهاية واجهة برمجة تطبيقات بدون خادم موجودة على مشروع أو مركز جديد، راجع استهلاك نقاط نهاية واجهة برمجة التطبيقات بلا خادم المنشورة من مساحة عمل مختلفة أو من تدفق المطالبة.

   تلميح

   إذا كنت تستخدم تدفق المطالبة في نفس مساحة العمل حيث تم نشر النشر، فلا تزال بحاجة إلى إنشاء الاتصال.

استخدام نقطة نهاية API بلا خادم

تدعم النماذج المنشورة في Azure التعلم الآلي وAzure الذكاء الاصطناعي studio في نقاط نهاية واجهة برمجة التطبيقات بلا خادم واجهة برمجة تطبيقات Azure الذكاء الاصطناعي Model Inference API التي تعرض مجموعة مشتركة من القدرات للنماذج الأساسية والتي يمكن استخدامها من قبل المطورين لاستهلاك التنبؤات من مجموعة متنوعة من النماذج بطريقة موحدة ومتسقة.

اقرأ المزيد حول قدرات واجهة برمجة التطبيقات هذه وكيف يمكنك الاستفادة منها عند إنشاء التطبيقات.

حذف نقاط النهاية والاشتراكات

يمكنك حذف اشتراكات النموذج ونقاط النهاية. يؤدي حذف اشتراك نموذج إلى جعل أي نقطة نهاية مقترنة غير صحية وغير قابلة للاستخدام.

استوديو

لحذف نقطة نهاية API بلا خادم:

1. انتقل إلى Azure التعلم الآلي studio.

2. حدد نقاط النهاية من الشريط الجانبي الأيسر.

3. حدد علامة التبويب نقاط النهاية بلا خادم لعرض نقاط نهاية واجهة برمجة التطبيقات بلا خادم.

4. افتح نقطة النهاية التي تريد حذفها.

5. حدد حذف.

لحذف اشتراك النموذج المقترن:

1. انتقل إلى مدخل Azure

2. انتقل إلى مجموعة الموارد حيث تنتمي مساحة العمل.

3. في عامل تصفية النوع، حدد SaaS.

4. حدد الاشتراك الذي تريد حذفه.

5. حدد حذف.

Azure CLI

لحذف نقطة نهاية API بلا خادم:

az ml serverless-endpoint delete \
    --name "meta-llama3-8b-qwerty"

لحذف اشتراك النموذج المقترن:

az ml marketplace-subscription delete \
    --name "Meta-Llama-3-8B-Instruct"

Python SDK

لحذف نقطة نهاية API بلا خادم:

client.serverless_endpoints.begin_delete(endpoint_name).wait()

لحذف اشتراك النموذج المقترن:

client.marketplace_subscriptions.begin_delete(subscription_name).wait()

ARM

يمكنك استخدام أدوات إدارة الموارد لإدارة الموارد. تستخدم التعليمات البرمجية التالية Azure CLI:

az resource delete --name <resource-name>

اعتبارات التكلفة والحصة النسبية للنماذج المنشورة كنقاط نهاية API بلا خادم

يتم تقديم النماذج المنشورة كنقطة نهاية API بلا خادم من خلال Azure Marketplace وتكاملها مع Azure التعلم الآلي للاستخدام. يمكنك العثور على تسعير Azure Marketplace عند نشر النماذج أو ضبطها.

في كل مرة تشترك فيها مساحة عمل في عرض معين من Azure Marketplace، يتم إنشاء مورد جديد لتتبع التكاليف المرتبطة بالاستهلاك الخاص به. ويستخدم نفس المورد لتعقب التكاليف المرتبطة بالاستدلال والضبط الدقيق؛ ومع ذلك، تتوفر عدة عدادات لتعقب كل سيناريو بشكل مستقل.

لمزيد من المعلومات حول كيفية تتبع التكاليف، راجع مراقبة تكاليف النماذج المقدمة من خلال Azure Marketplace.

تتم إدارة الحصة النسبية لكل عملية نشر. كل نشر له حد معدل 200000 رمز مميز في الدقيقة و1000 طلب واجهة برمجة التطبيقات في الدقيقة. ومع ذلك، فإننا نحد حاليا من نشر واحد لكل نموذج لكل مساحة عمل. اتصل بدعم Microsoft Azure إذا كانت حدود المعدل الحالي غير كافية للسيناريوهات الخاصة بك.

الأذونات المطلوبة للاشتراك في عروض النموذج

يتم استخدام عناصر التحكم في الوصول المستندة إلى الدور في (Azure RBAC) لمنح الوصول إلى العمليات في التعلم الآلي من Microsoft Azure. لتنفيذ الخطوات الواردة في هذه المقالة، يجب تعيين دور المالك أو المساهم أو Azure الذكاء الاصطناعي Developer لاشتراك Azure لحساب المستخدم الخاص بك. بدلا من ذلك، يمكن تعيين دور مخصص لحسابك لديه الأذونات التالية:

• في اشتراك Azure - للاشتراك في مساحة العمل في عرض Azure Marketplace، مرة واحدة لكل مساحة عمل، لكل عرض:

  • Microsoft.MarketplaceOrdering/agreements/offers/plans/read
  • Microsoft.MarketplaceOrdering/agreements/offers/plans/sign/action
  • Microsoft.MarketplaceOrdering/offerTypes/publishers/offers/plans/agreements/read
  • Microsoft.Marketplace/offerTypes/publishers/offers/plans/agreements/read
  • Microsoft.SaaS/register/action

• في مجموعة الموارد - لإنشاء مورد SaaS واستخدامه:

  • Microsoft.SaaS/resources/read
  • Microsoft.SaaS/resources/write

• في مساحة العمل - لنشر نقاط النهاية (يحتوي دور عالم البيانات Azure التعلم الآلي على هذه الأذونات بالفعل):

  • Microsoft.MachineLearningServices/workspaces/marketplaceModelSubscriptions/*
  • Microsoft.MachineLearningServices/workspaces/serverlessEndpoints/*

لمزيد من المعلومات حول الأذونات، راجع إدارة الوصول إلى مساحة عمل Azure التعلم الآلي.

المحتوى ذو الصلة

• كتالوج النماذج والمجموعات
• استهلاك نقاط نهاية API بلا خادم المنشورة من مساحة عمل مختلفة