إشعار
يتطلب الوصول إلى هذه الصفحة تخويلاً. يمكنك محاولة تسجيل الدخول أو تغيير الدلائل.
يتطلب الوصول إلى هذه الصفحة تخويلاً. يمكنك محاولة تغيير الدلائل.
توفر Azure Container Apps الوصول إلى وحدات معالجة الرسومات عند الطلب دون الحاجة لإدارة البنية التحتية الأساسية. كميزة بدون خادم، تدفع فقط مقابل بطاقات الرسوميات المستخدمة. عند التمكين، يرتفع عدد وحدات معالجة الرسومات المستخدمة لتطبيقك وينخفض لتلبية متطلبات التحميل للتطبيق الخاص بك. تمكنك وحدات معالجة الرسومات بلا خادم من تشغيل أحمال العمل بسلاسة باستخدام التحجيم التلقائي، والبدء البارد المحسن، والفوترة في الثانية مع تقليص الحجم إلى الصفر عند عدم الاستخدام، وتقليل الحمل التشغيلي.
تدعم وحدات معالجة الرسومات بدون خادم فقط لملفات تعريف عبء العمل الاستهلاكية. الميزة غير مدعومة لبيئات الاستهلاك فقط.
إشعار
يجب عليك طلب حصص GPU للوصول إلى وحدات معالجة الرسوميات. يمكنك إرسال طلب الحصة النسبية لوحدة معالجة الرسومات عبر حالة دعم العملاء.
المزايا
تعمل وحدات معالجة الرسومات بلا خادم على تسريع تطوير الذكاء الاصطناعي من خلال السماح لك بالتركيز على التعليمات البرمجية الأساسية الذكاء الاصطناعي وأقل على إدارة البنية الأساسية عند استخدام وحدات معالجة الرسومات. توفر هذه الميزة خيار الطبقة الوسطى بين واجهات برمجة التطبيقات بلا خادم لكتالوج نموذج Azure الذكاء الاصطناعي ونماذج الاستضافة على الحوسبة المدارة.
يوفر دعم وحدة معالجة الرسومات بلا خادم لتطبيقات الحاوية إدارة كاملة للبيانات حيث لا تترك بياناتك حدود الحاوية الخاصة بك مع توفير نظام أساسي مدار بلا خادم لإنشاء تطبيقاتك منه.
عند استخدام وحدات معالجة الرسومات بلا خادم في Container Apps، تحصل تطبيقاتك على:
وحدات معالجة الرسومات من الحجم إلى الصفر: دعم التحجيم التلقائي بلا خادم ل NVIDIA A100 وNVIDIA T4 GPUs.
الفوترة في الثانية: ادفع فقط مقابل حساب وحدة معالجة الرسومات الذي تستخدمه.
إدارة البيانات المضمنة: لا تترك بياناتك حدود الحاوية أبدا.
خيارات الحوسبة المرنة: يمكنك الاختيار بين أنواع NVIDIA A100 أو T4 GPU.
الطبقة الوسطى لتطوير الذكاء الاصطناعي: أحضر نموذجك الخاص على نظام أساسي للحوسبة المدارة بلا خادم.
السيناريوهات الشائعة
تصف السيناريوهات التالية حالات الاستخدام الشائعة لوحدات معالجة الرسوميات بدون خادم.
الاستنتاج في الوقت الحقيقي والدفعات: استخدم نماذج مفتوحة المصدر مخصصة بأوقات بدء تشغيل سريعة، وتوسيع تلقائي، ونموذج فوترة في الثانية. وحدات معالجة الرسومات بلا خادم مثالية للتطبيقات الديناميكية. أنت تدفع فقط مقابل الحساب الذي تستخدمه، ويتم توسيع نطاق تطبيقاتك تلقائيا لتلبية الطلب.
سيناريوهات التعلم الآلي: تسريع التطبيقات التي تنفذ نماذج الذكاء الاصطناعي إنشاء مخصصة دقيقة، أو التعلم العميق، أو الشبكات العصبية، أو تحليل البيانات على نطاق واسع.
High-Performance الحوسبة (HPC): استخدم وحدات معالجة الرسومات كموارد لتلبية المتطلبات الحاسوبية العالية في التطبيقات التي تتطلب حسابات ومحاكاة معقدة، مثل الحوسبة العلمية، النمذجة المالية، أو التنبؤ بالطقس.
التصيير والتصوير: استخدم وحدات معالجة الرسومات لتسريع عملية التصيير وتمكين التصور في الوقت الحقيقي في التطبيقات التي تتضمن العرض ثلاثي الأبعاد، معالجة الصور، أو تحويل ترميز الفيديو.
تحليلات البيانات الضخمة: يمكن لوحدات معالجة الرسومات تسريع معالجة البيانات وتحليلها بين مجموعات البيانات الضخمة.
الاعتبارات
ضع في اعتبارك الأمور التالية أثناء استخدام بطاقات الرسوميات بدون خادم:
إصدار CUDA: تدعم وحدات معالجة الرسومات بدون خادم أحدث إصدار من CUDA.
قيود الدعم:
- يمكن لحاوية واحدة فقط في التطبيق استخدام وحدة معالجة الرسومات في كل مرة. إذا كان لديك حاويات متعددة في أحد التطبيقات، فستحصل الحاوية الأولى على حق الوصول إلى وحدة معالجة الرسومات.
- يمكن لتطبيقات متعددة مشاركة نفس ملف تعريف حمل عمل GPU ولكن كل منها يتطلب النسخة المتماثلة الخاصة به.
- النسخ المتماثلة متعددة وكسرية لوحدة معالجة الرسومات غير مدعومة.
- الحاوية الأولى في التطبيق الخاص بك تحصل على حق الوصول إلى وحدة معالجة الرسومات.
عناوين IP: تستخدم وحدات معالجة الرسومات الاستهلاك عنوان IP واحدا لكل نسخة متماثلة عند إعداد التكامل مع شبكتك الظاهرية.
المناطق المدعومة
تتوفر وحدات معالجة الرسومات بلا خادم في المناطق التالية:
| المنطقة | A100 | T4 |
|---|---|---|
| شرق أستراليا | نعم | نعم |
| جنوب البرازيل | نعم | نعم |
| Central India | لا | نعم |
| East US | نعم | نعم |
| France Central | لا | نعم |
| Italy North | نعم | نعم |
| شرق اليابان | لا | نعم |
| وسط شمال الولايات المتحدة | لا | نعم |
| South Central US | لا | نعم |
| جنوب شرق آسيا | لا | نعم |
| South India | لا | نعم |
| منطقة السويد الوسطى | نعم | نعم |
| غرب أوروبا1 | لا | نعم |
| غرب الولايات المتحدة | نعم | نعم |
| West US 2 | لا | نعم |
| غرب الولايات المتحدة الأمريكية 3 | نعم | نعم |
1 لإضافة ملف تعريف حمل عمل وحدة معالجة الرسومات T4 بلا خادم في غرب أوروبا، يجب إنشاء بيئة ملف تعريف حمل عمل جديدة في المنطقة.
استخدام وحدات معالجة الرسومات بلا خادم
عند إنشاء تطبيق حاوية من خلال مدخل Microsoft Azure، يمكنك إعداد الحاوية لاستخدام موارد GPU.
في علامة التبويب Container لعملية الإنشاء، قم بتعيين الإعدادات التالية:
في قسم تخصيص موارد الحاويات ، اختر مربع اختيار GPU .
بالنسبة إلى GPU Type، حدد إما خيار NVIDIA A100 أو NVIDIA T4.
إدارة ملف تعريف حمل عمل GPU بلا خادم
تعمل وحدات معالجة الرسوميات بدون خادم على ملفات تحميل عمل استهلاك وحدات معالجة الرسوميات. يمكنك إدارة ملف تعريف حمل عمل GPU للاستهلاك بنفس الطريقة مثل أي ملف تعريف حمل عمل آخر. يمكنك إدارة ملف عبء العمل باستخدام واجهة القيادة أو بوابة Azure.
طلب الحصة النسبية لوحدة معالجة الرسومات بلا خادم
إشعار
العملاء الذين لديهم اتفاقيات مؤسسة وعملاء الدفع أولا بأول لديهم حصة A100 وT4 ممكنة بشكل افتراضي.
تحتاج إلى حصة GPU بدون خادم للوصول إلى هذه الميزة. يمكنك إرسال طلب الحصة النسبية لوحدة معالجة الرسومات عبر حالة دعم العملاء. عند فتح حالة دعم لطلب حصة GPU، اختر الخيارات التالية:
افتح نموذج طلب دعم جديد في مدخل Microsoft Azure.
أدخل القيم التالية في النموذج:
Property القيمة نوع المشكلة حدد حدود الخدمة والاشتراك (الحصص النسبية) الاشتراك حدد Subscription الخاص بك. نوع الحصة النسبية حدد Container Apps. حدد التالي.
في نافذة التفاصيل الإضافية ، حدد إدخال التفاصيل لفتح نافذة تفاصيل الطلب.
بالنسبة لنوع الحصة النسبية، حدد إما وحدة معالجة الرسومات NCA100 لاستهلاك البيئة المدارة أو وحدة معالجة الرسومات T4 لاستهلاك البيئة المدارة. أدخل قيمك الأخرى.
حدد حفظ ومتابعة.
املأ بقية التفاصيل ذات الصلة في نافذة التفاصيل الإضافية .
حدد التالي.
حدد إنشاء.
تحسين البدء البارد لوحدة معالجة الرسومات
يمكنك تحسين أوقات البدء الباردة بشكل كبير عن طريق تمكين تدفق البيانات الاصطناعية وتحديد موقع الملفات الكبيرة، مثل نماذج اللغة الكبيرة، في تحميل التخزين.
بث القطع الأثرية: يوفر Azure Container Registry بث الصور، مما يمكن أن يسرع بشكل كبير من أوقات بدء الصور. لاستخدام بث القطع الأثرية، يجب عليك استضافة صور الحاويات الخاصة بك في سجل حاويات Azure المميز.
تحميلات التخزين: تقليل تأثيرات زمن انتقال الشبكة عن طريق تخزين الملفات الكبيرة في حساب تخزين Azure المقترن بتطبيق الحاوية.
توزيع نماذج Foundry إلى وحدات معالجة الرسومات بلا خادم (معاينة)
تدعم وحدات معالجة الرسومات بلا خادم في Azure Container Apps الآن نماذج Azure الذكاء الاصطناعي Foundry في المعاينة العامة. تحتوي نماذج Azure الذكاء الاصطناعي Foundry على خيارين للنشر:
واجهات برمجة التطبيقات بلا خادم التي توفر فوترة الدفع أولا بأول لبعض النماذج الأكثر شيوعا.
الحوسبة المدارة التي تسمح لك بنشر التحديد الكامل لنماذج Foundry مع تسعير الدفع لكل وحدة معالجة الرسومات.
توفر وحدة معالجة الرسومات بلا خادم في Azure Container Apps خيار توزيع متوازن بين واجهات برمجة التطبيقات بلا خادم والحوسبة المدارة لنشر نماذج Foundry. هذا الخيار عند الطلب مع التحجيم بلا خادم الذي يتدرج إلى الصفر عندما لا يكون قيد الاستخدام ويتوافق مع احتياجات موقع البيانات الخاصة بك. باستخدام وحدات معالجة الرسومات بلا خادم، يمنحك استخدام نماذج Foundry المرونة لتشغيل أي نموذج مدعوم مع التحجيم التلقائي، والتسعير بالدفع في الثانية، وإدارة البيانات الكاملة، ودعم الأمان من خارج الصندوق للمؤسسات.
يتم دعم نماذج اللغة من النوع MLFLOW . لمشاهدة قائمة بالنماذج MLFLOW ، انتقل إلى قائمة النماذج المتوفرة في سجل azureml. لتحديد موقع النماذج، أضف عامل تصفية للنماذج MLFLOW باستخدام الخطوات التالية:
حدد عامل تصفية.
حدد إضافة عامل تصفية.
بالنسبة لقاعدة عامل التصفية، أدخل Type = MLFLOW.
بالنسبة للنماذج المدرجة هنا في مستودع Azure Container Apps، يمكنك نشرها مباشرة إلى وحدات معالجة الرسومات بلا خادم دون الحاجة إلى إنشاء صورتك الخاصة باستخدام أمر CLI التالي:
az containerapp up \
--name <CONTAINER_APP_NAME> \
--location <LOCATION> \
--resource-group <RESOURCE_GROUP_NAME> \
--model-registry <MODEL_REGISTRY_NAME> \
--model-name <MODEL_NAME> \
--model-version <MODEL_VERSION>
لأي نموذج غير موجود في هذه القائمة، تحتاج إلى:
قم بتحميل قالب GitHub الخاص بصورة النموذج من مستودع Azure Container Apps.
تعديل ملف score.py لمطابقة نوع النموذج الخاص بك. يحدد البرنامج النصي لتسجيل النقاط ( المسمى score.py) كيفية تفاعلك مع النموذج. يوضح المثال التالي كيفية استخدام ملف score.py مخصص.
إنشاء الصورة ونشرها في سجل حاوية.
استخدم أمر CLI السابق لنشر النموذج إلى وحدات معالجة الرسومات بلا خادم، ولكن حدد
--image. عندما تستخدم المعلمات--model-registry،--model-name، و--model-version، يتم تعيين المتغيرات الرئيسية للبيئة لتحسين بدء التشغيل البارد لتطبيقك.
إرسال الملاحظات
Submit issues to Azure Container Apps GitHub repo.