نظرة عامة على النشر لنماذج Microsoft Foundry

نماذج Microsoft Foundry هي المركز لاكتشاف ونشر مجموعة واسعة من نماذج الذكاء الاصطناعي لتطبيقات الذكاء الاصطناعي التوليدي. لجعل نموذج متاحا لطلبات الاستنتاج، تقوم بنشره. يقدم Foundry خيارين للنشر حسب نوع الطراز واحتياجاتك من البنية التحتية.

نصيحة

ليس عليك دائما إنشاء نشر. مع الوصول الفوري (المعاينة)، تستدعي النماذج المدعومة بالاسم وتبدأ في تشغيل الاستدلال فورا — دون الحاجة إلى نشر.

خيارات النشر

يوفر فاوندري خيارين للنشر:

واجهة برمجة تطبيقات بلا خادم - لنماذج Foundry، بما في ذلك نماذج Foundry التي تباع بواسطة Azure وحدد نماذج من الشركاء والمجتمع. هذا الخيار هو المسار المفضل والأكثر قدرة. وهو يتضمن أنواع توزيع المطورين ومعدل النقل القياسي والدفعي والدفعي.
الحوسبة المدارة (معاينة) — للنماذج مفتوحة المصدر والشركاء والمخصصة التي تعمل على سعة وحدة معالجة الرسومات المخصصة التي يديرها Foundry نيابة عنك.

يحدد Foundry خيار النشر المناسب استنادا إلى النموذج الذي تختاره.

إذا كنت بحاجة فقط إلى تجربة نموذج مدعوم، يمكنك تخطي النشر بالكامل واستخدام الوصول الفوري (معاينة)، والذي يستدعي النماذج بالاسم دون إنشاء واجهة برمجة تطبيقات بلا خادم أو نشر حساب مدار.

للحصول على مقارنة كاملة للقدرة، راجع مقارنة خيارات التوزيع.

واجهة برمجة التطبيقات بدون خادم

واجهة برمجة التطبيقات بلا خادم هي خيار النشر المفضل في Foundry. يدعم أوسع مجموعة من القدرات وأنواع النشر.

ما هي النماذج التي تستخدم عمليات نشر واجهة برمجة التطبيقات بلا خادم؟

تستخدم جميع نماذج Foundry، بما في ذلك نماذج Foundry التي تم بيعها بواسطة Azure وحدد Models من الشركاء والمجتمع، عمليات نشر واجهة برمجة التطبيقات بلا خادم. تشمل نماذج Foundry التي تباعها Azure جميع نماذج Azure OpenAI ونماذج مختارة من مزودي الخدمة الكبار، والتي يتم فوترتها عبر اشتراكك في Azure، ومغطاة باتفاقيات مستوى الخدمة الخاصة ب Azure، ومدعومة من قبل Microsoft. تتضمن النماذج من الشركاء والمجتمع الذي يستخدم عمليات نشر واجهة برمجة التطبيقات بلا خادم نماذج Anthropic ونماذج محددة من شركاء مثل Mistral و Cohere و Meta.

قدرات واجهة برمجة التطبيقات بلا خادم

دعم عمليات نشر واجهة برمجة التطبيقات بلا خادم:

أنواع نشر متعددة (أو وحدات حفظ المخزون للتوزيع) — المعيار العمومي، وقياس منطقة البيانات، والقياسي (منطقة واحدة)، والمتوفرة، والدفعة، والمزيد. كل نوع يتحكم في مكان معالجة البيانات وكيفية الدفع. للتفاصيل، راجع أنواع النشر لنماذج Microsoft Foundry.
مرونة معالجة البيانات - اختر المنطقة الإقليمية أو منطقة البيانات (الولايات المتحدة أو الاتحاد الأوروبي أو APAC) أو المعالجة العالمية استنادا إلى متطلبات التوافق الخاصة بك.
Content filtering — فلاتر أمان محتوى الذكاء الاصطناعي في Azure مدمجة مع تكوينات قابلة للتخصيص.
المصادقة بدون مفتاح — Microsoft Entra ID (موصى به) والمصادقة القائمة على المفاتيح.
الشبكات الخاصة — تكامل الشبكة الافتراضية للوصول الآمن.
معدل النقل المقدم - احجز السعة مع وحدات معدل النقل المتوفرة (PTUs) للحصول على أداء يمكن التنبؤ به وزمن انتقال منخفض. للتفاصيل، انظر معدل النقل المخصص.

متطلبات الموارد

تتوفر عمليات نشر واجهة برمجة التطبيقات بلا خادم في:

موارد Foundry — النوع الأساسي من الموارد لمشاريع Foundry الجديدة. لا حاجة إلى مركز ذكاء اصطناعي.
Azure موارد OpenAI — إذا استخدمت موارد Azure OpenAI، فإن كتالوج النماذج يعرض فقط Azure نماذج OpenAI للنشر. قم بالترقية إلى مورد في Foundry للوصول إلى مجموعة نماذج Foundry الكاملة.

للبدء في نشر واجهة برمجة التطبيقات بدون خادم، راجع نشر نماذج Microsoft Foundry في مدخل Foundry أو نشر النماذج باستخدام Azure CLI Bicep.

نشر الحوسبة المدارة (المعاينة)

ملحوظة

الحساب المدار في Foundry قيد المعاينة العامة حاليا. يتم توفير هذا العرض التمهيدي دون اتفاقية على مستوى الخدمة، ولا نوصي به لأعباء العمل الإنتاجية. قد لا تكون بعض الميزات مدعومة أو قد تكون ذات قدرات محدودة. لمزيد من المعلومات، راجع شروط الاستخدام الإضافية لمعاينات Microsoft Azure.

الحوسبة المدارة في Foundry (المعاينة) هي منصة معالجة رسومات مدارة كخدمة (PaaS) تستضيف نماذج مفتوحة المصدر وذات وزن مخصص على سعة مخصصة لوحدة معالجة الرسوميات. يمكنك الوصول إلى عمليات نشر الحوسبة المدارة من خلال نفس نقطة نهاية مشروع Foundry مثل أنواع النشر الأخرى، دون الحاجة إلى آلات افتراضية أو عناقيد أو أوقات تشغيل خدمة لامتلاكها. يقوم Foundry بقياس حجم النشر، وتوفير المسرعات، ويحافظ على وقت التشغيل معدلا.

مهم

تدعم الحوسبة المدارة نماذج مفتوحة المصدر، ونماذج شركاء، وصناعية، ونماذج مخصصة. يتم تقديم عمليات نشر الحوسبة المدارة على نقطة نهاية مشروع Foundry الموحدة، باستخدام نفس المصادقة والشبكة وسطح SDK.

أي النماذج تستخدم الحوسبة المدارة؟

يمكنك نشر نماذج من Hugging Face Collection باستخدام الحوسبة المدارة. تتضمن الأمثلة ما يلي:

نماذج Qwen
نماذج NVIDIA Nemotron
نماذج التعريف المحددة
نماذج Mistral المحددة

يتضمن كتالوج Microsoft Foundry مجموعة كبيرة ومتنامية من النماذج مفتوحة المصدر والشركاء. للحصول على الكتالوج الحالي، راجع كتالوج النموذج.

قدرات الحوسبة المدارة

يدعم الحوسبة المدارة (المعاينة):

Unified Foundry ونقطة النهاية والمصادقة — استخدم نفس نقطة نهاية المشروع، ومفاتيح API، و Microsoft Entra ID، والشبكات الخاصة كعمليات دفع لكل رمز وعمليات نقل متوفرة. تستخدم <endpoint>/managed-deployments/<deployment-name>/مسارات الاستدلال . تعمل أوقات التشغيل المتوافقة مع إكمال الدردشة أيضا على المسار القياسي /openai/v1/ مع حزمة تطوير البرمجيات OpenAI.
حجم النماذج على النسخة — يتم حجم عمليات النشر بمصطلحات تركز على النموذج. لا تحتاج إلى اختيار وحدات SKU للآلة الافتراضية، لأن Foundry يختار وحدات معالجة الرسومات لكل مثيل بناء على حجم النموذج، والهندسة المعمارية، وطول السياق، وما إذا كان عبء العمل محسنا لتأخير أو معدل النقل.
أوقات تشغيل الاستدلال المحسنة — Microsoft حاويات vLLM وSGLang وNVIDIA NIM المنسقة مع دفعات مستمرة وتوازي tensor.
عائلات المسرع — A100 (80 غيغابايت) وH100 (80 غيغابايت) وMI300X (192 غيغابايت).
Microsoft المدارة — Microsoft تمتلك أوقات التشغيل، وصور الحاويات الأساسية، وتصحيحات الأمان. يتم تطبيق التحديثات تلقائيا على النشرات الحية (live deploys).
مقاييس الملاحظة — كل نشر يصدر عدد استدعاءات API حسب رمز الحالة ونسبة زمن الاستجابة. نماذج إكمال المحادثة تصدر أيضا عدد رموز الإدخال والإخراج، ونسب الوقت إلى الرمز الأول (TTFT)، ونسب زمن الاستجابة الكلية، مجمعة حسب الوقت.

الفوترة والحصص

الفوترة المدارة للحوسبة تكون بالساعة لكل وحدة تخزين للمسرع، مع معدل النقل لكل وحدة معالجة رسومات كوحدة الفوترة الأساسية.

تمنح الحصة لكل وحدة تخزين مسرعة لكل منطقة من خلال عملية حصة Foundry وهي منفصلة عن حصة Azure VM. آلات Azure الافتراضية هي عرض بنية تحتية كخدمة (IaaS) مع وحدات تخزين إقليمية؛ الحوسبة المدارة هي خدمة PaaS تقود معالجة المعالجة العالمية ومعالجة مناطق البيانات. لا يمكن تطبيق حصة Azure VM الحالية على نشر الحوسبة المدارة.

الحوسبة المدارة متاحة حاليا للنشر العالمي. للحصول على تقديرات الأسعار، راجع حاسبة التسعير Azure.

ابدأ

للبدء في نشر الحوسبة المدارة، راجع نشر نماذج مفتوحة المصدر باستخدام الحوسبة المدارة.

مقارنة خيارات النشر

استخدم واجهة برمجة التطبيقات بلا خادم كلما أمكن ذلك. يقارن الجدول التالي القدرات عبر خياري النشر:

ملحوظة

الوصول الفوري (معاينة) ليس خيار نشر في هذه المقارنة. يستدعي النماذج المدعومة بالاسم دون إنشاء واجهة برمجة تطبيقات بلا خادم أو نشر حساب مدار.

القدرة	واجهة برمجة التطبيقات بدون خادم	الحوسبة المدارة
أي النماذج يمكن نشرها؟	جميع نماذج المساند، بما في ذلك Foundry Models، التي تباع بواسطة Azure وselect Models من الشركاء والمجتمع	نماذج مفتوحة المصدر وشركاء من كتالوج النماذج، NVIDIA NIM، ونماذج الصناعة
مورد النشر	مورد المسبك	مشروع المسبك
يتطلب مركز الذكاء الاصطناعي	لا	لا
خيارات معالجة البيانات	إقليمي، منطقة بيانات، عالمي	عام
الشبكات الخاصة	نعم	نعم
تصفية المحتوى	مدمج وقابل للتخصيص	غير متوفر في المعاينة العامة
المصادقة بدون مفتاح	نعم (معرف Microsoft Entra ID ويعتمد على المفاتيح)	نعم (معرف Microsoft Entra ID ويعتمد على المفاتيح)
التصنيف	استخدام الرموز أو وحدات النقل المخصصة	كل ساعة لكل وحدة تخزين مسرع