حدود خدمات الذكاء الاصطناعي التحجيم التلقائي

  • مقالة

توفر هذه المقالة إرشادات حول كيفية وصول العملاء إلى حدود المعدل الأعلى على موارد خدمات Azure الذكاء الاصطناعي الخاصة بهم.

نظرة عامة

يحتوي كل مورد خدمات Azure الذكاء الاصطناعي على معدل استدعاء ثابت تم تكوينه مسبقا (المعاملات في الثانية) والذي يحد من عدد المكالمات المتزامنة التي يمكن للعملاء إجراؤها على خدمة الواجهة الخلفية في إطار زمني معين. ستقوم ميزة التحجيم التلقائي تلقائيًا بزيادة/تقليل حدود سعر مورد العميل استنادًا إلى مقاييس استخدام الموارد في الوقت الفعلي تقريبًا ومقاييس سعة الخدمة الخلفية.

بـدء استخدام ميزة التحجيم التلقائي

يتم تعطيل هذه الميزة بشكل افتراضي لكـل مورد جديد. اتبع هـذه الإرشادات لتمكينه.

انتقل إلى صفحة المورد فـي مدخل Microsoft Azure، وحدد علامة التبويب Overview في الجزء الأيمن. ضمن قسم أساسيات، ابحث عـن سطر تحجيم تلقائي وحدد الارتباط لعرض جزء إعدادات التحجيم التلقائي وتمكين الميزة.

Screenshot of the Azure portal with the autoscale pane on right.

الأسئلة الشائعة

هـل يعني تمكين ميزة التحجيم التلقائي أن موردي لن يتم تقييده مرة أخرى؟

لا، قد لا تزال تحصل على 429 أخطاء لزيادة حـد المعدل. إذا كان التطبيق الخاص بك يؤدي إلى ارتفاع، وكان المورد الخاص بك يبلغ عن استجابة 429 ، يتحقق التحجيم التلقائي من قسم إسقاط السعة المتاحة لمعرفة ما إذا كانت السعة الحالية يمكن أن تستوعب زيادة حد المعدل والاستجابة في غضون خمس دقائق.

إذا كانت السعة المتوفرة كافية لزيادة، فإن التحجيم التلقائي يزيد تدريجيا من حد المعدل لموردك. إذا استمر الاتصال بموردك بمعدل مرتفع يؤدي إلى المزيد من 429 التقييد، فسوف يستمر معدل TPS في الزيادة بمرور الوقت. إذا استمر هذا الإجراء لمدة ساعة واحدة أو أكثر، يجب أن تصل إلى الحد الأقصى للمعدل (حتى 1000 TPS) المتوفر حاليا في ذلك الوقت لهذا المورد.

إذا لم تكن السعة المتوفرة كافية لزيادة، تنتظر ميزة التحجيم التلقائي خمس دقائق وتتحقق مرة أخرى.

ماذا لو كنت بحاجة إلى حـد أعلى للمعدل الافتراضي؟

بشكل افتراضي، يكون لموارد خدمات Azure الذكاء الاصطناعي حد معدل افتراضي يبلغ 10 TPS. إذا كنت بحاجة إلى TPS افتراضي أعلى، أرسل تذكرة باتباع الارتباط طلب دعم جديد على صفحة المورد فـي مدخل Microsoft Azure. تذكر تضمين مبرر عمل فـي الطلب.

هل ستزيد هذه الميزة مـن إنفاق Azure الخاص بي؟

لم يتغير تسعير خدمات Azure الذكاء الاصطناعي ويمكن الوصول إليه هنا. سنقوم فقط بفوترة المكالمات الناجحة التي تم إجراؤها إلى واجهات برمجة تطبيقات خدمات Azure الذكاء الاصطناعي. ومع ذلك، تعني حدود معدل المكالمة المتزايدة اكتمال المزيد من المعاملات، وقد تتلقى فاتورة أعلى.

كن على دراية بالأخطاء المُحتملة وعواقبها. إذا تسبب خطأ في تطبيق العميل الخاص بك في استدعاء الخدمة مئات المرات في الثانية، فمن المحتمل أن يؤدي ذلك إلى فاتورة أعلى بكثير، في حين أن التكلفة سوف تكون محدودة أكثر بكثير تحت حد سعر ثابت. الأخطاء من هذا النوع هي مسؤوليتك. نوصي بشدة بإجراء اختبارات التطوير وتحديث العميل مقابل مورد مع حد معدل ثابت قبل استخدام ميزة التحجيم التلقائي.

هل يمكنني تعطيل هذه الميزة إذا كنت أفضل تحديد المُعدل على الإنفاق غير المتوقع؟

نعم، يمكنك تعطيل ميزة التحجيم التلقائي من خلال مدخل Microsoft Azure أو CLI والعودة إلى إعداد حـد معدل المكالمة الافتراضي. إذا تمت الموافقة مسبقا على المورد الخاص بك ل TPS افتراضي أعلى، فإنه يعود إلى هذا المعدل. قد يستغرق الأمر مـا يصل إلى خمس دقائق حتى تدخل التغييرات حيز التنفيذ.

مـا هي الخدمات التي تدعم ميزة التحجيم التلقائي؟

تتوفر ميزة التحجيم التلقائي للخدمـات التالية:

هل يمكنني اختبار هـذه الميزة باستخدام اشتراك مجاني؟

لا، لا تتوفر ميزة التحجيم التلقائي لاشتراكات الطبقة المجانية.

الخطوات التالية