إشعار
يتطلب الوصول إلى هذه الصفحة تخويلاً. يمكنك محاولة تسجيل الدخول أو تغيير الدلائل.
يتطلب الوصول إلى هذه الصفحة تخويلاً. يمكنك محاولة تغيير الدلائل.
في هذا المقال، تتعلم كيفية تشغيل أحمال عمل الذكاء الاصطناعي الموزعة على خدمة Azure Kubernetes (AKS) باستخدام Ray لتشغيل الحوسبة وKueue للتحكم في القبول. يغطي هذا الحل دورة الحياة الكاملة من توفير البنية التحتية مرورا بالتدريب، والاستدلال الدفعي، والخدمة عبر الإنترنت.
هام
يتم ذكر البرامج مفتوحة المصدر في جميع وثائق وعينات AKS. يتم استبعاد البرامج التي تنشرها من اتفاقيات مستوى خدمة AKS والضمان المحدود ودعم Azure. أثناء استخدامك للتكنولوجيا مفتوحة المصدر جنبا إلى جنب مع AKS، راجع خيارات الدعم المتوفرة من المجتمعات المحلية المعنية ومشرفي المشاريع لوضع خطة.
تتحمل Microsoft مسؤولية بناء الحزم مفتوحة المصدر التي ننشرها على AKS. تتضمن هذه المسؤولية امتلاك ملكية كاملة لعملية البناء والمسح الضوئي والتوقيع والتحقق من الصحة وإصلاحها، بالإضافة إلى التحكم في الثنائيات في صور الحاوية. لمزيد من المعلومات، راجع إدارة الثغرات الأمنية لتغطية دعم AKS وAKS.
ما هو راي؟
راي هو إطار عمل مفتوح المصدر لتوسيع نطاق الذكاء الاصطناعي وتطبيقات Python. يوفر وقت تشغيل موحد للتدريب الموزع، وضبط المعاملات الفائقة، والاستدلال الدفعي، وخدمة النماذج، بحيث يمكنك توسيع أعباء العمل عبر عقد متعددة دون إعادة كتابة منطق التطبيق.
تبسط راي الحوسبة الموزعة من خلال التعامل مع الجدولة، وتحمل الأخطاء، وإدارة الموارد. يدعم الإطار مكتبات تعلم الآلة مثل PyTorch وTensorFlow وHugging Face من خلال تكاملات مثل Ray Train وRay Data وRay Serve. لمزيد من المعلومات، راجع مستودع Ray GitHub.
ما هو KubeRay؟
KubeRay هو مشغل Kubernetes يدير دورة حياة عناقيد Ray. يوفر موارد مخصصة - RayJob لأعباء العمل الدفعية ونقاط RayService النهاية المستمرة للخدمة - التي تؤتمت إنشاء العنقود، وتكبيرها، وتفكيكها. لمزيد من المعلومات، راجع مستودع KubeRay GitHub.
ما هو Kueue؟
Kueue هو وحدة تحكم في قوائم انتظار الوظائف أصلية في Kubernetes تدير قبول عبء العمل بناء على حصص الموارد. بدلا من السماح لكل وظيفة مقدمة تستهلك الموارد فورا، يحدد كوي القبول مقابل الحصص المحددة - الوظائف التي تناسب التشغيل، والوظائف التي لا تنتظر في الطابور. للحصول على نظرة عامة مفصلة على مفاهيم وتكوين كوي، راجع نظرة عامة على AKS.
هيكل الحل
يجمع هذا الحل بين Kueue للتحكم في القبول مع KubeRay لإدارة دورة حياة عنقود Ray على AKS. يوفر Terraform البنية التحتية، ويثبت Helm المشغلين من Microsoft Container Registry (MCR)، ويوفر هوية الحمل وصولا آمنا إلى مساحة تخزين Azure Blob بدون بيانات اعتماد مخزنة.
تتكون عملية النشر من ثلاث وحدات:
- البنية التحتية — يقوم Terraform بتوفير عنقود AKS مع تجمعات عقد GPU، وتثبيت مشغلي KubeRay وKueue عبر Helm، وإنشاء مساحة تخزين Azure Blob، وتكوين هوية عبء العمل.
- قوائم Kueue — تحدد بيانات Kubernetes ResourceFlavors (أنواع عقد وحدة المعالجة المركزية ووحدة معالجة الرسوميات)، وClusterQueues (الحصص وسياسات القبول)، وLocalQueues (نقاط الإرسال ذات النطاق الاسمي).
- أعباء العمل — تقدم بيانات RayJob وRayService أعباء عمل بالذكاء الاصطناعي يعترف بها Kueue بناء على الحصص المتاحة.
تبدأ أعباء عمل الأشعة ب suspend: true. يقوم Kueue بتقييم توفر الحصص ويرفع تعليق أعباء العمل المعترف بها، وعندها يقوم KubeRay بإنشاء مجموعة Ray ويدير المهمة.
أمثلة على عبء العمل
| مثال | النوع | GPUs | الوصف |
|---|---|---|---|
| نموذج الطقس الدقيق لشمع القفق | راي جوب | 1×A100 | تعديل LoRA الدقيق لنموذج أساس الطقس Microsoft Aurora |
| تدريب ماجستير في القانون | راي جوب | 4×A100 | تعديل دقيق ل LoRA موزع على Qwen2.5-7B مع LLaMA-Factory |
| تشغيل الاستدلال الدفعي | راي جوب | 1×A100 | استنتاج vLLM غير المتصلة باستخدام محول LoRA مدرب |
| قدم نموذجا عبر الإنترنت | راي سيرفيس | 1×GPU | نقطة نهاية HTTP دائمة مع خدمة الأشعة |