فهم دورة حياة تطوير تطبيق نموذج اللغة

مكتمل

الآن بعد أن فهمت كيفية تحديد نموذج وبناء نموذج أولي، حان الوقت للتفكير في التحجيم لأحمال العمل في العالم الحقيقي. للتحضير للتحجيم، تحتاج إلى تحويل تركيزك من النموذج الأولي إلى الإنتاج، والذي يتضمن اعتماد دورة حياة عمليات الذكاء الاصطناعي التوليدية (GenAIOps).

تطبق الذكاء الاصطناعي التوليدية (GenAI) نماذج مدربة مسبقا يمكن ضبطها أو زيادتها ببياناتك الخاصة لإنشاء محتوى استنادا إلى إدخال المستخدم. بالمقارنة مع تطوير التطبيقات الذكاء الاصطناعي التقليدية، فإن هذا التحول ينقل التركيز بعيدا عن إنشاء النموذج وإلى توليد محتوى ديناميكي، ما يجلب مجموعة خاصة به من التحديات والفرص للتحجيم.

دعونا نستكشف هذا التحول النموذجي، قبل الخوض في دورة حياة تطبيقات GenAI الشاملة.

فهم التحول من MLOps إلى GenAIOps

تطبيق مبادئ وممارسات DevOps لتطوير حلول التعلم الآلي ليس جديدا. يعرف تطبيق DevOps على التعلم الآلي التقليدي باسم عمليات التعلم الآلي أو MLOps. MLOps هو دمج للتعلم الآلي مع ممارسات DevOps لتغطية المكونات الرئيسية لسير عمل التعلم الآلي: مسار البيانات والتدريب النموذجي ونشر النموذج.

عمليات الذكاء الاصطناعي التوليدية، أو GenAIOps، هو مجال متخصص داخل MLOps يركز على تطوير التطبيقات المدمجة مع نماذج اللغة ونشرها.

DevOps التقليدية عمليات التعلم الآلي التقليدية GenAIOps
الجماعات المستهدفة مطورو التطبيقات مهندسو التعلم الآلي وعلماء البيانات مهندسو التعلم الآلي ومطورو التطبيقات
الأصول لمشاركة المكتبات ومكونات التعليمات البرمجية وواجهات برمجة التطبيقات والبيئات والميزات النموذج والبيانات والبيئات والميزات نماذج اللغة والوكلاء والمكونات الإضافية والمطالبات والسلاسل وواجهات برمجة التطبيقات
مقاييس/تقييمات أمان التعليمات البرمجية، والتحقق من صحة اختبارات الوحدة، وزمن الانتقال، والتكلفة الجودة (الدقة) والضرر (التحيز) الجودة (الاتساق، الصلة)، الضرر (الاختلاقات، السمية)، الصدق (التأريض)، التكلفة (الرمز المميز لكل طلب)، زمن الانتقال (وقت الاستجابة)
نماذج التعلم الآلي -- البناء من البداية Prebuilt, fine-tuned بمثابة واجهة برمجة تطبيقات

هناك العديد من الاختلافات بين MLOps وGenAIOps:

  • Audiences: MLOps مخصصة بشكل أساسي لعلماء البيانات، بينما لدى GenAIOps جمهور أوسع، بما في ذلك المطورون.

  • الأصول التي تم إنشاؤها: في MLOps ترتبط الأصول الرئيسية بالبيانات والنماذج، بينما في GenAIOps هناك تركيز على تكامل النماذج المدربة مسبقا مع موصلات البيانات أو الوظائف أو المكونات الإضافية أو نماذج اللغة الأخرى.

  • مقاييس التقييم:

    • مقاييس أداء النموذج: في سيناريوهات التعلم الآلي التقليدية، يمكننا حساب المسافة بين النتائج المتوقعة والفعلية، والمعبر عنها من حيث الدقة أو الخسارة. مع نماذج اللغة، ليس لدينا دائما حقيقة أساسية، لذلك نحن بحاجة إلى تدابير جودة مختلفة، مثل الاتساقالصلة الاستجابات.
    • مقاييس أداء التطبيق: يتضمن GenAIOps أيضا مجموعة من المقاييس لتقييم أداء التطبيق، على غرار ما يحدث في DevOps التقليدية وMLOps، مثل التكلفةومعدل النقل وزمن انتقال .
    • مقاييس المخاطر والسلامة: بالإضافة إلى الأضرار المعروفة، مثل تحيز البيانات، فإن القدرات الجديدة لنماذج اللغة تجلب أيضا مخاطر جديدة تتعلق بإنشاء تلفيقات أو معلومات غير صحيحة أو رسائل هجومية، والتي تتطلب مقاييس أمان جديدة.
  • النماذج الأساسية: في MLOps، يتم تدريب النماذج بشكل شائع من البداية، بينما نستخدم في GenAIOps نماذج مدربة مسبقا على كميات هائلة من البيانات (على سبيل المثال، الإنترنت بأكمله) وفي النهاية يتم ضبطها أو زيادة بيانات محددة.

استكشاف دورة حياة GenAIOps

دورة حياة GenAIOps معقدة، وأي شيء غير خطي. إنها عملية تكرارية، تعكس الطبيعة متعددة الأوجه لتطبيقات العالم الحقيقي. يتضمن ثلاث حلقات أساسية، جميعها موحدة بواسطة حلقة شاملة رابعة.

رسم تخطيطي يوضح دورة حياة نموذج اللغة في حلقات.

  • استكشاف: حيث تحديد حاجة العمل، أو حالة الاستخدام، وتصميم البنية، بما في ذلك المطالبات والنماذج الضرورية.
  • Build: حيث تطوير التطبيق الأولي وتقييم بشكل متكرر للوصول إلى أهداف الجودة والسلامة.
  • التشغيل: حيث نشر التطبيق للاستخدام في العالم الحقيقي، تقديم خدمة موثوقة ومسؤولة.

إن تجاوز جميع هذه المراحل هو حلقة إدارة ، والتي تركز على الحوكمة والأمان والامتثال. إنه إطار عمل يوازن بين السرعة في التسليمات والالتزام الصارم بالمعايير.

بعد ذلك، سنتعمق في كل خطوة تم وصفها لتكون جزءا من دورة حياة GenAIOps، من خلال تغطية الأدوات الرئيسية التي تساعدك خلال كل مرحلة محددة.