استخدام قاعدة بيانات مرحلي لترحيل البيانات

تسلط هذه البنية المرجعية الضوء على الدور الاستراتيجي لقاعدة بيانات التقسيم المرحلي في عمليات ترحيل البيانات على نطاق واسع ومعقد. بدلا من نقل البيانات مباشرة من النظام المصدر إلى البيئة المستهدفة، تقدم العملية طبقة تقسيم مرحلي وسيطة. يتم أولا استيعاب البيانات في قاعدة بيانات مرحلية للترحيل المؤقت، حيث تخضع للتحول والتحقق من الصحة. فقط بعد اكتمال هذه الخطوات، يتم تحميل البيانات في Dataverse. يحسن هذا النمط جودة البيانات، ويضمن التكامل، ويقلل من احتمالية حدوث أخطاء أثناء عملية الترحيل.

مخطط الهندسة‬

رسم تخطيطي للبنية يوضح سير العمل لترحيل البيانات المعقدة من نظام CRM مثل Salesforce أو Sibel إلى Microsoft Dataverse.

تدفق البيانات

  • استخراج: يتم استخراج البيانات من أنظمة المصدر.
  • المرحلة: يتم تحميل البيانات في قاعدة بيانات التقسيم المرحلي المصدر.
  • التحويل: تعالج البرامج النصية للترحيل البيانات وتحولها.
  • التحميل: يتم تحميل البيانات المحولة في قاعدة بيانات التقسيم المرحلي الوجهة.
  • التحقق من الصحة: يتم استخدام قوالب Excel للتحقق من صحة البيانات الرئيسية.
  • دمج: تُحمِّل أدوات ترحيل البيانات البيانات إلى Dataverse والملفات إلى Azure Blob أو SharePoint.

المكونات

  • النظام المصدر: مصدر البيانات الأصلي، والذي قد يتضمن قواعد البيانات القديمة أو أنظمة ERP أو التطبيقات غير التابعة ل Microsoft.
  • قاعدة بيانات التقسيم المرحلي: مخزن بيانات مؤقت وسيط يستخدم لاستيعاب البيانات وتحويلها والتحقق من صحتها قبل الترحيل النهائي. تعمل هذه الطبقة على فصل أنظمة المصدر والهدف، ما يسمح بإعداد البيانات الخاضعة للرقابة والتدقيق.
  • عملية ETL/ELT: مسارات الاستخراج والتحويل والتحميل (أو استخراج وتحميل وتحويل) التي تنقل البيانات من المصدر إلى قاعدة البيانات المرحلية، وتطبق قواعد العمل، وتعدها ل Dataverse.
  • البيانات المرجعية: البيانات المستخدمة للتحقق من صحة البيانات الرئيسية وإثرائها أثناء الترحيل. على سبيل المثال، قوالب بيانات Excel الرئيسية.
  • Dataverse: النظام الهدف حيث يتم تحميل البيانات التي تم تنظيفها والتحقق من صحتها في النهاية للاستخدام في تطبيقات Power Platform.
  • تخزين الملفات: تخزين البيانات غير المنظمة مثل المرفقات والمستندات. على سبيل المثال، Azure Blob Storage أو SharePoint.

تفاصيل السيناريو

تعمل هذه البنية بشكل جيد مع السيناريوهات التي:

  • يحتوي النظام المصدر على كميات كبيرة من البيانات أو الهياكل العلائقية المعقدة التي تتطلب التحويل قبل الاستيعاب إلى Dataverse.
  • الترحيل المباشر غير ممكن بسبب مشكلات جودة البيانات أو عدم تطابق المخطط أو الحاجة إلى فرض قاعدة العمل.
  • يجب أن تكون عملية الترحيل قابلة للتدقيق وقابلة للتكرار ودعم التراجع أو إعادة معالجة مقاطع بيانات معينة.
  • تتطلب المؤسسة نهج ترحيل مرحلي أو تزايدي، مثل أثناء تحديث النظام أو مشروع انتقال السحابة.

أمثلة على حالات الاستخدام

  • ترحيل بيانات العملاء والمعاملات من نظام ERP محلي إلى Dataverse للاستخدام في Power Apps وPower Automate.
  • دمج البيانات من أنظمة قديمة متعددة في بيئة Dataverse موحدة.
  • إجراء إثراء بيانات التحميل المسبق، مثل ترميز العناوين جغرافيًا أو تعيين الرموز القديمة إلى تصنيفات جديدة.

‏‫ملاحظة

يفترض هذا المثال أنه تم بالفعل إجراء تحليل العملية وتقييم الحل، وأن Dataverse قد تم تحديده كوجهة مناسبة للبيانات. يجب على Teams دائما تقييم ما إذا كان تطبيق الطرف الأول، مثل Dynamics 365 Finance and Operations (F&O)، يتوافق بشكل أفضل مع احتياجات الأعمال قبل المتابعة مع التطبيقات المخصصة في Dataverse.

تعرف على المزيد: دليل تنفيذ Dynamics 365

المزايا الرئيسية

  • ضمان جودة البيانات: تتيح طبقة التقسيم المرحلي التحقق الشامل والتحويل قبل أن تصل البيانات إلى بيئة الإنتاج.
  • عزل الخطأ: يمكن تحديد المشكلات وحلها في بيئة التقسيم المرحلي دون التأثير على أنظمة المصدر أو الهدف.
  • قابلية التوسع: تدعم كميات كبيرة من البيانات ومنطق التحويل المعقد.
  • إمكانية التدقيق: تمكن تعقب دورة حياة البيانات ومحفوظات التحويل.

الاعتبارات

تنفذ هذه الاعتبارات ركائز Power Platform Well-Architected ، وهي مجموعة من المبادئ التوجيهية التي تعمل على تحسين جودة عبء العمل. تعرف على المزيد في Microsoft Power Platform Well-Architected.

الموثوقية

  • تصميم عملية التقسيم المرحلي والترحيل لتكون مرنة في مواجهة حالات الفشل. تنفيذ منطق إعادة المحاولة ونقاط التفتيش في مسارات ETL لمعالجة الأخطاء العابرة.
  • تحقق من اكتمال البيانات وتكاملها قبل تحميل البيانات في Dataverse لتجنب عمليات الترحيل الجزئية أو التالفة.

الأمان

  • تطبيق التحكم في الوصول استنادا إلى الدور (RBAC) لتقييد الوصول إلى قاعدة البيانات المرحلية وأدوات الترحيل.
  • تشفير البيانات الثابتة والمتنقلة، خاصة عند التعامل مع البيانات الحساسة أو الشخصية.
  • تسجيل ومراقبة الوصول إلى بيئة التقسيم المرحلي وDataverse لدعم متطلبات التدقيق والتوافق.

كفاءة الأداء

  • تحسين منطق استخراج البيانات وتحويلها لتقليل وقت المعالجة واستهلاك الموارد.
  • استخدم معالجة الدفعات والتوازي عند الاقتضاء للتعامل مع وحدات تخزين البيانات الكبيرة بكفاءة.
  • مراقبة مقاييس الأداء لبيئة التقسيم المرحلي وضبط موارد الحوسبة حسب الحاجة.

التميز التشغيلي

  • توثيق عملية الترحيل، بما في ذلك تعيينات البيانات وقواعد التحويل ومنطق التحقق من الصحة.
  • تنفيذ البرامج النصية للاختبار التلقائي والتحقق من الصحة لضمان التكرار وتقليل الخطأ البشري.
  • استخدم أدوات التزامن مثل Azure Data Factory لإدارة ومراقبة سير عمل الترحيل الشامل.

الخطوة التالية

توضح المقالة التالية نهجا مثبتا لإدارة عمليات الترحيل واسعة النطاق. أحد أكبر التحديات في عمليات الترحيل المعقدة هو تعقب البيانات المحملة ومعالجة الأخطاء وإعادة محاولة السجلات الفاشلة. نظرا لأن عمليات الترحيل هذه يمكن أن تمتد أياما أو حتى أسابيع، استخدم استراتيجية مرحلية. تقوم هذه الاستراتيجية بترحيل بيانات دلتا فقط أثناء قطع الإنتاج النهائي لتقليل التعطيل.