استخدام خوارزميات التدريب الموزعة مع Hyperopt

إشعار

لم يعد يتم الاحتفاظ بالإصدار مفتوح المصدر من Hyperopt .

ستتم إزالة Hyperopt في الإصدار الرئيسي التالي من DBR ML. توصي Azure Databricks باستخدام Optuna للحصول على تجربة مماثلة والوصول إلى خوارزميات ضبط المعلمات الفائقة الأحدث.

بالإضافة إلى خوارزميات التدريب أحادية الجهاز مثل تلك من scikit-learn، يمكنك استخدام Hyperopt مع خوارزميات التدريب الموزعة. في هذا السيناريو، ينشئ Hyperopt تجارب بإعدادات hyperparameter مختلفة على عقدة برنامج التشغيل. يتم تنفيذ كل إصدار تجريبي من عقدة برنامج التشغيل، ما يمنحها حق الوصول إلى موارد المجموعة الكاملة. يعمل هذا الإعداد مع أي خوارزميات أو مكتبات للتعلم الآلي موزعة، بما في ذلك Apache Spark MLlib وHorovodRunner.

عند استخدام Hyperopt مع خوارزميات التدريب الموزعة، لا تقم بتمرير وسيطة trials إلى fmin()، وعلى وجه التحديد، لا تستخدم SparkTrials الفئة . SparkTrials تم تصميم لتوزيع التجارب للخوارزميات التي لا يتم توزيعها في حد ذاتها. باستخدام خوارزميات التدريب الموزعة، استخدم الفئة الافتراضية Trials ، التي تعمل على برنامج تشغيل نظام المجموعة. يقيم Hyperopt كل إصدار تجريبي على عقدة برنامج التشغيل بحيث يمكن لخوارزمية التعلم الآلي نفسها بدء التدريب الموزع.

إشعار

لا يدعم Azure Databricks التسجيل التلقائي إلى MLflow مع Trials الفئة. عند استخدام خوارزميات التدريب الموزعة، يجب عليك استدعاء MLflow يدويا لتسجيل الإصدارات التجريبية ل Hyperopt.

مثال دفتر الملاحظات: استخدام Hyperopt مع خوارزميات MLlib

يوضح دفتر الملاحظات المثال كيفية استخدام Hyperopt لضبط خوارزميات التدريب الموزعة ل MLlib.

دفتر ملاحظات التدريب الموزع Hyperopt وMLlib

الحصول على دفتر الملاحظات

مثال دفتر الملاحظات: استخدام Hyperopt مع HorovodRunner

HorovodRunner هي واجهة برمجة تطبيقات عامة تستخدم لتشغيل أحمال عمل التعلم العميق الموزعة على Databricks. يدمج HorovodRunner Horovod مع وضع حاجز Spark لتوفير استقرار أعلى لوظائف التدريب على التعلم العميق طويلة الأمد على Spark.

يوضح دفتر الملاحظات المثال كيفية استخدام Hyperopt لضبط التدريب الموزع للتعلم العميق استنادا إلى HorovodRunner.

دفتر ملاحظات التدريب الموزع Hyperopt وHorovodRunner

الحصول على دفتر الملاحظات