مراقبة تكاليف خدمة النموذج

توفر هذه المقالة أمثلة حول كيفية استخدام جداول النظام لمراقبة تكلفة الفسيفساء الذكاء الاصطناعي نقاط نهاية خدمة النموذج في حساب Azure Databricks الخاص بك.

المتطلبات

• للوصول إلى جداول النظام، يجب تمكين مساحة العمل الخاصة بك كتالوج Unity. لمزيد من المعلومات، راجع تمكين مخططات جدول النظام.

جدول نظام استخدام الفوترة SKU

يمكنك تتبع تكاليف خدمة النموذج في Azure Databricks باستخدام جدول نظام الاستخدام القابل للفوترة. بعد تمكين جدول نظام استخدام الفوترة، يملأ الجدول تلقائيا بأحدث استخدام في حساب Databricks الخاص بك. تظهر التكاليف في system.billing.usage الجدول مع العمود sku_name كأحد الإجراءات التالية:

sku_name	‏‏الوصف
<tier>_SERVERLESS_REAL_TIME_INFERENCE_LAUNCH_<region>	تتضمن وحدة SKU هذه جميع وحدات DBUs المستحقة عند بدء تشغيل نقطة نهاية بعد التحجيم إلى الصفر.
<tier>_SERVERLESS_REAL_TIME_INFERENCE_<region>	يتم تجميع جميع تكاليف خدمة النموذج الأخرى ضمن وحدة SKU هذه. حيث tier يتوافق مع مستوى النظام الأساسي Azure Databricks ويتوافق region مع منطقة السحابة لتوزيع Azure Databricks.

الاستعلام عن الاستخدام وتصوره

يمكنك الاستعلام عن system.billing.usage الجدول لتجميع جميع وحدات DBUs (وحدات Databricks) المرتبطة بخدمة نموذج الذكاء الاصطناعي الفسيفساء. فيما يلي مثال استعلام يجمع نموذج يخدم وحدات DBUs يوميا لآخر 30 يوما باستخدام SQL:

SELECT SUM(usage_quantity) AS model_serving_dbus,
usage_date
FROM system.billing.usage
WHERE sku_name LIKE '%SERVERLESS_REAL_TIME_INFERENCE%'
GROUP BY(usage_date)
ORDER BY usage_date DESC

LIMIT 30

لوحة معلومات مراقبة التكلفة

لمساعدتك على البدء في مراقبة تكاليف خدمة النموذج الخاص بك، قم بتنزيل مثال لوحة معلومات إسناد التكلفة من GitHub. راجع لوحة معلومات إسناد تكلفة خدمة النموذج.

بعد تنزيل ملف JSON، قم باستيراد لوحة المعلومات إلى مساحة العمل الخاصة بك. للحصول على إرشادات حول استيراد لوحات المعلومات، راجع استيراد ملف لوحة معلومات.

كيفية استخدام لوحة المعلومات هذه

يتم تشغيل لوحة المعلومات هذه بواسطة الذكاء الاصطناعي/BI وتحتاج إلى الوصول إلى جداول النظام. يوفر رؤى لتكاليف نقطة النهاية التي تخدمها واستخدامها على مستوى مساحة العمل.

الخطوات التالية تساعدك على البدء:

1. أدخل معرف مساحة العمل.
2. حدد تاريخ البدء وتاريخ الانتهاء.
3. قم بتصفية لوحة المعلومات عن طريق تحديد اسم نقطة النهاية المحددة في القائمة المنسدلة (إذا كنت مهتما بنقطة نهاية معينة).
4. بشكل منفصل، أدخل مفتاح العلامة إذا كنت تستخدم أي علامات مخصصة لنقطة النهاية الخاصة بك.

إشعار

تفرض خدمة النموذج حدودا افتراضية على مساحة العمل للتأكد من عدم وجود إنفاق بعيد. راجع حدود ومناطق خدمة النموذج.

المخططات التي يمكنك استخدامها

يتم تضمين المخططات التالية في لوحة المعلومات هذه. تهدف هذه إلى أن تكون نقطة البداية بالنسبة لك لبناء الإصدار المخصص الخاص بك من لوحة معلومات إسناد التكلفة لخدمة النموذج.

• استهلاك نقطة النهاية العليا لآخر 7 أيام
• إجمالي استخدام $DBU اليومي
• تكاليف خدمة النموذج حسب نوع نقطة النهاية
  • الدفع لكل رمز مميز
  • CPU/GPU
  • نموذج الأساس
• الاستهلاك اليومي لكل نوع خدمة نموذج
• أفضل 10 نقاط نهاية لخدمة الأكثر تكلفة
• أعلى 10 نقاط نهاية الدفع لكل رمز مميز الأكثر تكلفة
• ضبط LLM الدقيق آخر 7 أيام قضاء
• ضبط LLM الدقيق للإنفاق لكل بريد إلكتروني

استخدام العلامات لمراقبة التكاليف

في البداية، قد تكون التكاليف المجمعة كافية لمراقبة التكاليف الإجمالية لخدمة النموذج. ومع ذلك، مع زيادة عدد نقاط النهاية، قد تحتاج إلى تقسيم التكاليف استنادا إلى حالة الاستخدام أو وحدة العمل أو المعرفات المخصصة الأخرى. تدعم خدمة النموذج إنشاء علامات مخصصة يمكن تطبيقها على نقاط نهاية خدمة النموذج الخاص بك.

تنتشر جميع العلامات المخصصة المطبقة على نقاط نهاية خدمة النموذج إلى system.billing.usage الجدول أسفل custom_tags العمود ويمكن استخدامها لتجميع التكاليف وتصورها. توصي Databricks بإضافة علامات وصفية إلى كل نقطة نهاية لتتبع التكلفة بدقة.

مثال على الاستعلامات

أعلى نقاط النهاية حسب التكلفة:

SELECT
  usage_metadata.endpoint_name AS endpoint_name,
  SUM(usage_quantity) AS model_serving_dbus
FROM
  system.billing.usage
WHERE
  sku_name LIKE '%SERVERLESS_REAL_TIME_INFERENCE%'
  AND usage_metadata.endpoint_name IS NOT NULL
GROUP BY endpoint_name
ORDER BY model_serving_dbus DESC
LIMIT 30;

التكلفة مع العلامات ("business_unit": "علم البيانات") بمرور الوقت:

SELECT
  SUM(usage_quantity) AS model_serving_dbus,
  usage_date
FROM
  system.billing.usage
WHERE sku_name LIKE '%SERVERLESS_REAL_TIME_INFERENCE%'
  AND custom_tags['business_unit'] = 'data science'
GROUP BY usage_date
ORDER BY usage_date DESC

LIMIT 30

الموارد الإضافية

للحصول على أمثلة حول كيفية مراقبة تكلفة الوظائف في حسابك، راجع مراقبة تكاليف الوظائف باستخدام جداول النظام.