مراقبة خدمة Azure OpenAI

مقالة
04/16/2024

عندما يكون لديك تطبيقات وعمليات أعمال مهمة تعتمد على موارد Azure، فأنت تريد مراقبة هذه الموارد لمعرفة مدى توفرها وأدائها وتشغيلها.

توضح هذه المقالة بيانات المراقبة التي تم إنشاؤها بواسطة خدمة Azure OpenAI. Azure OpenAI هو جزء من خدمات Azure الذكاء الاصطناعي، والتي تستخدم Azure Monitor. إذا لم تكن على دراية بميزات Azure Monitor الشائعة في جميع خدمات Azure التي تستخدم الخدمة، فشاهد مراقبة موارد Azure باستخدام Azure Monitor.

لوحات المعلومات

يوفر Azure OpenAI لوحات معلومات غير مجزية لكل مورد من موارد Azure OpenAI. للوصول إلى لوحات معلومات المراقبة، قم بتسجيل الدخول إلى https://portal.azure.com وحدد جزء النظرة العامة لأحد موارد Azure OpenAI.

يتم تجميع لوحات المعلومات في أربع فئات: طلبات HTTP والاستخدام المستند إلى الرموز المميزة واستخدام PTU والضبط الدقيق

جمع البيانات وتوجيهها في Azure Monitor

يجمع Azure OpenAI نفس أنواع بيانات المراقبة مثل موارد Azure الأخرى. يمكنك تكوين Azure Monitor لإنشاء بيانات في سجلات النشاط وسجلات الموارد وسجلات الجهاز الظاهري ومقاييس النظام الأساسي. لمزيد من المعلومات، راجع مراقبة البيانات من موارد Azure.

يتم تجميع مقاييس النظام الأساسي وسجل نشاط Azure Monitor وتخزينها تلقائيا. يمكن توجيه هذه البيانات إلى مواقع أخرى باستخدام إعداد تشخيص. لا يتم تجميع سجلات موارد Azure Monitor وتخزينها حتى تقوم بإنشاء إعداد تشخيص ثم توجيه السجلات إلى موقع واحد أو أكثر.

عند إنشاء إعداد تشخيص، فإنك تحدد فئات السجلات المراد تجميعها. لمزيد من المعلومات حول إنشاء إعداد تشخيص باستخدام مدخل Microsoft Azure أو Azure CLI أو PowerShell، راجع إنشاء إعداد تشخيص لتجميع سجلات النظام الأساسي والمقاييس في Azure.

ضع في اعتبارك أن استخدام إعدادات التشخيص وإرسال البيانات إلى سجلات Azure Monitor له تكاليف أخرى مرتبطة به. لمزيد من المعلومات، راجع حسابات وخيارات تكلفة سجلات Azure Monitor.

يتم وصف المقاييس والسجلات التي يمكنك جمعها في الأقسام التالية.

تحليل القياسات

يمكنك تحليل المقاييس لموارد خدمة Azure OpenAI باستخدام أدوات Azure Monitor في مدخل Microsoft Azure. من صفحة Overview لمورد Azure OpenAI، حدد Metrics ضمن Monitoring في الجزء الأيمن. لمزيد من المعلومات، راجع بدء استخدام مستكشف مقاييس Azure Monitor.

يحتوي Azure OpenAI على القواسم المشتركة مع مجموعة فرعية من خدمات Azure الذكاء الاصطناعي. للحصول على قائمة بجميع مقاييس النظام الأساسي التي تم جمعها ل Azure OpenAI وخدمات Azure الذكاء الاصطناعي المماثلة بواسطة Azure Monitor، راجع المقاييس المدعومة ل Microsoft.CognitiveServices/accounts.

مقاييس الخدمات المعرفية

هذه هي المقاييس القديمة الشائعة في جميع موارد Azure الذكاء الاصطناعي Services. لم نعد نوصي باستخدام هذه المقاييس مع Azure OpenAI.

مقاييس Azure OpenAI

إشعار

تم الآن إهمال مقياس الاستخدام المدار بواسطة توفير ولم يعد مستحسنا. تم استبدال هذا المقياس بمقياس الاستخدام V2 المدار بواسطة التزويد.

يلخص الجدول التالي المجموعة الفرعية الحالية من المقاييس المتوفرة في Azure OpenAI.

Metric	الفئة	التجميع	‏‏الوصف	الأبعاد
`Azure OpenAI Requests`	HTTP	عدد	إجمالي عدد المكالمات التي تم إجراؤها إلى واجهة برمجة تطبيقات Azure OpenAI على مدى فترة زمنية. ينطبق على وحدات SKU المدارة بواسطة PayGo وPTU وPTU.	`ApiName`، `ModelDeploymentName`،`ModelName` ،`ModelVersion` ، `OperationName`، `Region`، `StatusCode`، `StreamType`
`Generated Completion Tokens`	الاستخدام	المجموع	عدد الرموز المميزة التي تم إنشاؤها (الإخراج) من نموذج Azure OpenAI. ينطبق على PayGo وPTU ووحدات SKU المنسدلة بواسطة PTU	`ApiName`، ، `ModelDeploymentNameModelNameRegion`
`Processed FineTuned Training Hours`	الاستخدام	المجموع	عدد ساعات التدريب التي تمت معالجتها على نموذج Azure OpenAI المضبط بدقة.	`ApiName`، ، `ModelDeploymentNameModelNameRegion`
`Processed Inference Tokens`	الاستخدام	المجموع	عدد الرموز المميزة للاستدلال التي تمت معالجتها بواسطة نموذج Azure OpenAI. يتم حسابها كرمز مميزة للمطالبة (إدخال) + رموز مميزة تم إنشاؤها. ينطبق على PayGo وPTU ووحدات SKU المنسدلة بواسطة PTU.	`ApiName`، ، `ModelDeploymentNameModelNameRegion`
`Processed Prompt Tokens`	الاستخدام	المجموع	إجمالي عدد الرموز المميزة للمطالبة (الإدخال) التي تمت معالجتها على نموذج Azure OpenAI. ينطبق على وحدات SKU المدارة بواسطة PayGo وPTU وPTU.	`ApiName`، ، `ModelDeploymentNameModelNameRegion`
`Provision-managed Utilization V2`	HTTP	المتوسط	الاستخدام المدار بواسطة التوفير هو نسبة الاستخدام لنشر معين مدار بواسطة توفير. محسوبة ك (وحدات PTUs المستهلكة/وحدات PTUs المنشورة)*100. عندما يكون الاستخدام عند أو أعلى من 100٪، يتم تقييد المكالمات وإرجاع رمز خطأ 429.	`ModelDeploymentName`،`ModelName` ،`ModelVersion` ، ، `RegionStreamType`
`Prompt Token Cache Match Rate`	HTTP	المتوسط	تتم إدارة التوفير فقط. وصلت ذاكرة التخزين المؤقت للرمز المميز المطالبة إلى التموين المعبر عنه كنسبة مئوية.	`ModelDeploymentName`، ، `ModelVersion`، `ModelNameRegion`
`Time to Response`	HTTP	المتوسط	مقياس زمن الانتقال الموصى به (الاستجابة) لطلبات الدفق. ينطبق على عمليات النشر التي تديرها PTU وPTU. لا ينطبق هذا المقياس على عمليات النشر القياسية للدفع. يتم حسابه كوقت يستغرقه ظهور الاستجابة الأولى بعد أن يرسل المستخدم مطالبة، كما تم قياسه بواسطة بوابة API. يزيد هذا الرقم مع زيادة حجم المطالبة و/أو تقليل حجم عدد مرات الوصول إلى ذاكرة التخزين المؤقت. ملاحظة: هذا المقياس هو تقريبي حيث يعتمد زمن الانتقال المقيس بشكل كبير على عوامل متعددة، بما في ذلك المكالمات المتزامنة ونمط حمل العمل الكلي. بالإضافة إلى ذلك، فإنه لا يمثل أي زمن انتقال من جانب العميل قد يكون موجودا بين العميل ونقطة نهاية واجهة برمجة التطبيقات. يرجى الرجوع إلى التسجيل الخاص بك لتتبع زمن الانتقال الأمثل.	`ModelDepIoymentName` و`ModelName` و`ModelVersion`

تكوين إعدادات التشخيص

جميع المقاييس قابلة للتصدير باستخدام إعدادات التشخيص في Azure Monitor. لتحليل بيانات السجلات والمقاييس باستخدام استعلامات Azure Monitor Log Analytics، تحتاج إلى تكوين إعدادات التشخيص لمورد Azure OpenAI ومساحة عمل Log Analytics.

من صفحة مورد Azure OpenAI، ضمن Monitoring، حدد Diagnostic settings في الجزء الأيمن. في صفحة Diagnostic settings ، حدد Add diagnostic setting.
في صفحة إعدادات التشخيص، قم بتكوين الحقول التالية:
1. حدد Send to Log Analytics workspace.
2. اختر اشتراك حساب Azure الخاص بك.
3. اختر مساحة عمل Log Analytics.
4. ضمن Logs، حدد allLogs.
5. ضمن المقاييس، حدد AllMetrics.
أدخل اسم إعداد التشخيص لحفظ التكوين.
حدد حفظ.

بعد تكوين إعدادات التشخيص، يمكنك العمل مع المقاييس وبيانات السجل لمورد Azure OpenAI في مساحة عمل Log Analytics.

تحليل السجلات

تُخزن البيانات في سجلات Azure Monitor في جداول حيث يحتوي كل جدول على مجموعة خاصة به من الخصائص الفريدة.

تحتوي جميع سجلات الموارد في مراقبة Azure على نفس الحقول متبوعة بحقول خاصة بالخدمة. للحصول على معلومات حول المخطط الشائع، راجع المخططات الشائعة والمخصصة للخدمة لسجلات موارد Azure.

سجل النشاط هو نوع من سجل النظام الأساسي في Azure الذي يوفر نظرة ثاقبة على الأحداث على مستوى الاشتراك. يمكنك عرض هذا السجل بشكل مستقل أو توجيهه إلى سجلات Azure Monitor. في مدخل Microsoft Azure، يمكنك استخدام سجل النشاط في سجلات Azure Monitor لتشغيل الاستعلامات المعقدة باستخدام Log Analytics.

للحصول على قائمة أنواع سجلات الموارد المتوفرة ل Azure OpenAI وخدمات Azure الذكاء الاصطناعي المماثلة، راجع عمليات موفر موارد Microsoft.CognitiveServices Azure.

استخدام استعلامات Kusto

بعد نشر نموذج Azure OpenAI، يمكنك إرسال بعض استدعاءات الإكمال باستخدام بيئة الملعب في Azure الذكاء الاصطناعي Studio.

أي نص تدخله في ملعب الإكمال أو ملعب إكمال الدردشة ينشئ مقاييس وبيانات سجل لمورد Azure OpenAI. في مساحة عمل Log Analytics للمورد الخاص بك، يمكنك الاستعلام عن بيانات المراقبة باستخدام لغة استعلام Kusto .

هام

يستعرض خيار فتح الاستعلام في صفحة مورد Azure OpenAI إلى Azure Resource Graph، وهو غير موضح في هذه المقالة. تستخدم الاستعلامات التالية بيئة الاستعلام ل Log Analytics. تأكد من اتباع الخطوات الواردة في تكوين إعدادات التشخيص لإعداد مساحة عمل Log Analytics.

من صفحة مورد Azure OpenAI، ضمن Monitoring في الجزء الأيمن، حدد Logs.
حدد مساحة عمل Log Analytics التي قمت بتكوينها باستخدام التشخيصات لمورد Azure OpenAI.
من صفحة مساحة عمل Log Analytics، ضمن Overview في الجزء الأيمن، حدد Logs.

يعرض مدخل Microsoft Azure نافذة استعلامات مع نماذج من الاستعلامات والاقتراحات بشكل افتراضي. يمكنك إغلاق هذه النافذة.

للحصول على الأمثلة التالية، أدخل استعلام Kusto في منطقة التحرير في أعلى نافذة Query ، ثم حدد Run. تظهر نتائج الاستعلام أسفل نص الاستعلام.

استعلام Kusto التالي مفيد لتحليل أولي لبيانات تشخيصات Azure (AzureDiagnostics) حول المورد الخاص بك:

AzureDiagnostics
| take 100
| project TimeGenerated, _ResourceId, Category, OperationName, DurationMs, ResultSignature, properties_s

يقوم هذا الاستعلام بإرجاع عينة من 100 إدخال ويعرض مجموعة فرعية من أعمدة البيانات المتوفرة في السجلات. في نتائج الاستعلام، يمكنك تحديد السهم الموجود بجانب اسم الجدول لعرض جميع الأعمدة المتوفرة وأنواع البيانات المقترنة.

لمشاهدة جميع أعمدة البيانات المتوفرة، يمكنك إزالة سطر | project ... معلمات النطاق من الاستعلام:

AzureDiagnostics
| take 100

لفحص بيانات مقاييس Azure (AzureMetrics) لموردك، قم بتشغيل الاستعلام التالي:

AzureMetrics
| take 100
| project TimeGenerated, MetricName, Total, Count, Maximum, Minimum, Average, TimeGrain, UnitName

يقوم الاستعلام بإرجاع عينة من 100 إدخال ويعرض مجموعة فرعية من الأعمدة المتوفرة لبيانات مقاييس Azure:

إشعار

عند تحديد سجلات المراقبة>في قائمة Azure OpenAI للمورد الخاص بك، يفتح Log Analytics مع تعيين نطاق الاستعلام إلى المورد الحالي. تتضمن استعلامات السجل المرئية بيانات من هذا المورد المحدد فقط. لتشغيل استعلام يتضمن بيانات من موارد أو بيانات أخرى من خدمات Azure الأخرى، حدد Logs من قائمة Azure Monitor في مدخل Microsoft Azure. لمزيد من المعلومات، راجع نطاق استعلام السجل والنطاق الزمني في Log Analytics لـ Azure Monitor للحصول على التفاصيل.

إعداد التنبيهات

تُعلمك تنبيهات Azure Monitor مُسبقاً عند العثور على شروط مهمة في بيانات المراقبة الخاصة بك. فهي تسمح لك بتحديد ومعالجة المشكلات في النظام قبل أن يلاحظها المستخدمون. يمكنك تعيين التنبيهات على القياسات، السجلات، سجل النشاط. أنواع مختلفة من التنبيهات لها فوائد وعيوب مختلفة.

تختلف احتياجات التنبيه لكل مؤسسة ويمكن أن تتغير بمرور الوقت. بشكل عام، يجب أن تكون جميع التنبيهات قابلة للتنفيذ وأن يكون لها استجابة محددة مقصودة إذا حدث التنبيه. إذا لم يتطلب التنبيه استجابة فورية، يمكن التقاط الشرط في تقرير بدلا من تنبيه. قد تتطلب بعض حالات الاستخدام التنبيه في أي وقت توجد فيه حالات خطأ معينة. في حالات أخرى، قد تحتاج إلى تنبيهات للأخطاء التي تتجاوز حدا معينا لفترة زمنية معينة.

غالبا ما يمكن تقييم الأخطاء التي تقل عن حدود معينة من خلال التحليل المنتظم للبيانات في سجلات Azure Monitor. أثناء تحليل بيانات السجل بمرور الوقت، قد تكتشف أن شرطا معينا لا يحدث لفترة زمنية متوقعة. يمكنك تتبع هذا الشرط باستخدام التنبيهات. في بعض الأحيان يكون عدم وجود حدث في السجل بنفس أهمية الإشارة كخطأ.

اعتمادا على نوع التطبيق الذي تقوم بتطويره باستخدام Azure OpenAI، قد توفر Azure Monitor Application Insights المزيد من مزايا المراقبة في طبقة التطبيق.

مشاركة عبر