InferenceScope class
يوفر نطاق تتبع OpenTelemetry لعمليات الاستدلال الذكاء الاصطناعي التوليدية.
- يمتد
الأساليب
| record |
تسجيل أسباب الانتهاء لتتبع بيانات تتبع الاستخدام. |
| record |
تسجيل رسائل الإدخال لتعقب بيانات تتبع الاستخدام.
يقبل السلاسل العادية (ملفوفة تلقائيا ك OTEL ChatMessage مع دور |
| record |
يسجل عدد رموز الإدخال المميزة لتتبع بيانات تتبع الاستخدام. |
| record |
تسجيل رسائل الإخراج لتعقب بيانات تتبع الاستخدام.
يقبل السلاسل العادية (ملفوفة تلقائيا ك OTEL OutputMessage مع دور |
| record |
يسجل عدد الرموز المميزة للإخراج لتتبع بيانات تتبع الاستخدام. |
| start(Request, Inference |
إنشاء نطاق جديد لتعقب الاستدلال وبدء تشغيله. |
الأساليب المتوارثة
| dispose() | أسلوب التخلص القديم للتوافق |
| get |
الحصول على سياق النطاق لهذا النطاق. يمكن استخدام هذا لإنشاء ParentSpanRef لربط أصل-تابع صريح عبر الحدود غير المتزامنة. |
| record |
تسجيل أزواج متعددة من مفاتيح/قيم السمات لتعقب بيانات تتبع الاستخدام. |
| record |
تسجيل حدث إلغاء على النطاق. تعيين حالة النطاق إلى ERROR مع سبب الإلغاء ووضع علامة على نوع الخطأ على أنه "TaskCanceledException". |
| record |
تسجيل خطأ حدث أثناء العملية |
| set |
تعيين وقت انتهاء مخصص للنطاق.
عند التعيين، سيمرر التخلص هذه القيمة إلى |
| with |
جعل هذا النطاق نشطا طوال مدة تنفيذ رد الاتصال غير المتزامن |
تفاصيل الأسلوب
recordFinishReasons(string[])
تسجيل أسباب الانتهاء لتتبع بيانات تتبع الاستخدام.
function recordFinishReasons(finishReasons: string[])
المعلمات
- finishReasons
-
string[]
صفيف أسباب الانتهاء
recordInputMessages(InputMessagesParam)
تسجيل رسائل الإدخال لتعقب بيانات تتبع الاستخدام.
يقبل السلاسل العادية (ملفوفة تلقائيا ك OTEL ChatMessage مع دور user) أو برنامج تضمين InputMessages الذي تم إصداره.
function recordInputMessages(messages: InputMessagesParam)
المعلمات
- messages
- InputMessagesParam
صفيف سلاسل رسائل الإدخال أو برنامج تضمين InputMessages
recordInputTokens(number)
يسجل عدد رموز الإدخال المميزة لتتبع بيانات تتبع الاستخدام.
function recordInputTokens(inputTokens: number)
المعلمات
- inputTokens
-
number
عدد رموز الإدخال المميزة
recordOutputMessages(OutputMessagesParam)
تسجيل رسائل الإخراج لتعقب بيانات تتبع الاستخدام.
يقبل السلاسل العادية (ملفوفة تلقائيا ك OTEL OutputMessage مع دور assistant) أو برنامج تضمين OutputMessages الذي تم إصداره.
function recordOutputMessages(messages: OutputMessagesParam)
المعلمات
- messages
- OutputMessagesParam
صفيف سلاسل رسائل الإخراج أو برنامج تضمين OutputMessages
recordOutputTokens(number)
يسجل عدد الرموز المميزة للإخراج لتتبع بيانات تتبع الاستخدام.
function recordOutputTokens(outputTokens: number)
المعلمات
- outputTokens
-
number
عدد الرموز المميزة للإخراج
start(Request, InferenceDetails, AgentDetails, UserDetails, SpanDetails)
إنشاء نطاق جديد لتعقب الاستدلال وبدء تشغيله.
static function start(request: Request, details: InferenceDetails, agentDetails: AgentDetails, userDetails?: UserDetails, spanDetails?: SpanDetails): InferenceScope
المعلمات
- request
- Request
حمولة الطلب (القناة ومعرف المحادثة والمحتوى ومعرف الجلسة).
- details
- InferenceDetails
تفاصيل استدعاء الاستدلال (النموذج والموفر والرموز المميزة وما إلى ذلك).
- agentDetails
- AgentDetails
العامل الذي يقوم بالاستدلال. معرف المستأجر مشتق من agentDetails.tenantId.
- userDetails
- UserDetails
هوية المتصل البشري الاختيارية.
- spanDetails
- SpanDetails
تكوين النطاق الاختياري (parentContext، startTime، endTime، spanLinks). ملاحظة: spanKind يتم تجاهلها؛ يستخدم SpanKind.CLIENTInferenceScope دائما .
المرتجعات
مثيل InferenceScope جديد
تفاصيل الأساليب المتوارثة
dispose()
getSpanContext()
الحصول على سياق النطاق لهذا النطاق. يمكن استخدام هذا لإنشاء ParentSpanRef لربط أصل-تابع صريح عبر الحدود غير المتزامنة.
function getSpanContext(): SpanContext
المرتجعات
SpanContext
SpanContext الذي يحتوي على traceId و spanId
recordAttributes(undefined | null | Iterable<[string, AttributeValue]> | Record<string, AttributeValue>)
تسجيل أزواج متعددة من مفاتيح/قيم السمات لتعقب بيانات تتبع الاستخدام.
function recordAttributes(attributes: undefined | null | Iterable<[string, AttributeValue]> | Record<string, AttributeValue>)
المعلمات
- attributes
-
undefined | null | Iterable<[string, AttributeValue]> | Record<string, AttributeValue>
مجموعة أزواج مفتاح/قيمة السمة (صفيف أو قابل للكرر من [مفتاح أو قيمة] أو مخطط كائن).
recordCancellation(string)
تسجيل حدث إلغاء على النطاق. تعيين حالة النطاق إلى ERROR مع سبب الإلغاء ووضع علامة على نوع الخطأ على أنه "TaskCanceledException".
function recordCancellation(reason?: string)
المعلمات
- reason
-
string
سبب الإلغاء الاختياري. الإعدادات الافتراضية ل "تم إلغاء المهمة".
recordError(Error)
تسجيل خطأ حدث أثناء العملية
function recordError(error: Error)
المعلمات
- error
-
Error
الخطأ الذي حدث
موروث منOpenTelemetryScope.recordError
setEndTime(TimeInput)
تعيين وقت انتهاء مخصص للنطاق.
عند التعيين، سيمرر التخلص هذه القيمة إلى span.end() بدلا من استخدام وقت ساعة الحائط الحالي.
وهذا مفيد عندما يكون وقت الانتهاء الفعلي للعملية معروفا قبل التخلص من النطاق.
function setEndTime(endTime: TimeInput)
المعلمات
- endTime
-
TimeInput
وقت الانتهاء بالمللي ثانية منذ فترة أو تاريخ أو مجموعة HrTime.
موروث منOpenTelemetryScope.setEndTime
withActiveSpanAsync<T>(() => Promise<T>)
جعل هذا النطاق نشطا طوال مدة تنفيذ رد الاتصال غير المتزامن
function withActiveSpanAsync<T>(callback: () => Promise<T>): Promise<T>
المعلمات
- callback
-
() => Promise<T>
المرتجعات
Promise<T>