InferenceScope class

Poskytuje rozsah trasování OpenTelemetry pro operace odvozování generující AI.

Extends

Metody

recordFinishReasons(string[])

Zaznamenává důvody dokončení sledování telemetrie.

recordInputMessages(InputMessagesParam)

Zaznamenává vstupní zprávy pro sledování telemetrie. Přijímá prosté řetězce (automaticky zabalené jako OTEL ChatMessage s rolí user) nebo obálku InputMessages s verzí.

recordInputTokens(number)

Zaznamenává počet vstupních tokenů pro sledování telemetrie.

recordOutputMessages(OutputMessagesParam)

Zaznamenává výstupní zprávy pro sledování telemetrie. Přijímá prosté řetězce (automaticky zabalené jako OTEL OutputMessage s rolí assistant) nebo obálku OutputMessages verze.

recordOutputTokens(number)

Zaznamenává počet výstupních tokenů pro sledování telemetrie.

start(Request, InferenceDetails, AgentDetails, UserDetails, SpanDetails)

Vytvoří a spustí nový obor pro trasování odvozování.

Zděděné metody

dispose()

Starší metoda Dispose pro zajištění kompatibility

getSpanContext()

Získá kontext rozsahu pro tento obor. To lze použít k vytvoření ParentSpanRef pro explicitní propojení nadřazené-podřízené přes async hranice.

recordAttributes(undefined | null | Iterable<[string, AttributeValue]> | Record<string, AttributeValue>)

Zaznamenává několik párů klíč/hodnota atributu pro sledování telemetrie.

recordCancellation(string)

Zaznamenává událost zrušení v rozsahu. Nastaví stav rozsahu na ERROR s důvodem zrušení a označí typ chyby jako TaskCanceledException.

recordError(Error)

Zaznamenává chybu, ke které došlo během operace.

setEndTime(TimeInput)

Nastaví vlastní koncový čas oboru. Při nastavení funkce Dispose tuto hodnotu span.end() předá místo použití aktuálního času na zdi. To je užitečné, když je skutečný čas ukončení operace známý před odstraněním oboru.

withActiveSpanAsync<T>(() => Promise<T>)

Nastaví toto rozsah aktivní po dobu provádění asynchronního zpětného volání.

Podrobnosti metody

recordFinishReasons(string[])

Zaznamenává důvody dokončení sledování telemetrie.

function recordFinishReasons(finishReasons: string[])

Parametry

finishReasons

string[]

Pole důvodů dokončení

recordInputMessages(InputMessagesParam)

Zaznamenává vstupní zprávy pro sledování telemetrie. Přijímá prosté řetězce (automaticky zabalené jako OTEL ChatMessage s rolí user) nebo obálku InputMessages s verzí.

function recordInputMessages(messages: InputMessagesParam)

Parametry

messages
InputMessagesParam

Pole vstupních řetězců zpráv nebo obálky InputMessages

recordInputTokens(number)

Zaznamenává počet vstupních tokenů pro sledování telemetrie.

function recordInputTokens(inputTokens: number)

Parametry

inputTokens

number

Počet vstupních tokenů

recordOutputMessages(OutputMessagesParam)

Zaznamenává výstupní zprávy pro sledování telemetrie. Přijímá prosté řetězce (automaticky zabalené jako OTEL OutputMessage s rolí assistant) nebo obálku OutputMessages verze.

function recordOutputMessages(messages: OutputMessagesParam)

Parametry

messages
OutputMessagesParam

Pole výstupních řetězců zpráv nebo obálky OutputMessages

recordOutputTokens(number)

Zaznamenává počet výstupních tokenů pro sledování telemetrie.

function recordOutputTokens(outputTokens: number)

Parametry

outputTokens

number

Počet výstupních tokenů

start(Request, InferenceDetails, AgentDetails, UserDetails, SpanDetails)

Vytvoří a spustí nový obor pro trasování odvozování.

static function start(request: Request, details: InferenceDetails, agentDetails: AgentDetails, userDetails?: UserDetails, spanDetails?: SpanDetails): InferenceScope

Parametry

request
Request

Žádost o datovou část (kanál, id konverzace, obsah, id relace).

details
InferenceDetails

Podrobnosti volání odvozování (model, poskytovatel, tokeny atd.).

agentDetails
AgentDetails

Agent provádějící odvozování. ID tenanta je odvozeno od agentDetails.tenantId.

userDetails
UserDetails

Volitelná identita volajícího.

spanDetails
SpanDetails

Volitelná konfigurace rozsahu (parentContext, startTime, endTime, spanLinks). Poznámka: spanKind je ignorován; InferenceScope vždy používá SpanKind.CLIENT.

Návraty

Nová instance InferenceScope

Podrobnosti zděděných metod

dispose()

Starší metoda Dispose pro zajištění kompatibility

function dispose()

Zděděno zOpenTelemetryScope.dispose

getSpanContext()

Získá kontext rozsahu pro tento obor. To lze použít k vytvoření ParentSpanRef pro explicitní propojení nadřazené-podřízené přes async hranice.

function getSpanContext(): SpanContext

Návraty

SpanContext

SpanContext obsahující traceId a spanId

Zděděno zOpenTelemetryScope.getSpanContext

recordAttributes(undefined | null | Iterable<[string, AttributeValue]> | Record<string, AttributeValue>)

Zaznamenává několik párů klíč/hodnota atributu pro sledování telemetrie.

function recordAttributes(attributes: undefined | null | Iterable<[string, AttributeValue]> | Record<string, AttributeValue>)

Parametry

attributes

undefined | null | Iterable<[string, AttributeValue]> | Record<string, AttributeValue>

Kolekce párů klíč/hodnota atributu (pole nebo iterable z [klíč, hodnota] nebo mapování objektů).

Zděděno zOpenTelemetryScope.recordAttributes

recordCancellation(string)

Zaznamenává událost zrušení v rozsahu. Nastaví stav rozsahu na ERROR s důvodem zrušení a označí typ chyby jako TaskCanceledException.

function recordCancellation(reason?: string)

Parametry

reason

string

Volitelný důvod zrušení Výchozí hodnota je "Úkol byl zrušen".

Zděděno zOpenTelemetryScope.recordCancellation

recordError(Error)

Zaznamenává chybu, ke které došlo během operace.

function recordError(error: Error)

Parametry

error

Error

Chyba, která nastala

Zděděno zOpenTelemetryScope.recordError

setEndTime(TimeInput)

Nastaví vlastní koncový čas oboru. Při nastavení funkce Dispose tuto hodnotu span.end() předá místo použití aktuálního času na zdi. To je užitečné, když je skutečný čas ukončení operace známý před odstraněním oboru.

function setEndTime(endTime: TimeInput)

Parametry

endTime

TimeInput

Koncový čas jako milisekundy od epochy, data nebo řazené kolekce členů HrTime.

Zděděno zOpenTelemetryScope.setEndTime

withActiveSpanAsync<T>(() => Promise<T>)

Nastaví toto rozsah aktivní po dobu provádění asynchronního zpětného volání.

function withActiveSpanAsync<T>(callback: () => Promise<T>): Promise<T>

Parametry

callback

() => Promise<T>

Návraty

Promise<T>

Zděděno zOpenTelemetryScope.withActiveSpanAsync