InferenceScope class
Poskytuje rozsah trasování OpenTelemetry pro operace odvozování generující AI.
- Extends
Metody
| record |
Zaznamenává důvody dokončení sledování telemetrie. |
| record |
Zaznamenává vstupní zprávy pro sledování telemetrie.
Přijímá prosté řetězce (automaticky zabalené jako OTEL ChatMessage s rolí |
| record |
Zaznamenává počet vstupních tokenů pro sledování telemetrie. |
| record |
Zaznamenává výstupní zprávy pro sledování telemetrie.
Přijímá prosté řetězce (automaticky zabalené jako OTEL OutputMessage s rolí |
| record |
Zaznamenává počet výstupních tokenů pro sledování telemetrie. |
| start(Request, Inference |
Vytvoří a spustí nový obor pro trasování odvozování. |
Zděděné metody
| dispose() | Starší metoda Dispose pro zajištění kompatibility |
| get |
Získá kontext rozsahu pro tento obor. To lze použít k vytvoření ParentSpanRef pro explicitní propojení nadřazené-podřízené přes async hranice. |
| record |
Zaznamenává několik párů klíč/hodnota atributu pro sledování telemetrie. |
| record |
Zaznamenává událost zrušení v rozsahu. Nastaví stav rozsahu na ERROR s důvodem zrušení a označí typ chyby jako TaskCanceledException. |
| record |
Zaznamenává chybu, ke které došlo během operace. |
| set |
Nastaví vlastní koncový čas oboru.
Při nastavení funkce Dispose tuto hodnotu |
| with |
Nastaví toto rozsah aktivní po dobu provádění asynchronního zpětného volání. |
Podrobnosti metody
recordFinishReasons(string[])
Zaznamenává důvody dokončení sledování telemetrie.
function recordFinishReasons(finishReasons: string[])
Parametry
- finishReasons
-
string[]
Pole důvodů dokončení
recordInputMessages(InputMessagesParam)
Zaznamenává vstupní zprávy pro sledování telemetrie.
Přijímá prosté řetězce (automaticky zabalené jako OTEL ChatMessage s rolí user) nebo obálku InputMessages s verzí.
function recordInputMessages(messages: InputMessagesParam)
Parametry
- messages
- InputMessagesParam
Pole vstupních řetězců zpráv nebo obálky InputMessages
recordInputTokens(number)
Zaznamenává počet vstupních tokenů pro sledování telemetrie.
function recordInputTokens(inputTokens: number)
Parametry
- inputTokens
-
number
Počet vstupních tokenů
recordOutputMessages(OutputMessagesParam)
Zaznamenává výstupní zprávy pro sledování telemetrie.
Přijímá prosté řetězce (automaticky zabalené jako OTEL OutputMessage s rolí assistant) nebo obálku OutputMessages verze.
function recordOutputMessages(messages: OutputMessagesParam)
Parametry
- messages
- OutputMessagesParam
Pole výstupních řetězců zpráv nebo obálky OutputMessages
recordOutputTokens(number)
Zaznamenává počet výstupních tokenů pro sledování telemetrie.
function recordOutputTokens(outputTokens: number)
Parametry
- outputTokens
-
number
Počet výstupních tokenů
start(Request, InferenceDetails, AgentDetails, UserDetails, SpanDetails)
Vytvoří a spustí nový obor pro trasování odvozování.
static function start(request: Request, details: InferenceDetails, agentDetails: AgentDetails, userDetails?: UserDetails, spanDetails?: SpanDetails): InferenceScope
Parametry
- request
- Request
Žádost o datovou část (kanál, id konverzace, obsah, id relace).
- details
- InferenceDetails
Podrobnosti volání odvozování (model, poskytovatel, tokeny atd.).
- agentDetails
- AgentDetails
Agent provádějící odvozování. ID tenanta je odvozeno od agentDetails.tenantId.
- userDetails
- UserDetails
Volitelná identita volajícího.
- spanDetails
- SpanDetails
Volitelná konfigurace rozsahu (parentContext, startTime, endTime, spanLinks). Poznámka: spanKind je ignorován; InferenceScope vždy používá SpanKind.CLIENT.
Návraty
Nová instance InferenceScope
Podrobnosti zděděných metod
dispose()
Starší metoda Dispose pro zajištění kompatibility
function dispose()
Zděděno zOpenTelemetryScope.dispose
getSpanContext()
Získá kontext rozsahu pro tento obor. To lze použít k vytvoření ParentSpanRef pro explicitní propojení nadřazené-podřízené přes async hranice.
function getSpanContext(): SpanContext
Návraty
SpanContext
SpanContext obsahující traceId a spanId
Zděděno zOpenTelemetryScope.getSpanContext
recordAttributes(undefined | null | Iterable<[string, AttributeValue]> | Record<string, AttributeValue>)
Zaznamenává několik párů klíč/hodnota atributu pro sledování telemetrie.
function recordAttributes(attributes: undefined | null | Iterable<[string, AttributeValue]> | Record<string, AttributeValue>)
Parametry
- attributes
-
undefined | null | Iterable<[string, AttributeValue]> | Record<string, AttributeValue>
Kolekce párů klíč/hodnota atributu (pole nebo iterable z [klíč, hodnota] nebo mapování objektů).
Zděděno zOpenTelemetryScope.recordAttributes
recordCancellation(string)
Zaznamenává událost zrušení v rozsahu. Nastaví stav rozsahu na ERROR s důvodem zrušení a označí typ chyby jako TaskCanceledException.
function recordCancellation(reason?: string)
Parametry
- reason
-
string
Volitelný důvod zrušení Výchozí hodnota je "Úkol byl zrušen".
recordError(Error)
Zaznamenává chybu, ke které došlo během operace.
function recordError(error: Error)
Parametry
- error
-
Error
Chyba, která nastala
Zděděno zOpenTelemetryScope.recordError
setEndTime(TimeInput)
Nastaví vlastní koncový čas oboru.
Při nastavení funkce Dispose tuto hodnotu span.end() předá místo použití aktuálního času na zdi.
To je užitečné, když je skutečný čas ukončení operace známý před odstraněním oboru.
function setEndTime(endTime: TimeInput)
Parametry
- endTime
-
TimeInput
Koncový čas jako milisekundy od epochy, data nebo řazené kolekce členů HrTime.
Zděděno zOpenTelemetryScope.setEndTime
withActiveSpanAsync<T>(() => Promise<T>)
Nastaví toto rozsah aktivní po dobu provádění asynchronního zpětného volání.
function withActiveSpanAsync<T>(callback: () => Promise<T>): Promise<T>
Parametry
- callback
-
() => Promise<T>
Návraty
Promise<T>