Compartilhar via


InferenceScope class

Fornece o escopo de rastreamento opentelemetry para operações de inferência de IA generativas.

Extends

Métodos

recordFinishReasons(string[])

Registra os motivos de término para o acompanhamento de telemetria.

recordInputMessages(string[])

Registra as mensagens de entrada para o acompanhamento de telemetria.

recordInputTokens(number)

Registra o número de tokens de entrada para o acompanhamento de telemetria.

recordOutputMessages(string[])

Registra as mensagens de saída para o acompanhamento de telemetria.

recordOutputTokens(number)

Registra o número de tokens de saída para o acompanhamento de telemetria.

recordResponseId(string)

Registra a ID de resposta para o acompanhamento de telemetria.

start(InferenceDetails, AgentDetails, TenantDetails)

Cria e inicia um novo escopo para rastreamento de inferência.

Métodos herdados

dispose()

Método de descarte herdado para compatibilidade

recordError(Error)

Registra um erro que ocorreu durante a operação

withActiveSpanAsync<T>(() => Promise<T>)

Torna esse intervalo ativo durante a execução de retorno de chamada assíncrona

Detalhes do método

recordFinishReasons(string[])

Registra os motivos de término para o acompanhamento de telemetria.

function recordFinishReasons(finishReasons: string[])

Parâmetros

finishReasons

string[]

Matriz de motivos de término

recordInputMessages(string[])

Registra as mensagens de entrada para o acompanhamento de telemetria.

function recordInputMessages(messages: string[])

Parâmetros

messages

string[]

Matriz de mensagens de entrada

recordInputTokens(number)

Registra o número de tokens de entrada para o acompanhamento de telemetria.

function recordInputTokens(inputTokens: number)

Parâmetros

inputTokens

number

Número de tokens de entrada

recordOutputMessages(string[])

Registra as mensagens de saída para o acompanhamento de telemetria.

function recordOutputMessages(messages: string[])

Parâmetros

messages

string[]

Matriz de mensagens de saída

recordOutputTokens(number)

Registra o número de tokens de saída para o acompanhamento de telemetria.

function recordOutputTokens(outputTokens: number)

Parâmetros

outputTokens

number

Número de tokens de saída

recordResponseId(string)

Registra a ID de resposta para o acompanhamento de telemetria.

function recordResponseId(responseId: string)

Parâmetros

responseId

string

A ID de resposta

start(InferenceDetails, AgentDetails, TenantDetails)

Cria e inicia um novo escopo para rastreamento de inferência.

static function start(details: InferenceDetails, agentDetails: AgentDetails, tenantDetails: TenantDetails): InferenceScope

Parâmetros

details
InferenceDetails

Os detalhes da chamada de inferência

agentDetails
AgentDetails

Os detalhes do agente

tenantDetails
TenantDetails

Os detalhes do locatário

Retornos

Uma nova instância de InferenceScope

Detalhes do método herdado

dispose()

Método de descarte herdado para compatibilidade

function dispose()

Herdado deOpenTelemetryScope.dispose

recordError(Error)

Registra um erro que ocorreu durante a operação

function recordError(error: Error)

Parâmetros

error

Error

O erro que ocorreu

Herdado deOpenTelemetryScope.recordError

withActiveSpanAsync<T>(() => Promise<T>)

Torna esse intervalo ativo durante a execução de retorno de chamada assíncrona

function withActiveSpanAsync<T>(callback: () => Promise<T>): Promise<T>

Parâmetros

callback

() => Promise<T>

Retornos

Promise<T>

Herdado deOpenTelemetryScope.withActiveSpanAsync