Compartir a través de


InferenceScope class

Proporciona el ámbito de seguimiento de OpenTelemetry para las operaciones de inferencia de IA generativas.

Extends

Métodos

recordFinishReasons(string[])

Registra los motivos de finalización del seguimiento de telemetría.

recordInputMessages(string[])

Registra los mensajes de entrada para el seguimiento de telemetría.

recordInputTokens(number)

Registra el número de tokens de entrada para el seguimiento de telemetría.

recordOutputMessages(string[])

Registra los mensajes de salida para el seguimiento de telemetría.

recordOutputTokens(number)

Registra el número de tokens de salida para el seguimiento de telemetría.

recordResponseId(string)

Registra el identificador de respuesta para el seguimiento de telemetría.

start(InferenceDetails, AgentDetails, TenantDetails)

Crea e inicia un nuevo ámbito para el seguimiento de inferencia.

Métodos heredados

dispose()

Método Dispose heredado para la compatibilidad

recordError(Error)

Registra un error que se produjo durante la operación

withActiveSpanAsync<T>(() => Promise<T>)

Hace que este intervalo se active durante la ejecución de la devolución de llamada asincrónica.

Detalles del método

recordFinishReasons(string[])

Registra los motivos de finalización del seguimiento de telemetría.

function recordFinishReasons(finishReasons: string[])

Parámetros

finishReasons

string[]

Matriz de motivos de finalización

recordInputMessages(string[])

Registra los mensajes de entrada para el seguimiento de telemetría.

function recordInputMessages(messages: string[])

Parámetros

messages

string[]

Matriz de mensajes de entrada

recordInputTokens(number)

Registra el número de tokens de entrada para el seguimiento de telemetría.

function recordInputTokens(inputTokens: number)

Parámetros

inputTokens

number

Número de tokens de entrada

recordOutputMessages(string[])

Registra los mensajes de salida para el seguimiento de telemetría.

function recordOutputMessages(messages: string[])

Parámetros

messages

string[]

Matriz de mensajes de salida

recordOutputTokens(number)

Registra el número de tokens de salida para el seguimiento de telemetría.

function recordOutputTokens(outputTokens: number)

Parámetros

outputTokens

number

Número de tokens de salida

recordResponseId(string)

Registra el identificador de respuesta para el seguimiento de telemetría.

function recordResponseId(responseId: string)

Parámetros

responseId

string

Identificador de respuesta

start(InferenceDetails, AgentDetails, TenantDetails)

Crea e inicia un nuevo ámbito para el seguimiento de inferencia.

static function start(details: InferenceDetails, agentDetails: AgentDetails, tenantDetails: TenantDetails): InferenceScope

Parámetros

details
InferenceDetails

Detalles de la llamada de inferencia

agentDetails
AgentDetails

Detalles del agente

tenantDetails
TenantDetails

Detalles del inquilino

Devoluciones

Nueva instancia de InferenceScope

Detalles de los métodos heredados

dispose()

Método Dispose heredado para la compatibilidad

function dispose()

Heredado deOpenTelemetryScope.dispose

recordError(Error)

Registra un error que se produjo durante la operación

function recordError(error: Error)

Parámetros

error

Error

El error que ocurrió

Heredado deOpenTelemetryScope.recordError

withActiveSpanAsync<T>(() => Promise<T>)

Hace que este intervalo se active durante la ejecución de la devolución de llamada asincrónica.

function withActiveSpanAsync<T>(callback: () => Promise<T>): Promise<T>

Parámetros

callback

() => Promise<T>

Devoluciones

Promise<T>

Heredado deOpenTelemetryScope.withActiveSpanAsync