InferenceScope class
Proporciona el ámbito de seguimiento de OpenTelemetry para las operaciones de inferencia de IA generativas.
- Extends
Métodos
| record |
Registra los motivos de finalización del seguimiento de telemetría. |
| record |
Registra los mensajes de entrada para el seguimiento de telemetría. |
| record |
Registra el número de tokens de entrada para el seguimiento de telemetría. |
| record |
Registra los mensajes de salida para el seguimiento de telemetría. |
| record |
Registra el número de tokens de salida para el seguimiento de telemetría. |
| record |
Registra el identificador de respuesta para el seguimiento de telemetría. |
| start(Inference |
Crea e inicia un nuevo ámbito para el seguimiento de inferencia. |
Métodos heredados
| dispose() | Método Dispose heredado para la compatibilidad |
| record |
Registra un error que se produjo durante la operación |
| with |
Hace que este intervalo se active durante la ejecución de la devolución de llamada asincrónica. |
Detalles del método
recordFinishReasons(string[])
Registra los motivos de finalización del seguimiento de telemetría.
function recordFinishReasons(finishReasons: string[])
Parámetros
- finishReasons
-
string[]
Matriz de motivos de finalización
recordInputMessages(string[])
Registra los mensajes de entrada para el seguimiento de telemetría.
function recordInputMessages(messages: string[])
Parámetros
- messages
-
string[]
Matriz de mensajes de entrada
recordInputTokens(number)
Registra el número de tokens de entrada para el seguimiento de telemetría.
function recordInputTokens(inputTokens: number)
Parámetros
- inputTokens
-
number
Número de tokens de entrada
recordOutputMessages(string[])
Registra los mensajes de salida para el seguimiento de telemetría.
function recordOutputMessages(messages: string[])
Parámetros
- messages
-
string[]
Matriz de mensajes de salida
recordOutputTokens(number)
Registra el número de tokens de salida para el seguimiento de telemetría.
function recordOutputTokens(outputTokens: number)
Parámetros
- outputTokens
-
number
Número de tokens de salida
recordResponseId(string)
Registra el identificador de respuesta para el seguimiento de telemetría.
function recordResponseId(responseId: string)
Parámetros
- responseId
-
string
Identificador de respuesta
start(InferenceDetails, AgentDetails, TenantDetails)
Crea e inicia un nuevo ámbito para el seguimiento de inferencia.
static function start(details: InferenceDetails, agentDetails: AgentDetails, tenantDetails: TenantDetails): InferenceScope
Parámetros
- details
- InferenceDetails
Detalles de la llamada de inferencia
- agentDetails
- AgentDetails
Detalles del agente
- tenantDetails
- TenantDetails
Detalles del inquilino
Devoluciones
Nueva instancia de InferenceScope
Detalles de los métodos heredados
dispose()
Método Dispose heredado para la compatibilidad
function dispose()
Heredado deOpenTelemetryScope.dispose
recordError(Error)
Registra un error que se produjo durante la operación
function recordError(error: Error)
Parámetros
- error
-
Error
El error que ocurrió
Heredado deOpenTelemetryScope.recordError
withActiveSpanAsync<T>(() => Promise<T>)
Hace que este intervalo se active durante la ejecución de la devolución de llamada asincrónica.
function withActiveSpanAsync<T>(callback: () => Promise<T>): Promise<T>
Parámetros
- callback
-
() => Promise<T>
Devoluciones
Promise<T>
Heredado deOpenTelemetryScope.withActiveSpanAsync