InferenceScope class
Fornece o escopo de rastreamento opentelemetry para operações de inferência de IA generativas.
- Extends
Métodos
| record |
Registra os motivos de término para o acompanhamento de telemetria. |
| record |
Registra as mensagens de entrada para o acompanhamento de telemetria. |
| record |
Registra o número de tokens de entrada para o acompanhamento de telemetria. |
| record |
Registra as mensagens de saída para o acompanhamento de telemetria. |
| record |
Registra o número de tokens de saída para o acompanhamento de telemetria. |
| record |
Registra a ID de resposta para o acompanhamento de telemetria. |
| start(Inference |
Cria e inicia um novo escopo para rastreamento de inferência. |
Métodos herdados
| dispose() | Método de descarte herdado para compatibilidade |
| record |
Registra um erro que ocorreu durante a operação |
| with |
Torna esse intervalo ativo durante a execução de retorno de chamada assíncrona |
Detalhes do método
recordFinishReasons(string[])
Registra os motivos de término para o acompanhamento de telemetria.
function recordFinishReasons(finishReasons: string[])
Parâmetros
- finishReasons
-
string[]
Matriz de motivos de término
recordInputMessages(string[])
Registra as mensagens de entrada para o acompanhamento de telemetria.
function recordInputMessages(messages: string[])
Parâmetros
- messages
-
string[]
Matriz de mensagens de entrada
recordInputTokens(number)
Registra o número de tokens de entrada para o acompanhamento de telemetria.
function recordInputTokens(inputTokens: number)
Parâmetros
- inputTokens
-
number
Número de tokens de entrada
recordOutputMessages(string[])
Registra as mensagens de saída para o acompanhamento de telemetria.
function recordOutputMessages(messages: string[])
Parâmetros
- messages
-
string[]
Matriz de mensagens de saída
recordOutputTokens(number)
Registra o número de tokens de saída para o acompanhamento de telemetria.
function recordOutputTokens(outputTokens: number)
Parâmetros
- outputTokens
-
number
Número de tokens de saída
recordResponseId(string)
Registra a ID de resposta para o acompanhamento de telemetria.
function recordResponseId(responseId: string)
Parâmetros
- responseId
-
string
A ID de resposta
start(InferenceDetails, AgentDetails, TenantDetails)
Cria e inicia um novo escopo para rastreamento de inferência.
static function start(details: InferenceDetails, agentDetails: AgentDetails, tenantDetails: TenantDetails): InferenceScope
Parâmetros
- details
- InferenceDetails
Os detalhes da chamada de inferência
- agentDetails
- AgentDetails
Os detalhes do agente
- tenantDetails
- TenantDetails
Os detalhes do locatário
Retornos
Uma nova instância de InferenceScope
Detalhes do método herdado
dispose()
Método de descarte herdado para compatibilidade
function dispose()
Herdado deOpenTelemetryScope.dispose
recordError(Error)
Registra um erro que ocorreu durante a operação
function recordError(error: Error)
Parâmetros
- error
-
Error
O erro que ocorreu
Herdado deOpenTelemetryScope.recordError
withActiveSpanAsync<T>(() => Promise<T>)
Torna esse intervalo ativo durante a execução de retorno de chamada assíncrona
function withActiveSpanAsync<T>(callback: () => Promise<T>): Promise<T>
Parâmetros
- callback
-
() => Promise<T>
Retornos
Promise<T>
Herdado deOpenTelemetryScope.withActiveSpanAsync