Condividi tramite


InferenceScope class

Fornisce l'ambito di traccia OpenTelemetry per le operazioni di inferenza di intelligenza artificiale generative.

Extends

Metodi

recordFinishReasons(string[])

Registra i motivi di fine per il rilevamento dei dati di telemetria.

recordInputMessages(string[])

Registra i messaggi di input per il rilevamento dei dati di telemetria.

recordInputTokens(number)

Registra il numero di token di input per il rilevamento dei dati di telemetria.

recordOutputMessages(string[])

Registra i messaggi di output per il rilevamento dei dati di telemetria.

recordOutputTokens(number)

Registra il numero di token di output per il rilevamento dei dati di telemetria.

recordResponseId(string)

Registra l'ID risposta per il rilevamento dei dati di telemetria.

start(InferenceDetails, AgentDetails, TenantDetails)

Crea e avvia un nuovo ambito per la traccia dell'inferenza.

Metodi ereditati

dispose()

Metodo dispose legacy per la compatibilità

recordError(Error)

Registra un errore che si è verificato durante l'operazione

withActiveSpanAsync<T>(() => Promise<T>)

Rende attivo questo intervallo per la durata dell'esecuzione del callback asincrono

Dettagli metodo

recordFinishReasons(string[])

Registra i motivi di fine per il rilevamento dei dati di telemetria.

function recordFinishReasons(finishReasons: string[])

Parametri

finishReasons

string[]

Matrice di motivi di fine

recordInputMessages(string[])

Registra i messaggi di input per il rilevamento dei dati di telemetria.

function recordInputMessages(messages: string[])

Parametri

messages

string[]

Matrice di messaggi di input

recordInputTokens(number)

Registra il numero di token di input per il rilevamento dei dati di telemetria.

function recordInputTokens(inputTokens: number)

Parametri

inputTokens

number

Numero di token di input

recordOutputMessages(string[])

Registra i messaggi di output per il rilevamento dei dati di telemetria.

function recordOutputMessages(messages: string[])

Parametri

messages

string[]

Matrice di messaggi di output

recordOutputTokens(number)

Registra il numero di token di output per il rilevamento dei dati di telemetria.

function recordOutputTokens(outputTokens: number)

Parametri

outputTokens

number

Numero di token di output

recordResponseId(string)

Registra l'ID risposta per il rilevamento dei dati di telemetria.

function recordResponseId(responseId: string)

Parametri

responseId

string

ID risposta

start(InferenceDetails, AgentDetails, TenantDetails)

Crea e avvia un nuovo ambito per la traccia dell'inferenza.

static function start(details: InferenceDetails, agentDetails: AgentDetails, tenantDetails: TenantDetails): InferenceScope

Parametri

details
InferenceDetails

Dettagli della chiamata di inferenza

agentDetails
AgentDetails

Dettagli dell'agente

tenantDetails
TenantDetails

Dettagli del tenant

Restituisce

Nuova istanza di InferenceScope

Dettagli dei metodi ereditati

dispose()

Metodo dispose legacy per la compatibilità

function dispose()

Ereditato daOpenTelemetryScope.dispose

recordError(Error)

Registra un errore che si è verificato durante l'operazione

function recordError(error: Error)

Parametri

error

Error

L'errore che si è verificato

Ereditato daOpenTelemetryScope.recordError

withActiveSpanAsync<T>(() => Promise<T>)

Rende attivo questo intervallo per la durata dell'esecuzione del callback asincrono

function withActiveSpanAsync<T>(callback: () => Promise<T>): Promise<T>

Parametri

callback

() => Promise<T>

Restituisce

Promise<T>

Ereditato daOpenTelemetryScope.withActiveSpanAsync