InferenceScope class
Fornece o âmbito de rastreamento OpenTelemetry para operações de inferência de IA generativa.
- Extends
Métodos
| record |
Regista as razões de acabamento para o rastreio de telemetria. |
| record |
Grava as mensagens de entrada para rastreio de telemetria.
Aceita strings simples (auto-encapsuladas como OTEL ChatMessage com função |
| record |
Regista o número de tokens de entrada para rastreamento de telemetria. |
| record |
Grava as mensagens de saída para rastreamento de telemetria.
Aceita strings simples (auto-encapsuladas como OTEL OutputMessage com papel |
| record |
Regista o número de tokens de saída para rastreamento de telemetria. |
| start(Request, Inference |
Cria e inicia um novo âmbito para o rastreio de inferência. |
Métodos Herdados
| dispose() | Método de descarte legado para compatibilidade |
| get |
Obtém o contexto de extensão para este telescópio. Isto pode ser usado para criar um ParentSpanRef para ligações explícitas pai-filho através de fronteiras assíncronas. |
| record |
Grava múltiplos pares chave/valor de atributos para rastreamento de telemetria. |
| record |
Regista um evento de cancelamento durante a travessia. Define o estado do span para ERRO com a razão do cancelamento e marca o tipo de erro como 'TaskCanceledException'. |
| record |
Regista um erro ocorrido durante a operação |
| set |
Define uma hora de fim personalizada para o telescópio.
Quando definido, descarte transmite este valor para |
| with |
Torna este intervalo ativo durante toda a execução do callback assíncrono |
Detalhes de Método
recordFinishReasons(string[])
Regista as razões de acabamento para o rastreio de telemetria.
function recordFinishReasons(finishReasons: string[])
Parâmetros
- finishReasons
-
string[]
Variedade de razões de acabamento
recordInputMessages(InputMessagesParam)
Grava as mensagens de entrada para rastreio de telemetria.
Aceita strings simples (auto-encapsuladas como OTEL ChatMessage com função user) ou um wrapper InputMessages versionado.
function recordInputMessages(messages: InputMessagesParam)
Parâmetros
- messages
- InputMessagesParam
Array de cadeias de mensagens de entrada ou um wrapper InputMessages
recordInputTokens(number)
Regista o número de tokens de entrada para rastreamento de telemetria.
function recordInputTokens(inputTokens: number)
Parâmetros
- inputTokens
-
number
Número de tokens de entrada
recordOutputMessages(OutputMessagesParam)
Grava as mensagens de saída para rastreamento de telemetria.
Aceita strings simples (auto-encapsuladas como OTEL OutputMessage com papel assistant) ou um wrapper OutputMessages versionado.
function recordOutputMessages(messages: OutputMessagesParam)
Parâmetros
- messages
- OutputMessagesParam
Array de cadeias de mensagens de saída ou um wrapper OutputMessages
recordOutputTokens(number)
Regista o número de tokens de saída para rastreamento de telemetria.
function recordOutputTokens(outputTokens: number)
Parâmetros
- outputTokens
-
number
Número de tokens de saída
start(Request, InferenceDetails, AgentDetails, UserDetails, SpanDetails)
Cria e inicia um novo âmbito para o rastreio de inferência.
static function start(request: Request, details: InferenceDetails, agentDetails: AgentDetails, userDetails?: UserDetails, spanDetails?: SpanDetails): InferenceScope
Parâmetros
- request
- Request
Solicita carga útil (channel, conversationId, content, sessionId).
- details
- InferenceDetails
Os detalhes da chamada de inferência (modelo, fornecedor, tokens, etc.).
- agentDetails
- AgentDetails
O agente que faz a inferência. O ID do inquilino é derivado de agentDetails.tenantId.
- userDetails
- UserDetails
Identificação opcional de chamador humano.
- spanDetails
- SpanDetails
Configuração opcional do span (parentContext, startTime, endTime, spanLinks). Nota: spanKind é ignorado; InferenceScope utiliza SpanKind.CLIENTsempre .
Devoluções
Uma nova instância InferenceScope
Detalhes do Método Herdado
dispose()
Método de descarte legado para compatibilidade
function dispose()
Herdado doOpenTelemetryScope.dispose
getSpanContext()
Obtém o contexto de extensão para este telescópio. Isto pode ser usado para criar um ParentSpanRef para ligações explícitas pai-filho através de fronteiras assíncronas.
function getSpanContext(): SpanContext
Devoluções
SpanContext
O SpanContext contendo traceId e spanId
Herdado deOpenTelemetryScope.getSpanContext
recordAttributes(undefined | null | Iterable<[string, AttributeValue]> | Record<string, AttributeValue>)
Grava múltiplos pares chave/valor de atributos para rastreamento de telemetria.
function recordAttributes(attributes: undefined | null | Iterable<[string, AttributeValue]> | Record<string, AttributeValue>)
Parâmetros
- attributes
-
undefined | null | Iterable<[string, AttributeValue]> | Record<string, AttributeValue>
Coleção de pares chave/valor de atributos (array ou iterável de [chave, valor] ou mapa de objetos).
Herdado deOpenTelemetryScope.recordAttributes
recordCancellation(string)
Regista um evento de cancelamento durante a travessia. Define o estado do span para ERRO com a razão do cancelamento e marca o tipo de erro como 'TaskCanceledException'.
function recordCancellation(reason?: string)
Parâmetros
- reason
-
string
Motivo opcional de cancelamento. Por defeito, 'Tarefa foi cancelada'.
Herdado doOpenTelemetryScope.recordCancelamento
recordError(Error)
Regista um erro ocorrido durante a operação
function recordError(error: Error)
Parâmetros
- error
-
Error
O erro que ocorreu
Herdado doOpenTelemetryScope.recordError
setEndTime(TimeInput)
Define uma hora de fim personalizada para o telescópio.
Quando definido, descarte transmite este valor para span.end() em vez de usar o tempo atual do relógio de parede.
Isto é útil quando a hora real de fim da operação é conhecida antes do escopo.
function setEndTime(endTime: TimeInput)
Parâmetros
- endTime
-
TimeInput
O tempo de fim em milissegundos desde a época, uma Data ou uma tupla HrTime.
Herdado deOpenTelemetryScope.setEndTime
withActiveSpanAsync<T>(() => Promise<T>)
Torna este intervalo ativo durante toda a execução do callback assíncrono
function withActiveSpanAsync<T>(callback: () => Promise<T>): Promise<T>
Parâmetros
- callback
-
() => Promise<T>
Devoluções
Promise<T>
Herdado doOpenTelemetryScope.withActiveSpanAsync