InferenceResponse interface

Pacote:

@microsoft/agents-a365-observability

Detalhes para gravar a resposta de uma chamada de inferência

Propriedades

content	O conteúdo da resposta gerada
finishReason	Motivo de término (por exemplo, parar, comprimento, content_filter)
inputTokens	Número de tokens de entrada usados
outputTokens	Número de tokens de saída gerados
responseId	ID de resposta do provedor de modelo

Detalhes da propriedade

content

O conteúdo da resposta gerada

content: string

Valor da propriedade

string

finishReason

Motivo de término (por exemplo, parar, comprimento, content_filter)

finishReason?: string

Valor da propriedade

string

inputTokens

Número de tokens de entrada usados

inputTokens?: number

Valor da propriedade

number

outputTokens

Número de tokens de saída gerados

outputTokens?: number

Valor da propriedade

number

responseId

ID de resposta do provedor de modelo

responseId?: string

Valor da propriedade

string