InferenceResponse interface

Pacote:

@microsoft/agents-a365-observability

Detalhes para gravar a resposta de uma chamada de inferência

Propriedades

content	O conteúdo de resposta gerado
finishReason	Razão de acabamento (por exemplo, paragem, comprimento, content_filter)
inputTokens	Número de tokens de entrada usados
outputTokens	Número de tokens de saída gerados
responseId	ID de resposta do fornecedor do modelo

Detalhes de Propriedade

content

O conteúdo de resposta gerado

content: string

Valor de Propriedade

string

finishReason

Razão de acabamento (por exemplo, paragem, comprimento, content_filter)

finishReason?: string

Valor de Propriedade

string

inputTokens

Número de tokens de entrada usados

inputTokens?: number

Valor de Propriedade

number

outputTokens

Número de tokens de saída gerados

outputTokens?: number

Valor de Propriedade

number

responseId

ID de resposta do fornecedor do modelo

responseId?: string

Valor de Propriedade

string