Compartir a través de


InferenceResponse interface

Detalles para registrar la respuesta desde una llamada de inferencia

Propiedades

content

Contenido de respuesta generado

finishReason

Motivo del fin (por ejemplo, parada, longitud, content_filter)

inputTokens

Número de tokens de entrada usados

outputTokens

Número de tokens de salida generados

responseId

Id. de respuesta del proveedor de modelos

Detalles de las propiedades

content

Contenido de respuesta generado

content: string

Valor de propiedad

string

finishReason

Motivo del fin (por ejemplo, parada, longitud, content_filter)

finishReason?: string

Valor de propiedad

string

inputTokens

Número de tokens de entrada usados

inputTokens?: number

Valor de propiedad

number

outputTokens

Número de tokens de salida generados

outputTokens?: number

Valor de propiedad

number

responseId

Id. de respuesta del proveedor de modelos

responseId?: string

Valor de propiedad

string