InferenceResponse interface
Detalles para registrar la respuesta desde una llamada de inferencia
Propiedades
| content | Contenido de respuesta generado |
| finish |
Motivo del fin (por ejemplo, parada, longitud, content_filter) |
| input |
Número de tokens de entrada usados |
| output |
Número de tokens de salida generados |
| response |
Id. de respuesta del proveedor de modelos |
Detalles de las propiedades
content
Contenido de respuesta generado
content: string
Valor de propiedad
string
finishReason
Motivo del fin (por ejemplo, parada, longitud, content_filter)
finishReason?: string
Valor de propiedad
string
inputTokens
Número de tokens de entrada usados
inputTokens?: number
Valor de propiedad
number
outputTokens
Número de tokens de salida generados
outputTokens?: number
Valor de propiedad
number
responseId
Id. de respuesta del proveedor de modelos
responseId?: string
Valor de propiedad
string