InferenceResponse interface
Dettagli per registrare la risposta da una chiamata di inferenza
Proprietà
| content | Contenuto della risposta generato |
| finish |
Motivo fine (ad esempio, stop, length, content_filter) |
| input |
Numero di token di input usati |
| output |
Numero di token di output generati |
| response |
ID risposta dal provider di modelli |
Dettagli proprietà
content
Contenuto della risposta generato
content: string
Valore della proprietà
string
finishReason
Motivo fine (ad esempio, stop, length, content_filter)
finishReason?: string
Valore della proprietà
string
inputTokens
Numero di token di input usati
inputTokens?: number
Valore della proprietà
number
outputTokens
Numero di token di output generati
outputTokens?: number
Valore della proprietà
number
responseId
ID risposta dal provider di modelli
responseId?: string
Valore della proprietà
string