InferenceResponse interface
Detaljer for registrering av svaret fra et slutningsanrop
Egenskaper
| content | Det genererte svarinnholdet |
| finish |
Sluttårsak (f.eks. stopp, lengde, content_filter) |
| input |
Antall inndatatokener som brukes |
| output |
Antall genererte utdatatokener |
| response |
Svar-ID fra modellleverandøren |
Egenskapsdetaljer
content
Det genererte svarinnholdet
content: string
Egenskapsverdi
string
finishReason
Sluttårsak (f.eks. stopp, lengde, content_filter)
finishReason?: string
Egenskapsverdi
string
inputTokens
Antall inndatatokener som brukes
inputTokens?: number
Egenskapsverdi
number
outputTokens
Antall genererte utdatatokener
outputTokens?: number
Egenskapsverdi
number
responseId
Svar-ID fra modellleverandøren
responseId?: string
Egenskapsverdi
string