InferenceResponse interface
Information om hur du registrerar svaret från ett slutsatsdragningsanrop
Egenskaper
| content | Det genererade svarsinnehållet |
| finish |
Slutorsak (t.ex. stopp, längd, content_filter) |
| input |
Antal indatatoken som används |
| output |
Antal genererade utdatatoken |
| response |
Svars-ID från modellprovidern |
Egenskapsinformation
content
Det genererade svarsinnehållet
content: string
Egenskapsvärde
string
finishReason
Slutorsak (t.ex. stopp, längd, content_filter)
finishReason?: string
Egenskapsvärde
string
inputTokens
Antal indatatoken som används
inputTokens?: number
Egenskapsvärde
number
outputTokens
Antal genererade utdatatoken
outputTokens?: number
Egenskapsvärde
number
responseId
Svars-ID från modellprovidern
responseId?: string
Egenskapsvärde
string