InferenceResponse interface
记录来自推理调用的响应的详细信息
属性
| content | 生成的响应内容 |
| finish |
完成原因(例如停止、长度、content_filter) |
| input |
使用的输入令牌数 |
| output |
生成的输出令牌数 |
| response |
来自模型提供程序的响应 ID |
属性详细信息
content
生成的响应内容
content: string
属性值
string
finishReason
完成原因(例如停止、长度、content_filter)
finishReason?: string
属性值
string
inputTokens
使用的输入令牌数
inputTokens?: number
属性值
number
outputTokens
生成的输出令牌数
outputTokens?: number
属性值
number
responseId
来自模型提供程序的响应 ID
responseId?: string
属性值
string