InferenceResponse interface

记录来自推理调用的响应的详细信息

属性

content

生成的响应内容

finishReason

完成原因(例如停止、长度、content_filter)

inputTokens

使用的输入令牌数

outputTokens

生成的输出令牌数

responseId

来自模型提供程序的响应 ID

属性详细信息

content

生成的响应内容

content: string

属性值

string

finishReason

完成原因(例如停止、长度、content_filter)

finishReason?: string

属性值

string

inputTokens

使用的输入令牌数

inputTokens?: number

属性值

number

outputTokens

生成的输出令牌数

outputTokens?: number

属性值

number

responseId

来自模型提供程序的响应 ID

responseId?: string

属性值

string