ModelSamplingParams interface
表示一组参数,用于在文本生成过程中控制语言模型的采样行为。
属性
| max_completion_tokens | 完成中允许的最大令牌数。 |
| seed | 用于可重现的随机种子。 |
| temperature | 采样的温度参数。 |
| top_p | 核采样的 top-p 参数。 |
属性详细信息
max_completion_tokens
完成中允许的最大令牌数。
max_completion_tokens: number
属性值
number
seed
用于可重现的随机种子。
seed: number
属性值
number
temperature
采样的温度参数。
temperature: number
属性值
number
top_p
核采样的 top-p 参数。
top_p: number
属性值
number