ModelSamplingParams interface
代表一組用於控制語言模型在文字生成過程中取樣行為的參數。
屬性
| max_completion_tokens | 完成過程中允許的最大代幣數量。 |
| seed | 這是可重現性的隨機種子。 預設是42。 |
| temperature | 取樣的溫度參數。 預設為 1.0。 |
| top_p | 核取樣的top-p參數。 預設為 1.0。 |
屬性詳細資料
max_completion_tokens
完成過程中允許的最大代幣數量。
max_completion_tokens?: number
屬性值
number
seed
這是可重現性的隨機種子。 預設是42。
seed?: number
屬性值
number
temperature
取樣的溫度參數。 預設為 1.0。
temperature?: number
屬性值
number
top_p
核取樣的top-p參數。 預設為 1.0。
top_p?: number
屬性值
number