ModelSamplingParams interface

代表一組用於控制語言模型在文字生成過程中取樣行為的參數。

屬性

max_completion_tokens

完成過程中允許的最大代幣數量。

seed

這是可重現性的隨機種子。 預設是42。

temperature

取樣的溫度參數。 預設為 1.0。

top_p

核取樣的top-p參數。 預設為 1.0。

屬性詳細資料

max_completion_tokens

完成過程中允許的最大代幣數量。

max_completion_tokens?: number

屬性值

number

seed

這是可重現性的隨機種子。 預設是42。

seed?: number

屬性值

number

temperature

取樣的溫度參數。 預設為 1.0。

temperature?: number

屬性值

number

top_p

核取樣的top-p參數。 預設為 1.0。

top_p?: number

屬性值

number