ModelSamplingParams interface
テキストの生成中に言語モデルのサンプリング動作を制御するために使用されるパラメーターのセットを表します。
プロパティ
| max_completion_tokens | 完了で許可されるトークンの最大数。 |
| seed | 再現性のためのランダム シード。 |
| temperature | サンプリングの温度パラメーター。 |
| top_p | 核サンプリングの top-p パラメーター。 |
プロパティの詳細
max_completion_tokens
完了で許可されるトークンの最大数。
max_completion_tokens: number
プロパティ値
number
seed
再現性のためのランダム シード。
seed: number
プロパティ値
number
temperature
サンプリングの温度パラメーター。
temperature: number
プロパティ値
number
top_p
核サンプリングの top-p パラメーター。
top_p: number
プロパティ値
number