ModelSamplingParams interface
Mewakili sekumpulan parameter yang digunakan untuk mengontrol perilaku pengambilan sampel model bahasa selama pembuatan teks.
Properti
| max_completion_tokens | Jumlah maksimum token yang diizinkan dalam penyelesaian. |
| seed | Benih acak untuk reproduksi. |
| temperature | Parameter suhu untuk pengambilan sampel. |
| top_p | Parameter top-p untuk pengambilan sampel nukleus. |
Detail Properti
max_completion_tokens
Jumlah maksimum token yang diizinkan dalam penyelesaian.
max_completion_tokens: number
Nilai Properti
number
seed
Benih acak untuk reproduksi.
seed: number
Nilai Properti
number
temperature
Parameter suhu untuk pengambilan sampel.
temperature: number
Nilai Properti
number
top_p
Parameter top-p untuk pengambilan sampel nukleus.
top_p: number
Nilai Properti
number