ModelSamplingParams interface
Representa um conjunto de parâmetros usados para controlar o comportamento de amostragem de um modelo de linguagem durante a geração de texto.
Propriedades
| max_completion_tokens | O número máximo de tokens permitidos na conclusão. |
| seed | A semente aleatória para reprodutibilidade. |
| temperature | O parâmetro de temperatura para amostragem. |
| top_p | O parâmetro top-p para amostragem de núcleo. |
Detalhes da propriedade
max_completion_tokens
O número máximo de tokens permitidos na conclusão.
max_completion_tokens: number
Valor da propriedade
number
seed
A semente aleatória para reprodutibilidade.
seed: number
Valor da propriedade
number
temperature
O parâmetro de temperatura para amostragem.
temperature: number
Valor da propriedade
number
top_p
O parâmetro top-p para amostragem de núcleo.
top_p: number
Valor da propriedade
number