ModelSamplingParams interface

Representa um conjunto de parâmetros usados para controlar o comportamento de amostragem de um modelo de linguagem durante a geração de texto.

Propriedades

max_completion_tokens

O número máximo de tokens permitidos na conclusão.

seed

A semente aleatória para reprodutibilidade.

temperature

O parâmetro de temperatura para amostragem.

top_p

O parâmetro top-p para amostragem de núcleo.

Detalhes da propriedade

max_completion_tokens

O número máximo de tokens permitidos na conclusão.

max_completion_tokens: number

Valor da propriedade

number

seed

A semente aleatória para reprodutibilidade.

seed: number

Valor da propriedade

number

temperature

O parâmetro de temperatura para amostragem.

temperature: number

Valor da propriedade

number

top_p

O parâmetro top-p para amostragem de núcleo.

top_p: number

Valor da propriedade

number