ModelSamplingParams interface

Representa um conjunto de parâmetros usados para controlar o comportamento de amostragem de um modelo de linguagem durante a geração de texto.

Propriedades

max_completion_tokens

O número máximo de tokens permitidos na conclusão.

seed

A semente aleatória para reprodutibilidade. O padrão é 42.

temperature

O parâmetro de temperatura para amostragem. O valor padrão é 1.0.

top_p

O parâmetro top-p para amostragem de núcleo. O valor padrão é 1.0.

Detalhes da propriedade

max_completion_tokens

O número máximo de tokens permitidos na conclusão.

max_completion_tokens?: number

Valor da propriedade

number

seed

A semente aleatória para reprodutibilidade. O padrão é 42.

seed?: number

Valor da propriedade

number

temperature

O parâmetro de temperatura para amostragem. O valor padrão é 1.0.

temperature?: number

Valor da propriedade

number

top_p

O parâmetro top-p para amostragem de núcleo. O valor padrão é 1.0.

top_p?: number

Valor da propriedade

number