ModelSamplingParams interface
Rappresenta un set di parametri utilizzati per controllare il comportamento di campionamento di un modello linguistico durante la generazione di testo.
Proprietà
| max_completion_tokens | Numero massimo di token consentiti nel completamento. |
| seed | Valore di inizializzazione casuale per la riproducibilità. |
| temperature | Parametro di temperatura per il campionamento. |
| top_p | Parametro top-p per il campionamento del nucleo. |
Dettagli proprietà
max_completion_tokens
Numero massimo di token consentiti nel completamento.
max_completion_tokens: number
Valore della proprietà
number
seed
Valore di inizializzazione casuale per la riproducibilità.
seed: number
Valore della proprietà
number
temperature
Parametro di temperatura per il campionamento.
temperature: number
Valore della proprietà
number
top_p
Parametro top-p per il campionamento del nucleo.
top_p: number
Valore della proprietà
number