Condividi tramite


ModelSamplingParams interface

Rappresenta un set di parametri utilizzati per controllare il comportamento di campionamento di un modello linguistico durante la generazione di testo.

Proprietà

max_completion_tokens

Numero massimo di token consentiti nel completamento.

seed

Valore di inizializzazione casuale per la riproducibilità.

temperature

Parametro di temperatura per il campionamento.

top_p

Parametro top-p per il campionamento del nucleo.

Dettagli proprietà

max_completion_tokens

Numero massimo di token consentiti nel completamento.

max_completion_tokens: number

Valore della proprietà

number

seed

Valore di inizializzazione casuale per la riproducibilità.

seed: number

Valore della proprietà

number

temperature

Parametro di temperatura per il campionamento.

temperature: number

Valore della proprietà

number

top_p

Parametro top-p per il campionamento del nucleo.

top_p: number

Valore della proprietà

number