Dela via


ModelSamplingParams interface

Representerar en uppsättning parametrar som används för att styra samplingsbeteendet för en språkmodell under textgenereringen.

Egenskaper

max_completion_tokens

Det maximala antalet token som tillåts i slutförandet.

seed

Det slumpmässiga fröet för reproducerbarhet.

temperature

Temperaturparametern för sampling.

top_p

Parametern top-p för kärnsampling.

Egenskapsinformation

max_completion_tokens

Det maximala antalet token som tillåts i slutförandet.

max_completion_tokens: number

Egenskapsvärde

number

seed

Det slumpmässiga fröet för reproducerbarhet.

seed: number

Egenskapsvärde

number

temperature

Temperaturparametern för sampling.

temperature: number

Egenskapsvärde

number

top_p

Parametern top-p för kärnsampling.

top_p: number

Egenskapsvärde

number