ModelSamplingParams interface
Representerar en uppsättning parametrar som används för att styra samplingsbeteendet för en språkmodell under textgenereringen.
Egenskaper
| max_completion_tokens | Det maximala antalet token som tillåts i slutförandet. |
| seed | Det slumpmässiga fröet för reproducerbarhet. |
| temperature | Temperaturparametern för sampling. |
| top_p | Parametern top-p för kärnsampling. |
Egenskapsinformation
max_completion_tokens
Det maximala antalet token som tillåts i slutförandet.
max_completion_tokens: number
Egenskapsvärde
number
seed
Det slumpmässiga fröet för reproducerbarhet.
seed: number
Egenskapsvärde
number
temperature
Temperaturparametern för sampling.
temperature: number
Egenskapsvärde
number
top_p
Parametern top-p för kärnsampling.
top_p: number
Egenskapsvärde
number