ModelSamplingParams interface
Stellt eine Reihe von Parametern dar, die zum Steuern des Samplingverhaltens eines Sprachmodells während der Textgenerierung verwendet werden.
Eigenschaften
| max_completion_tokens | Die maximale Anzahl von Token, die im Abschluss zulässig sind. |
| seed | Der zufällige Samen zur Reproduzierbarkeit. |
| temperature | Der Temperaturparameter für die Probenahme. |
| top_p | Der Top-p-Parameter für die Kernsampling. |
Details zur Eigenschaft
max_completion_tokens
Die maximale Anzahl von Token, die im Abschluss zulässig sind.
max_completion_tokens: numberEigenschaftswert
number
seed
Der zufällige Samen zur Reproduzierbarkeit.
seed: numberEigenschaftswert
number
temperature
Der Temperaturparameter für die Probenahme.
temperature: numberEigenschaftswert
number
top_p
Der Top-p-Parameter für die Kernsampling.
top_p: numberEigenschaftswert
number
