ModelSamplingParams interface
Vertegenwoordigt een set parameters die worden gebruikt voor het bepalen van het steekproefgedrag van een taalmodel tijdens het genereren van tekst.
Eigenschappen
| max_completion_tokens | Het maximum aantal tokens dat is toegestaan in de voltooiing. |
| seed | Het willekeurige zaad voor reproduceerbaarheid. |
| temperature | De temperatuurparameter voor steekproeven. |
| top_p | De top-p-parameter voor kernsampling. |
Eigenschapdetails
max_completion_tokens
Het maximum aantal tokens dat is toegestaan in de voltooiing.
max_completion_tokens: number
Waarde van eigenschap
number
seed
Het willekeurige zaad voor reproduceerbaarheid.
seed: number
Waarde van eigenschap
number
temperature
De temperatuurparameter voor steekproeven.
temperature: number
Waarde van eigenschap
number
top_p
De top-p-parameter voor kernsampling.
top_p: number
Waarde van eigenschap
number