ModelSamplingParams interface
Reprezentuje zestaw parametrów używanych do kontrolowania zachowania próbkowania modelu językowego podczas generowania tekstu.
Właściwości
| max_completion_tokens | Maksymalna liczba tokenów dozwolonych w zakończeniu. |
| seed | Losowe inicjatory do odtworzenia. Domyślnie ustawia się na 42. |
| temperature | Parametr temperatury do próbkowania. Wartość domyślna to 1.0. |
| top_p | Parametr top-p próbkowania jądra. Wartość domyślna to 1.0. |
Szczegóły właściwości
max_completion_tokens
Maksymalna liczba tokenów dozwolonych w zakończeniu.
max_completion_tokens?: number
Wartość właściwości
number
seed
Losowe inicjatory do odtworzenia. Domyślnie ustawia się na 42.
seed?: number
Wartość właściwości
number
temperature
Parametr temperatury do próbkowania. Wartość domyślna to 1.0.
temperature?: number
Wartość właściwości
number
top_p
Parametr top-p próbkowania jądra. Wartość domyślna to 1.0.
top_p?: number
Wartość właściwości
number