ModelSamplingParams interface

Reprezentuje zestaw parametrów używanych do kontrolowania zachowania próbkowania modelu językowego podczas generowania tekstu.

Właściwości

max_completion_tokens

Maksymalna liczba tokenów dozwolonych w zakończeniu.

seed

Losowe inicjatory do odtworzenia. Domyślnie ustawia się na 42.

temperature

Parametr temperatury do próbkowania. Wartość domyślna to 1.0.

top_p

Parametr top-p próbkowania jądra. Wartość domyślna to 1.0.

Szczegóły właściwości

max_completion_tokens

Maksymalna liczba tokenów dozwolonych w zakończeniu.

max_completion_tokens?: number

Wartość właściwości

number

seed

Losowe inicjatory do odtworzenia. Domyślnie ustawia się na 42.

seed?: number

Wartość właściwości

number

temperature

Parametr temperatury do próbkowania. Wartość domyślna to 1.0.

temperature?: number

Wartość właściwości

number

top_p

Parametr top-p próbkowania jądra. Wartość domyślna to 1.0.

top_p?: number

Wartość właściwości

number