ModelSamplingParams interface

Metin oluşturma sırasında dil modelinin örnekleme davranışını denetlemek için kullanılan bir parametre kümesini temsil eder.

Özellikler

max_completion_tokens

Tamamlanmada izin verilen en fazla belirteç sayısı.

seed

Yeniden üretilebilirlik için rastgele tohum. Varsayılan olarak 42.

temperature

Örnekleme için sıcaklık parametresi. Varsayılan değer 1.0'dır.

top_p

Çekirdek örnekleme için top-p parametresi. Varsayılan değer 1.0'dır.

Özellik Ayrıntıları

max_completion_tokens

Tamamlanmada izin verilen en fazla belirteç sayısı.

max_completion_tokens?: number

Özellik Değeri

number

seed

Yeniden üretilebilirlik için rastgele tohum. Varsayılan olarak 42.

seed?: number

Özellik Değeri

number

temperature

Örnekleme için sıcaklık parametresi. Varsayılan değer 1.0'dır.

temperature?: number

Özellik Değeri

number

top_p

Çekirdek örnekleme için top-p parametresi. Varsayılan değer 1.0'dır.

top_p?: number

Özellik Değeri

number