Aracılığıyla paylaş


TruncationObject interface

Bir iş parçacığının çalıştırmadan önce nasıl kesileceğini denetler. Çalıştırmanın ilk bağlam penceresini denetlemek için bunu kullanın.

Özellikler

lastMessages

Çalıştırma bağlamını oluştururken iş parçacığından gelen en son iletilerin sayısı.

type

İş parçacığı için kullanılacak kesme stratejisi. Varsayılan değer: auto. last_messagesolarak ayarlanırsa, iş parçacığı iş parçacığındaki en son iletileri lastMessages sayısına yuvarlanır. olarak autoayarlandığında, iş parçacığının ortasındaki iletiler, modelin max_prompt_tokensbağlam uzunluğuna uyacak şekilde bırakılır.

Özellik Ayrıntıları

lastMessages

Çalıştırma bağlamını oluştururken iş parçacığından gelen en son iletilerin sayısı.

lastMessages?: null | number

Özellik Değeri

null | number

type

İş parçacığı için kullanılacak kesme stratejisi. Varsayılan değer: auto. last_messagesolarak ayarlanırsa, iş parçacığı iş parçacığındaki en son iletileri lastMessages sayısına yuvarlanır. olarak autoayarlandığında, iş parçacığının ortasındaki iletiler, modelin max_prompt_tokensbağlam uzunluğuna uyacak şekilde bırakılır.

type: TruncationStrategy

Özellik Değeri