Freigeben über


TruncationObject interface

Steuert, wie ein Thread vor der Ausführung abgeschnitten wird. Verwenden Sie diese Option, um das anfängliche Kontextfenster der Ausführung zu steuern.

Eigenschaften

lastMessages

Die Anzahl der neuesten Nachrichten aus dem Thread, wenn der Kontext für die Ausführung konstruiert wird.

type

Die für den Thread zu verwendende Kürzungsstrategie. Der Standardwert lautet auto. Wenn dieser Wert auf last_messagesfestgelegt ist, wird der Thread auf die lastMessages Anzahl der letzten Nachrichten im Thread abgeschnitten. Bei Verwendung von auto werden Nachrichten in der Mitte des Threads gelöscht, um der Kontextlänge des Modells (max_prompt_tokens) zu entsprechen.

Details zur Eigenschaft

lastMessages

Die Anzahl der neuesten Nachrichten aus dem Thread, wenn der Kontext für die Ausführung konstruiert wird.

lastMessages?: null | number

Eigenschaftswert

null | number

type

Die für den Thread zu verwendende Kürzungsstrategie. Der Standardwert lautet auto. Wenn dieser Wert auf last_messagesfestgelegt ist, wird der Thread auf die lastMessages Anzahl der letzten Nachrichten im Thread abgeschnitten. Bei Verwendung von auto werden Nachrichten in der Mitte des Threads gelöscht, um der Kontextlänge des Modells (max_prompt_tokens) zu entsprechen.

type: TruncationStrategy

Eigenschaftswert