TruncationObject interface
Steuert, wie ein Thread vor der Ausführung abgeschnitten wird. Verwenden Sie diese Option, um das anfängliche Kontextfenster der Ausführung zu steuern.
Eigenschaften
| last |
Die Anzahl der neuesten Nachrichten aus dem Thread, wenn der Kontext für die Ausführung konstruiert wird. |
| type | Die für den Thread zu verwendende Kürzungsstrategie. Der Standardwert lautet |
Details zur Eigenschaft
lastMessages
Die Anzahl der neuesten Nachrichten aus dem Thread, wenn der Kontext für die Ausführung konstruiert wird.
lastMessages?: null | number
Eigenschaftswert
null | number
type
Die für den Thread zu verwendende Kürzungsstrategie. Der Standardwert lautet auto. Wenn dieser Wert auf last_messagesfestgelegt ist, wird der Thread auf die lastMessages Anzahl der letzten Nachrichten im Thread abgeschnitten. Bei Verwendung von auto werden Nachrichten in der Mitte des Threads gelöscht, um der Kontextlänge des Modells (max_prompt_tokens) zu entsprechen.
type: TruncationStrategy