TruncationObject interface
Controlla come un thread verrà troncato prima dell'esecuzione. Usare questa opzione per controllare la finestra di contesto iniziale dell'esecuzione.
Proprietà
| last |
Numero di messaggi più recenti dal thread durante la costruzione del contesto per l'esecuzione. |
| type | Strategia di troncamento da usare per il thread. Il valore predefinito è |
Dettagli proprietà
lastMessages
Numero di messaggi più recenti dal thread durante la costruzione del contesto per l'esecuzione.
lastMessages?: null | number
Valore della proprietà
null | number
type
Strategia di troncamento da usare per il thread. Il valore predefinito è auto. Se impostato su last_messages, il thread verrà troncato al lastMessages conteggio dei messaggi più recenti nel thread. Se impostato su auto, i messaggi al centro del thread verranno rimossi per adattarsi alla lunghezza del contesto del modello, max_prompt_tokens.
type: TruncationStrategy