TruncationObject interface
Określa sposób obcinania wątku przed uruchomieniem. Służy do kontrolowania początkowego okna kontekstu przebiegu.
Właściwości
| last |
Liczba najnowszych komunikatów z wątku podczas konstruowania kontekstu przebiegu. |
| type | Strategia obcinania do użycia dla wątku. Wartość domyślna to |
Szczegóły właściwości
lastMessages
Liczba najnowszych komunikatów z wątku podczas konstruowania kontekstu przebiegu.
lastMessages?: null | number
Wartość właściwości
null | number
type
Strategia obcinania do użycia dla wątku. Wartość domyślna to auto. Jeśli ustawiono wartość last_messages, wątek zostanie obcięty z lastMessages zlicza najnowsze komunikaty w wątku. Po ustawieniu autowartości na wartość komunikaty w środku wątku zostaną porzucone w celu dopasowania do długości kontekstu modelu . max_prompt_tokens
type: TruncationStrategy