TruncationObject interface
Určuje, jak bude vlákno před spuštěním zkráceno. Pomocí tohoto příkazu můžete řídit počáteční kontextové okno spuštění.
Vlastnosti
| last |
Počet nejnovějších zpráv z vlákna při vytváření kontextu pro spuštění. |
| type | Strategie zkrácení, která se má použít pro vlákno. Výchozí hodnota je |
Podrobnosti vlastnosti
lastMessages
Počet nejnovějších zpráv z vlákna při vytváření kontextu pro spuštění.
lastMessages?: null | number
Hodnota vlastnosti
null | number
type
Strategie zkrácení, která se má použít pro vlákno. Výchozí hodnota je auto. Pokud je nastavena hodnota last_messages, vlákno bude zkráceno na lastMessages počet nejnovějších zpráv ve vlákně. Při nastavení na autohodnotu , zprávy uprostřed vlákna budou vynechán tak, aby odpovídaly kontextové délce modelu, max_prompt_tokens.
type: TruncationStrategy