TruncationObject interface
Azt szabályozza, hogy a futtatás előtt hogyan csonkolja a szálat. Ezzel szabályozhatja a futtatás kezdeti környezeti ablakát.
Tulajdonságok
| last |
A futtatás környezetének létrehozásakor a szál legutóbbi üzeneteinek száma. |
| type | A szálhoz használandó csonkítási stratégia. Az alapértelmezett érték a |
Tulajdonság adatai
lastMessages
A futtatás környezetének létrehozásakor a szál legutóbbi üzeneteinek száma.
lastMessages?: null | number
Tulajdonság értéke
null | number
type
A szálhoz használandó csonkítási stratégia. Az alapértelmezett érték a auto. Ha last_messagesértékre van állítva, a rendszer csonkolja a szálat a szál legutóbbi üzeneteinek lastMessages számához. Ha be van autoállítva, a rendszer a szál közepén lévő üzeneteket elveti a modell környezeti hosszának megfelelően. max_prompt_tokens
type: TruncationStrategy