TruncationObject interface

Azt szabályozza, hogy a futtatás előtt hogyan csonkolja a szálat. Ezzel szabályozhatja a futtatás kezdeti környezeti ablakát.

Tulajdonságok

lastMessages

A futtatás környezetének létrehozásakor a szál legutóbbi üzeneteinek száma.

type

A szálhoz használandó csonkítási stratégia. Az alapértelmezett érték a auto. Ha last_messagesértékre van állítva, a rendszer csonkolja a szálat a szál legutóbbi üzeneteinek lastMessages számához. Ha be van autoállítva, a rendszer a szál közepén lévő üzeneteket elveti a modell környezeti hosszának megfelelően. max_prompt_tokens

Tulajdonság adatai

lastMessages

A futtatás környezetének létrehozásakor a szál legutóbbi üzeneteinek száma.

lastMessages?: null | number

Tulajdonság értéke

null | number

type

A szálhoz használandó csonkítási stratégia. Az alapértelmezett érték a auto. Ha last_messagesértékre van állítva, a rendszer csonkolja a szálat a szál legutóbbi üzeneteinek lastMessages számához. Ha be van autoállítva, a rendszer a szál közepén lévő üzeneteket elveti a modell környezeti hosszának megfelelően. max_prompt_tokens

type: TruncationStrategy

Tulajdonság értéke