TruncationObject interface
Besturingselementen voor hoe een thread wordt afgekapt voordat de uitvoering wordt uitgevoerd. Gebruik deze optie om het eerste contextvenster van de uitvoering te beheren.
Eigenschappen
| last |
Het aantal meest recente berichten uit de thread bij het samenstellen van de context voor de uitvoering. |
| type | De afkappingsstrategie die moet worden gebruikt voor de thread. De standaardwaarde is |
Eigenschapdetails
lastMessages
Het aantal meest recente berichten uit de thread bij het samenstellen van de context voor de uitvoering.
lastMessages?: null | number
Waarde van eigenschap
null | number
type
De afkappingsstrategie die moet worden gebruikt voor de thread. De standaardwaarde is auto. Als deze optie is ingesteld op last_messages, wordt de thread afgekapt tot de lastMessages meest recente berichten in de thread telt. Wanneer deze optie is ingesteldauto, worden berichten in het midden van de thread verwijderd om de contextlengte van het model aan te passen. max_prompt_tokens
type: TruncationStrategy